Hoofdkwartier: Londen, UK; Ontario, CAN; Remote-Friendly, Verenigde Staten; San Francisco, CA About Antropic Antropic. Het is de missie van Antropic Antropic. Ons team is een snel groeiende groep van geëngageerde onderzoekers, ingenieurs, beleidsdeskundigen en bedrijfsleiders die samenwerken om voordelige AI-systemen te bouwen. Toepassingen zijn momenteel gesloten, we zullen deze pagina bijwerken wanneer ze opnieuw geopend worden.Anthropic Fellows Program overzicht Het Antropic Fellows Program is ontworpen om AI-onderzoek en engineering talent te bevorderen. We bieden financiering en mentorship aan veelbelovend technisch talent - ongeacht eerdere ervaring. Fellows zal voornamelijk externe infrastructuur gebruiken (bijv. open-source modellen, publieke API's) om te werken aan een empirisch project dat is afgestemd op onze onderzoeksprioriteiten, met als doel het produceren van een publieke output (bijvoorbeeld een papieren inzending). In een van onze eerdere cohorten, produceerden meer dan 80% van de collega's papers. We voeren meerdere cohorten van Fellows elk jaar en beoordelen toepassingen op een voortschrijdende basis. Wat te verwachten • 4 maanden full-time onderzoek • Directmentorship van antropische onderzoekers • Toegang tot een gedeelde werkruimte (in Berkeley, Californië of Londen, UK) • Verbinding met de bredere AI veiligheids- en beveiligingsonderzoek gemeenschap • Weekoverzicht van 3,850 USD / 2,310 GBP / 4,300 CAD + voordelen (deze verschillen per land) • Financiering voor compute (~$ 15k/maand) en andere onderzoeksuitgaven Interview proces

Het interviewproces zal een eerste aanvraag & referentie controle, technische beoordelingen & interviews, en een onderzoeksdiscussie omvatten. We moedigen u aan om zelfs als u niet gelooft dat u voldoet aan elke kwalificatie. Niet alle sterke kandidaten zullen voldoen aan elke enkele kwalificatie zoals vermeld. Onderzoek toont aan dat mensen die zich identificeren als zijnde van ondervertegenwoordigde groepen zijn meer geneigd om het ervaren van bedriegerssyndroom en het twijfelen aan de kracht van hun kandidaatstelling, dus we raden u aan om niet uit te sluiten jezelf voortijdig en een aanvraag als je geïnteresseerd bent in dit werk. We denken dat AI systemen zoals degenen die we bouwen hebben enorme sociale en ethische implicaties hebben. We denken dat dit maakt vertegenwoordiging nog belangrijker, en we streven naar een scala van verschillende perspectieven op ons team. Compensatie De verwachte basis stipend voor deze rol is 3.850 USD / 2,310 GBP / 4,300 CAD per week, met een verwachting van 40 uur per week voor 4 maanden (met mogelijke uitbreiding).

Door het succes van het Anthropic Fellows for AI Safety Research programma, breiden we het nu uit over de teams bij Antropic. We verwachten dat er een aanzienlijke overlapping is in de soorten vaardigheden en verantwoordelijkheden tussen de rollen en zullen standaard kandidaten overwegen voor alle workstreams. Sommige workstreams kunnen unieke beoordelingsstappen omvatten; we vragen u daarom om workstream voorkeuren in de applicatie. U kunt een overzicht zien van de huidige workstreams hieronder: • AI Safety Fellows • AI Security Fellows • ML Systems & Performance Fellows

• Versterking Learning Fellows • The Antropic Institute Fellows (Economics & Policy) Deze pagina is specifiek voor een van de Antropic Fellows Workstreams, zie ook de belangrijkste Antropic Fellows posting. Over de workstreams, je kan een goede pasvorm als je: • Zijn gemotiveerd door ervoor te zorgen dat AI veilig en gunstig is voor de samenleving als geheel • Zijn opgewonden om de overgang naar empirisch AI onderzoek en zou geïnteresseerd zijn in een full-time rol bij Antropic • Hebben een sterke technische achtergrond in computerwetenschappen, wiskunde, of natuurkunde • Drijven in snel-ge-tempo, samenwerkende omgevingen • Kan ideeën snel implementeren en duidelijk communiceren Sterke kandidaten kunnen ook hebben: • Sterke achtergrond in een discipline die relevant is voor een specifieke Fellows workstream (bijv. economie, sociale wetenschappen, of cybersecurity)

• Ervaring op het gebied van onderzoek of engineering in verband met hun werkstroom Kandidaten moeten zijn: • Gevlogen in Python programmering • Beschikbaar om full-time te werken op het Fellows programma AI Safety Fellows Mentors, onderzoeksgebieden, & verleden projecten Fellows zal een project selectie en mentor matching proces ondergaan. Mogelijke mentoren omvatten: • Sam Bowman • Sara Price • Alex Tamkin • Nina Panickssery • Trenton Bricken • Logan Graham • Jascha Sohl-Dickstein • Joe Benton • Collin Burns • Fabien Roger • Samuel Marks • Kyle Fish • Ethan Perez Onze mentoren zullen projecten leiden in geselecteerde AI veiligheid onderzoeksgebieden, zoals:

• Schaalbaar Oversight: Ontwikkeling van technieken om zeer capabele modellen behulpzaam en eerlijk te houden, zelfs als ze de intelligentie op menselijk niveau overtreffen in verschillende domeinen.

• Adversariale Robuustheid en AI Control: Het creëren van methoden om ervoor te zorgen dat geavanceerde AI-systemen veilig en onschadelijk blijven in onbekende of tegendraadse scenario's. • ModelOrganismen: Het creëren van modelorganismen van verkeerde afstemming om ons empirisch inzicht in hoe alignment storingen kunnen ontstaan te verbeteren. • Model Internalen / Mechanistische Verbeterbaarheid: Het bevorderen van ons begrip van de interne werking van grote taalmodellen om meer gerichte interventies en veiligheidsmaatregelen mogelijk te maken. • AI Welzijn: Het verbeteren van ons begrip van potentiële AI welzijn en het ontwikkelen van gerelateerde evaluaties en mitigaties. Op onze Blogs van Alex Cloud en Minh Le, et al, kunt u lezen over eerdere projecten, waaronder: • Subliminal Learning: Taalmodellen Transmit Behavioral Traits via Hidden Signals: Alex Cloud en Minh, et al., mentors inclusief Samuel Marks en Owain Evans

• Open-source circuits: Michael Hanna en Mateusz Piotrowski met mentorschap van Emmanuel Ameisen en Jack Lindsey Voor een volledige lijst van representatieve projecten voor elk gebied, zie deze blogberichten: Introductie van het Antropic Fellows Program for AI Safety Research, Aanbevelingen voor Technische AI Safety Research Directions. Unieke kandidaatcriteria Je zou een bijzonder groot kunnen zijn