Senior Software Engineer - AI Agent Evaluation
Mindrift | Anywhere in the World
Kirjeldus
Peakorter: Kanada URL: https://mindrift.ai/ Palun esitage oma CV inglise keeles ja märkige oma inglise keele oskuse tase. Mindrift ühendab spetsialistid projektipõhiste AI võimalusi juhtivatele tehnoloogia ettevõtetele, keskendunud katsetamine, hindamine ja parandamine AI süsteemid. Osalemine on projektipõhine, mitte alaline töö. Mida see võimalus hõlmab Me ehitame andmekogumi hinnata AI kodeerimine agendid - kui hästi mudel tegeleb reaalse maailma arendaja ülesandeid. Te luua väljakutseid ja hindamise kriteeriumid realistlik simuleeritud keskkondades: • ehitada realistlik arendaja keskkond - virtuaalne ettevõte, millel on koode, infrastruktuur, ja kontekstis (piletid, docs, vestlused), mis moodustab usutav arengu ajalugu • Design ülesandeid vaheriikides nende keskkondade - käsitöö kiire, määratleda, mida "lahendatud" tähendab, ja tagada ülesanne on lahendatav AI agent
• Kirjutage testid, mis kontrollivad agendi lahendusi - võtke kõik kehtivad lähenemisviisid ja ärge valesti, liiga ranged ega liiga leebed • Itereerige QA tagasisidel põhinevatel ülesannetel ja testidel - kontrollige agendi lahendusi, analüüsige ja täiustage, kuni hindamine on õiglane ja kindel Mida see ei ole • Ei ole andmete märgistamine • Ei ole kiire inseneri • Ei kirjuta koodi nullist - agent kirjutab enamiku koodi; te juhendate ja hindate, mida me otsime • 5+ aastat tarkvaraarenduses • Core korstnas: Python (FastAPI), JavaScript/TypeScript (React), Docker, Postgres, Kafka, Redis • Kogemuste kirjutamistest (funktsionaalne, integratsioon) • Inglise keele oskus - B2+
Miks on see kõva piirimudelid juba hästi kodeeritud. Ülesanne, mis tõesti seab parimad mudelid kahtluse alla, on mitte- tühine. Sa pead sügavalt mõistma, kus mudelid ebaõnnestuvad ja millised stsenaariumid näitavad erinevust hea ja halva lahenduse vahel. Ülesanded on palju õigeid lahendusi vastu võtvaid ja valesid mitteesitavaid teste on raskem kui see kõlab. Kuidas see töötab Rakenda → Pass kvalifikatsioon(s) → Liitu projektiga → Täielikud ülesanded → Selle projekti eest tasuliste jõupingutuste hindamine Ülesanded võetakse olenevalt keerukusest hinnanguliselt 20 tundi. See on hinnang ja mitte ajakavanõue; valid, millal ja kuidas tööd teha. Ülesanded tuleb esitada tähtaja järgi ja täita lubatud vastuvõtukriteeriumid. Hüvitis kuni $50/hr ekvivalent, sõltuvalt tasemest ja tempost. Ülesanded on hinnanguliselt ~20 tundi, iga kord määrad oma ajakava.
Vt põhjendus 36.
Töö üksikasjad
Kogemused: 0 aastat
Postitatud: 3 months tagasi
Vaated: 686
Rakenda We Work RemotelyAllikas: We Work Remotely · avab esialgse postituse.
Hangi kohandatud rakendus selle rolli
Jäta oma CV ja me kirjutada kaaskiri, mille eesmärk on see täpne nimekiri ~ tasuta, ja valmis hetkel oma konto on loodud.
PDF, Word või tekst. Loome teie vaba konto järgmisel ekraanil ~ kaardita.
Kas sa palkad sellise rolli?
Postita oma kaugtöö WFHJ-sse ja jõua sobivate kandidaatideni.
Tööle ~ tasuta