Datuen Ingeniari Nagusia - AWS Data Lake & Pipeline Architecture
Toptal | Anywhere in the World
Azalpena
Egoitza:
Laburpena Datuen Ingeniari bat behar dugu datuen adimenaren plataforma baten garapena laguntzeko. Funtzio honek datuen modelizazioan, datu-zerbitzuetan, datu-hornidura-sareetan eta hodeian oinarritutako datu-azpiegituretan zentratzen da, txostenak egiteko, analisiak egiteko eta datuen zientziarako. Informazio orokorra Datuen Ingeniari honek datuekin lotutako eragiketak lagunduko ditu Data Intelligence Platform taldean. Lan horretan web-zerbitzuak eraiki eta kontsumitzea, bilaketa-teknologiak integratzea, pertsonalizazio eta gomendio-motorrak eustea eta datuen ingeniaritzako praktika onenak aplikatzea sartzen dira. Funtzio honek hodeian oinarritutako datuen arkitektura, datu-baseen errendimendua, hodien automatizazioa eta datu-zientzilarien, ikertzaileen eta barneko negozio-unitateen laguntza barne hartzen ditu. Inguruneak AWS-n oinarritutako azpiegitura eta datu-iturri egituratu eta egituratu gabekoen nahasketa barne hartzen du. Zeregin eta emaitza - Parte hartu arkitektura diseinuan eta errendimendu handiko, eskalagarri eta optimizatutako datu-soluzioen inplementazioan. - Sortu datu-modeloak hutsetik SQL oinarri sendoak erabiliz. - Idatzi eta optimizatu aplikazio barruko SQL aginduak. - Ziurtatu datu-baseen errendimendua, segurtasuna eta erabilgarritasuna. - Dokumentazioa eta zehaztapen teknikoak prestatu. - Datu-baseen prozedurak kudeatu, hala nola bertsio-berritzeak, babeskopiak, berreskuratzeak eta migrazioak. - Zerbitzari-baliabideen erabileraren profila eta konfigurazioen optimizazioa behar bezala. - Diseinu, eraikuntza eta datu-hornidura-sareen eta aplikazioen hedapena automatizatzea. - Integratu datu-base lokalen eta kanpoko datu-iturrien datuak REST APIak eta harrapaketa-tresnak erabiliz.
- Lankidetzan jardun negozio unitateekin eta datuen zientziako taldeekin datuen sarbidean, eraldaketa, prozesamendua eta txostenak egiteko beharrei buruz. - Data Lake ekosistemari lotutako inplementazioa, arazo teknikoak eta prestakuntza. - Lan egin taldearekin AWS baliabideak kudeatzeko, EMR eta ECS klusterrak barne. - AWS tresnen hornidura, monitorizazioa, konfigurazioa eta mantentze-lanak. - Gaitasunak hobetzen eta operazio-kostuak murrizten dituzten hodeiko teknologia berriak ebaluatu eta sustatzea. - Kode gisa Infrastruktura Terraform eta CI / CD tresnak, hala nola Jenkins-ekin erabiltzen duten automatizazio-ahaleginetarako laguntza. - Lan egin taldearekin datuen gobernantza, sarbide-kontrola eta segurtasun-arriskua murrizteko. Beharrezko esperientzia - 7-9 urteko esperientzia hodeian oinarritutako datu-modeloak, ETL hodiak eta azpiegiturak diseinatu eta garatzeko. - Datu egituratuekin eta egituragabeekin lan egiteko esperientzia. - SQL datu-base ezagunen gaitasun handia. - SQL agindu handi eta konplexuak optimizatzeko esperientzia. - Erlaziozko datu-baseetarako praktika onenak ezagutzea. - Datu-baseen motorrak konfiguratzeko eta klusterrak orkestratzeko esperientzia. - Baliabide-eskakizunak goi-mailako zehaztapenetatik planifikatzeko gaitasuna. - Datu-base arrunten arazoak konpontzeko gaitasuna. - Spark, Glue, EMR eta Apache Kafka edo AWS Kinesis esperientzia. - Git edo Subversion bezalako bertsio-kontrol tresnak erabiltzeko esperientzia. - Eraikuntza sistema automatizatuak eta CI / CD lan-fluxuak erabiltzeko esperientzia. - Java, Python eta Scala programazio esperientzia. - Datu-egituren eta algoritmoen ezagutza.
- Erlaziozko, NoSQL, grafo, dokumentu, gako-balio eta denbora-serie datu-baseen ezagutza. - Datu-modelo eskalagarrien diseinu eta kudeaketaren ezagutza. - ML modeloen hedapenaren ezagutza. - AWS hodei plataformak ezagutzea. - TDD eta BDD ezagutza. - Software garapen trebetasunak, markoak eta teknologiak hobetzeko interesa. Konpromisoaren nabarmenenak - Datuen modelizazioa, datu-zerbitzuak eta datuen zientzia Data Intelligence Plataforma zabalago batean lan egiteko aukera. - AWS, ETL hodiak, datu-baseak, bilaketa teknologiak eta gomendio sistemak barne hartzen dituen ingurune tekniko anitzeko esposizioa. - Datuen zientzia taldeekin eta barne interesdunekin zuzeneko lankidetza txostenak, eraldaketa eta plataformaren gaitasunak.
Eskatzeko: https://weworkremotely.com/remote-jobs/toptal-senior-data-engineer-aws-data-lake-pipeline-architecture
Lanaren xehetasunak
Esperientzia: 0 urte
Bidalitako: 1 month, 2 weeks orain
Ikuspegiak: 872
Aplikatu hemen We Work RemotelyHemendik hartua We Work Remotely · jatorrizko posta irekitzen du.
Eskuratu rol honetarako aplikazio pertsonalizatua
Zure CVa utzi eta gutun bat idatziko dizugu zerrenda zehatza hau egiteko - doan eta prest zure kontua sortu bezain pronto.
PDF, Word edo testua. Hurrengo pantailan zure kontu doakoa sortuko dugu - txartelik gabe.
Hau bezalako lan bat kontratatzea?
Postatu zure urruneko lana WFHJn eta iritsi bat datozen hautagaiei. Kosturik gabe.
Postatu lan bat — doan