MATCHING|INSCRIPTION

Data Engineer Senior Ia / Ml - Apache Spark - Freelance

Sur siteAutreTarif à négocier

Présentation de La MISSION

La mission s'inscrit au sein d'une entité technologique d'un grand groupe de gestion d'actifs, responsable de la conception, du développement, de la commercialisation et du maintien de solutions technologiques pour l'industrie de l'épargne et de la gestion d'actifs. La prestation interviendra sur le socle Data/IA, en lien étroit avec l'équipe d'ingénierie de production afin d'assurer le support à l'échelle. Le consultant n'aura pas la charge de l'exploitation quotidienne, mais devra être capable d'intervenir sur des problèmes concrets, de structurer les pratiques, d'outiller les équipes et de garantir la robustesse et la scalabilité des solutions en place. Le besoin vise un profil à la fois opérationnel et capable de conseil., Expertise opérationnelle sur les plateformes Data/IA * Challenger et améliorer concrètement les plateformes d'orchestration et de requêtage distribué : diagnostic des problèmes de performance, optimisation des configurations, revue des patterns d'utilisation * Concevoir et optimiser les pipelines d'ingestion et de traitement de données basés sur Spark : performance des jobs, gestion des volumétries, stratégies de partitionnement et formats de stockage * Intervenir directement sur les évolutions techniques pour accompagner la montée en charge : volumétrie, nombre d'utilisateurs, complexité des pipelines * Contribuer à la gouvernance technique par la pratique : établir des standards à partir de cas concrets et documenter les décisions techniques * Évaluer et prototyper l'intégration de nouveaux composants dans l'écosystème : formats de stockage, outils de catalogue, moteurs de calcul Industrialisation et scalabilité : * Industrialiser les pipelines Data et IA/ML avec un objectif de fiabilité, observabilité et reproductibilité, en mettant en œuvre directement les solutions * Concevoir et implémenter les patterns de déploiement et d'exploitation à l'échelle en collaboration avec les équipes support et l'équipe d'ingénierie de production * Mettre en place les mécanismes de monitoring, d'alerting et de capacity planning adaptés aux workloads Data/IA * Structurer le support de niveau 3 et accompagner l'équipe de production sur le support de niveaux 1 et 2 Accompagnement et montée en compétence : * Conseiller et accompagner les équipes de développement et de data science dans l'utilisation optimale des plateformes * Assurer un rôle de référent technique opérationnel au sein de l'équipe, par l'exemple et le pair-working * Participer à la veille technologique et réaliser des POCs sur des évolutions pertinentes pour l'écosystème Data/IA Environnement fonctionnel : * Plateformes Data & IA/ML * Plateformes Kubernetes on-premise et Cloud servant de socle d'hébergement * Outils DevOps : intégration continue, déploiement, observabilité * Projets de R&D visant à moderniser le SI * Accompagnement des initiatives IA/ML du groupe * Outils de monitoring du SI

Profil Recherché

Expertises techniques indispensables : * Orchestration de données : expertise d'exploitation, de tuning et d'évolution en production * Moteur de requêtage distribué : expertise d'exploitation, de tuning et d'évolution en production * Ingestion et processing de données avec Apache Spark : conception et optimisation de pipelines à l'échelle * Écosystème Data / Big Data : maîtrise à expertise * Mise à l'échelle de plateformes Data en production : expertise sur des problématiques réelles de scalabilité * Python : maîtrise * Systèmes Unix/Linux : maîtrise Expertises appréciées : * Conteneurisation et orchestration : Docker, Kubernetes * Plateformes cloud : Azure AKS * Infrastructure as Code et GitOps * Outils MLOps et déploiement de modèles IA * Développement applicatif : Go, Java Livrables attendus : * Mise en œuvre des sujets précités * Recommandations techniques documentées sur les plateformes d'orchestration, de requêtage distribué et les autres outils nécessaires à la mission, appuyées sur des diagnostics concrets * Plans de scalabilité et roadmap d'évolution du socle Data/IA Compétences / Qualités indispensables: Dagster ou orchestration de données,Trino ou requêtage distribué,Apache Spark,Scalabilité de plateformes Data en production,Python,Kubernetes / MLOps Compétences / Qualités qui seraient un +: Docker et Kubernetes, Azure AKS, Infrastructure as Code et GitOps, outils MLOps, développement applicatif Go/Java

Partager cette mission via

MISSIONS SIMILAIRES

Explore ces missions en lien avec tes compétences et ton expérience.

Le contexte est très orienté engineering, industrialisation et scalabilité avec des enjeux temps rée...

Autre

Le produit couvre deux axes : l'optimisation data-driven des plannings quotidiens des équipes manufa...

Autre

Présentation de la mission En tant que Data Engineer Confirmé, vous intervenez sur des projets strat...

DÉCOUVREZ CES MISSIONS POPULAIRES

✨ Rejoignez Conciergerie Loc de l'Ouest Femme de ménage indépendante / Auto-entrepreneure (H/F) 📍...

Temps partiel (≤ 32 heures)

Animer une session de formation PSC1 auprès d'un groupe de salariés.

Autre

Bonjour, nous recherchons activement des commerciaux terrain pour honorer un planning de rendez-vous...

Non renseigné
Plein Temps

Contexte de la mission Intégré à l'équipe R&D, vous travaillerez sur le projet stratégique. Ce p...

Plein Temps

Les missions principales du Pôle correspondent à la livraison du service, à l'émergence d'un cadre d...

Plein Temps