Data Ingénieur GCP

Le besoin

Définition du besoin

La Direction Technique du Numérique mène des projets transverses en étroite collaboration avec les autres directions, notamment la direction Data. La Direction Data, au sein de la Direction du Numérique, a été créée avec la volonté de faire de la Data un levier de croissance des offres numériques. La Direction Data a 3 grandes missions : maximiser la collecte de données tout en respectant les réglementations en vigueur, développer la connaissance et l’expérience utilisateurs et mettre à disposition auprès des équipes internes des outils de pilotage et d’aide à la décision. En pleine expansion, nous souhaitons renforcer l’équipe Data par de nouvelles expertises en data engineering et aider ainsi à la mise en place de solutions Big Data dans un environnement Cloud GCP. Cette équipe est composée d’un product owner et de data engineers. Notre stack technique est principalement constituée de Python, Spark, SQL pour les traitements de données en batch, Apache Beam pour les traitements en streaming et Airflow pour l’orchestration. La stack inclut aussi les services BigQuery, Dataproc et PubSub de la Google Cloud Platform et Terraform pour la gestion de l’infrastructure. Prestations attendues : Au sein de l’équipe Data et au cœur de la plateforme data, la prestation se déroulera en collaboration avec les experts métier de la donnée, les product owners, les data scientists ou encore les data managers. Cette plateforme repose sur une architecture Lakehouse construite sur la Google Cloud Plateform.

En travaillant avec les autres Data Engineers de l’équipe, la prestation consistera à participer à :

La collecte et l’ingestion de différentes sources de données non homogènes

• La mise en place de pipelines de traitement de données

Le développement des modèles de données

• L’extraction et l’exposition des données du Lakehouse vers d’autres services

• L’industrialisation des projets sur la GCP

• La mise en place et la maintenance des infrastructures scalables capable de répondre aux besoins et à l’accroissement rapide du volume de données

• La participation aux initiatives de gouvernance des données en assurant la qualité, la fiabilité et l’intégrité des données

• La participation active aux différentes phases de grooming, cadrage et planification des tâches avec l’équipe

Expertise demandée

Pour mener à bien la prestation, le prestataire devra maitriser les expertises suivantes :

• Au moins 3 ans d’expérience dans un environnement data

• Compétences solides en data : structures de données, code, architecture

• Connaissance de l’un des Cloud Provider Public : de préférence GCP

• Expériences professionnelles avec les langages SQL et Python

• Références professionnelles sur des projets Big Data : de préférence Pyspark, BigQuery et Airflow

• Expertises dans la mise en place de pipeline ETL / ELT

• Bonnes connaissances de Gitlab et Gitlab CI/CD

• Forte capacité à vulgariser et à communiquer sur des aspects purement techniques

• Pratique des méthodes Agile (Scrum, Kanban)