Data Engineer - Foundational
About Us
Harmattan AI is a next-generation defense prime building autonomous and scalable defense systems. Following the close of a $200M Series B, valuing the company at $1.4 billion, we are expanding our teams and capabilities to deliver mission-critical systems to allied forces.
Our work is guided by clear values: building technologies with real-world impact, pursuing excellence in everything we do, setting ambitious goals, and taking on the hardest technical challenges. We operate in a demanding environment where rigor, ownership, and execution are expected.
About the Role
As a Data Engineer on the Foundational team, you will serve as the "plumber" for deep learning, building the massive, high-performance data infrastructure required to power our foundational models. Based in Paris, you will manage terabytes—and eventually petabytes—of raw, unstructured, and noisy video data (EO and IR). Your mission is to ensure our ML engineers spend their time designing architectures, not waiting for data loaders or wrangling corrupted files.
Responsibilities
Multi-Modal Ingestion Pipeline: Build ETL/ELT pipelines to extract, decode, and store raw Electro-Optical (EO) and Infrared (IR) video from field logs into highly optimised formats like WebDataset, TFRecords, or Parquet.
Sensor Synchronisation & Alignment: Develop algorithms to programmatically synchronise EO and IR frames temporally and spatially to provide paired inputs for model training.
High-Throughput Data Loading: Architect storage-to-GPU pipelines to ensure multi-node training clusters maintain >90% GPU utilisation without I/O bottlenecks.
Distributed Processing: Write and optimise distributed data processing jobs using tools like Apache Spark, Ray, or Apache Beam to process thousands of hours of tactical video logs.
Data Quality & Versioning: Implement automated quality checks to filter corrupted or blank frames and maintain 100% reproducible training runs through robust versioning and lineage tracking.
Infrastructure Evaluation: Assess and implement advanced storage solutions (e.g., MinIO, S3 tiering) to manage growing datasets while optimising for cost and latency.
Candidate Requirements
Educational Background: A BS or MS in Computer Science, Software Engineering, or Distributed Systems is highly preferred. Deep knowledge of operating systems, networking, and parallel computing is essential.
Technical Experience: 5-6+ years of experience building and maintaining terabyte-scale pipelines for unstructured data (video, images, or point clouds).
Performance Optimisation: Proven track record of maximising multi-node GPU utilisation and optimising data loaders for frameworks like PyTorch or JAX.
Tooling Expertise: Strong command of distributed computing tools (Spark, Ray, Beam) and ML data versioning tools (DVC, Apache Iceberg, or Pachyderm).
Adaptability & Ownership: A systems-thinker who thrives in a fast-paced startup environment and views messy data as an engineering problem to be solved via automation.
Commitment: 100% dedication to Harmattan AI’s mission of providing a defensive edge to allied nations through ethical, high-impact technology
We look forward to hearing how you can help shape the future of autonomous defense systems at Harmattan AI.
Emplois Recommandés
Supervisor
If you want to experience how things are done in the Performance, Data & Transformation team at Hannover Paris Office, join us. Si vous voulez partager l'expérience Performance, Data & Transformat…
Business Développeur H/F
Vous impulsez une véritable dynamique en termes, de développement de nouveaux comptes nouvelles opportunités et de fidélisation des clients du Groupe ; Vous allez : - Mettre en œuvre la politique…
Directeur(rice) du SPA
Faubourg Saint Honoré, au coeur du Paris de la mode, Le Bristol Paris écrit son histoire depuis 1925. Elle nous raconte l'élégance de son décor entièrement rénové, agrémenté de meubles XVIIIe, la m…
Gestionnaire Epargne Retraite Confirmé
Aréas Assurances est un groupe indépendant de sociétés d'assurance mutuelles. Présent au cœur des régions françaises, il propose des solutions toujours plus complètes en protection des personnes et de…
Chef de projet travaux (F/H)
Vous souhaitez intégrer une association militante et agir concrètement pour plus de justice sociale ? Médecins du Monde agit depuis plus de 40 ans pour soigner les populations les plus vulnérables…
Diététicien (h/f)
Détails de l'offre Famille de métiers Santé publique Santé environnementale …
Alternance - Assistant consolidation et reporting (H/F)
️Vous avez déjà postulé à une offre du CFA Studi ? Ne postulez pas à nouveau : contactez directement votre conseiller Studi, qui pourra vous repositionner sur l’offre adaptée. Cette opportunité s…
Cadre de santé (H/F)
Le poste de cadre de santé est à pourvoir dans un établissement de santé à Paris 02 Bourse. Le titulaire du diplôme de cadre de santé est chargé de superviser une équipe pluridisciplinaire, d'assurer…
Commis Pâtisserie (H/F), CDI, Temps Plein
Un nouveau lieu d’exception de 3500 m2 vient d'ouvrir ses portes dans l'un des plus beaux quartiers de Paris. Alliant charme historique, élégance contemporaine et esprit d’innovation, ce lieu exce…
LYCEE ARTS GRAPHIQUES CORVISART - 75 PARIS - 26-10265 - RESPONSABLE ENTRETIEN GENERAL ET MAINTENANCE H/F
Détails de l'offre Famille de métiers Architecture, bâtiment et logistique Gestion des servic…