ARCHITECTE INFRA CLOUD & GPU INTELLIGENCE ARTIFICIELLE (F/H)
• Concevoir et déployer une infrastructure GPU scalable et performante pour l'inférence des LLMs, capable de supporter jusqu'à plusieurs dizaines de milliers d'utilisateurs ;
• Mettre en place des mécanismes robustes de gestion des quotas, rate limiting et sécurité avancée ;
• Implémenter des solutions de monitoring et observabilité avancées (Prometheus, Grafana) ;
• Etablir les choix de système d'exploitation et des middlewares associés à ce contexte ;
• Effectuer une veille technologique sur les meilleures pratiques de déploiement à grande échelle de modèles LLM (Triton, vLLM, Ray Serve)
• Assurer un support interne de niveau 3 sur ces produits ;
• Superviser le choix des frameworks, outils et technologies en collaboration avec les data scientists, ML engineers et devOps ;
• Garantir la scalabilité, la maintenabilité et la sécurité de l'infrastructure ;
• Évaluer l'impact technique et fonctionnel des choix architecturaux ;
• Mettre en place et développer des outils d'analyse et d'amélioration des performances ;
• Maitriser les couts d'usage et identifier et proposer des optimisations ;
• Assurer l'optimisation continue (load balancing, auto-scaling) et la haute disponibilité des systèmes ; Votre profil Intéressé(e) par le monde judiciaire et par le fonctionnement de la justice en France, vous êtes diplômé(e) d'une école d'ingénieur ou équivalent universitaire. Vous justifiez également 5 ans d'expérience dans un poste similaire. Compétences requises
• Expérience dans le déploiement à grande échelle de systèmes distribués (multi-GPU, multi-modèles) ;
• Environnements matériels : processeurs, GPU, serveurs multiprocesseurs, interfaces de communication ;
• Compétences solides en sécurité et architecture Cloud (IAAS, CAAS)
• Environnement de développement liés aux GPUs : C/C++, CUDA, ROCM ;
• Système d'exploitation Linux : administration système, scripts d'automatisation (Bash, python, etc.), DHCP, Diskless, PXE ;
• Environnements de mesure et de gestion du rendement : logiciels de mesure de performances, outils de développement et de débogage système ;
• Connaissance du noyau et des sous-systèmes majeurs ;
• Maîtrise avancée des architectures microservices et conteneurisation (OpenShift, Kubernetes) ;
• Connaissance des pratiques CI/CD et Infrastructure as Code (Terraform, Kubernetes, GitLab) ;
• Connaissance des bases de données vectorielles (FAISS, Pinecode) ;
• Connaissance des langages Python, Java, Scala ;
• Connaissance en machine learning, deep learning ;
• Connaissance en gestion de modèles IA (MLOps, MLFlow, SageMaker...) ;
• Connaissance en data engineering (Spark, Kafka, Airflow) ;
• Connaissance en sécurité des systèmes IA (authentification protection des modèles, RGPD) ;
• Connaissances des process de Production et d'exploitation process ITIL ;
• Anglais technique est requis. Avantages
- Restauration d'entreprise à tarif dégressif
- Télétravail jusqu'à 3 jours par semaine
- Accessibilité en transport (RER E Rosa Parks, T3b, M12 Front populaire, M7 Corentin Cariou puis navette fluviale)
- Parking privatif (vélo, voiture, scooter...)
- Remboursement des frais des transports en communs à hauteur de 50% (selon plafonds fixé)
- Association sportive et culturelle
- Partenariat avec une crèche d'entreprise en Ile-de-France (Babilou)
- Des opportunités d'évolutions (mobilité interne, ascendante)
- Des opportunités de formation allant jusqu'à 3 formations par an
Emplois Recommandés
Collection Merchandiser Ready-to-Wear
Saint Laurent is seeking a Collection Merchandiser for Ready-to-Wear in Paris. The role involves developing and managing collection plans, ensuring product consistency, and coordinating between variou…
CDD - Ingénieur Logiciel embarqué (H/F)
Kickmaker est une agence de conception et d'industrialisation de produits high-tech. Nous accompagnons nos clients du prototype à la série sur nos grandes verticales (médical, nouvelles mobilités, …
Auxiliaire de puériculture — H/F
Auxiliaire de puériculture — H/F MME/STAFF/RECRUTEMENT/AP Vous remplissez toutes les missions d'une Auxiliaire de puériculture en crèche : En concertation avec les EJE, aménager le lieu de vie des …
Artistic Direction Assistant Intern
Guerlain is seeking an Artistic Direction Assistant Intern to join its team in Paris. This role involves collaborating with Art Directors on the creation and adaptation of advertising campaigns. The i…
Product Owner BI
La mission reposera sur le : •Pilotage produit des besoins BI (backlog, cas d’usage, priorisation, validation produit) •Vision stratégique BI (choix d’outils BI, plan de transformation, montée en co…
Chef d'Equipe Multitechnique (H/F/D)
GIF 4 recherche activement un Chef d'équipe Multitechnique (H/F) pour son client leader en Énergie. Vos missions : Gestion de l'équipe : Gérer les techniciens qui lui sont hiérarchiquement rattac…
Barista polyvalent en café de spécialité
Nous sommes l’un des pionniers du café de spécialité à Paris, reconnu pour notre passion du café de qualité, notre service exceptionnel et notre atmosphère chaleureuse. Nos cafés sont des lieux où l’…
Médecin nutritionniste - Paris 75017 H/F
Offre emploi Médecin nutritionniste H/F à Paris , proposant d'excellentes conditions d'exercices. Plus d'informations sur ce poste ? Contactez-nous au 0744716508 Emploi Médecin nutritionniste H/F - P…
Gestionnaire de dossiers Prestations (Technicien invalidité) H/F
Description du poste Le département des prestations Invalidité de la CRAMIF gère l'attribution et la gestion des prestations d'invalidité pour l'ensemble de la région d'Ile-de-France. Les pensions d'i…
Correspondant fonctionnel si - finances / sifac - h/f
Description entreprise : L’Inserm est le seul organisme public français entièrement dédié à la recherche biologique, médicale et en santé des populations. Il dispose de laboratoires de recherche su…