AI Engineering Lead - Industrialisation de solutions agentic AI @ Banque @ Paris - Freelance

Contexte / Enjeux

Dans le cadre d’un programme stratégique d’ AI Scaling , l’objectif est de transformer des usages et expérimentations autour de l’intelligence artificielle en capacités techniques industrialisées, réutilisables et déployables à l’échelle d’un grand Groupe .

La mission porte sur l’ ingénierie, la conception et la configuration d’une plateforme IA agentique multi-LLM , ainsi que sur l’industrialisation des différentes briques techniques permettant de faire passer les prototypes et expérimentations IA à des solutions robustes et exploitables en production.

L’AI Engineering Lead travaillera en coordination étroite avec les équipes métiers, Data & AI Office, SI, cloud/infrastructure, cybersécurité ainsi qu’avec les partenaires externes.

Les principaux enjeux concernent notamment le passage à l’échelle des solutions IA , leur intégration au SI, la souveraineté, la sécurité, la performance, la réversibilité, l’observabilité, la gouvernance technique et la maîtrise des coûts liés aux modèles d’IA.

Missions détaillées

Qualification et conception des solutions IA

• Qualifier techniquement les différents cas d’usage IA et identifier les briques nécessaires à leur industrialisation et à leur passage à l’échelle.

• Traduire les cas d’usage métiers en solutions techniques industrialisables.

• Concevoir les composants nécessaires : workflows, agents, skills, APIs, connecteurs et composants techniques réutilisables .

• Transformer les expérimentations et prototypes IA en composants et solutions techniques industrialisables, maintenables et réutilisables.

Architecture et développement d’une plateforme IA agentique

• Concevoir et développer les briques techniques d’une plateforme IA agentique multi-LLM .

• Mettre en œuvre les mécanismes d’ orchestration d’agents .

• Concevoir et gérer les workflows et skills associés aux agents.

• Mettre en place la gestion des prompts .

• Implémenter les mécanismes d’appels aux différents modèles LLM.

• Développer les APIs et connecteurs permettant l’intégration avec le SI.

• Mettre en œuvre les mécanismes de supervision et de traçabilité des solutions IA.

Plateforme, AI Gateway et environnement multi-LLM

• Configurer et faire évoluer le socle de la plateforme IA.

• Mettre en œuvre et faire évoluer l’ AI Gateway .

• Concevoir les mécanismes de routage multi-LLM .

• Gérer les accès aux modèles et aux différents services IA.

• Mettre en œuvre les capacités d’ observabilité de la plateforme.

• Définir et implémenter les mécanismes d’ évaluation des solutions IA .

• Mettre en place les dispositifs permettant la maîtrise et le suivi des coûts IA .

Cloud, déploiement et intégration

• Définir et mettre en œuvre les patterns d’intégration et de déploiement adaptés aux différents environnements d’hébergement.

• Travailler sur des architectures multi-hébergement .

• Intégrer les contraintes de souveraineté, sécurité, performance et réversibilité dans les choix d’architecture.

• Participer à l’intégration des solutions IA avec les environnements Azure et les infrastructures Kubernetes.

Industrialisation et passage en production

• Définir les capacités et chaînes d’industrialisation nécessaires au passage des prototypes IA vers la production.

• Concevoir et mettre en œuvre les pipelines d’industrialisation .

• Définir les stratégies et dispositifs de tests .

• Définir les critères d’acceptation permettant de valider le passage en production.

• Produire et maintenir la documentation technique .

• Définir les mécanismes de support nécessaires à l'exploitation des solutions industrialisées.

• Mettre en place les patterns d’industrialisation permettant de rendre les solutions IA réutilisables et déployables à l’échelle.

Coordination technique

• Coordonner les travaux techniques liés à l’industrialisation des solutions IA.

• Collaborer avec les équipes métiers et le Data & AI Office .

• Travailler étroitement avec les équipes SI, cybersécurité et infrastructure/cloud .

• Coordonner les sujets techniques avec les partenaires externes impliqués dans le programme.

Stack Technique

IA / LLM

• Architectures agentiques

• LLM / architectures multi-LLM

• Plateformes IA agentiques souveraines

• Développement d’agents

• Orchestration d’agents

• Workflows et skills

• Prompt management / gestion des prompts

• APIs et SDK LLM

• AI Gateway

• Routage multi-LLM

• Mécanismes d’évaluation des solutions IA

Développement

• Python

• APIs

• Connecteurs SI

• Composants techniques réutilisables

Cloud / Infrastructure

• Microsoft Azure

• Azure AI Foundry

• Kubernetes

• Architectures multi-hébergement

• Patterns de déploiement

Industrialisation / Gouvernance

• Pipelines d’industrialisation IA

• Tests et critères d’acceptation

• Observabilité

• Supervision

• Traçabilité

• Sécurité

• Gouvernance technique IA

• Gestion des accès

• Maîtrise des coûts IA

• Souveraineté

• Performance

• Réversibilité