Architecte IA Générative & Agentique Senior - LLM, RAG, Multi-Agent & Cloud - Freelance

Contexte et enjeux

Dans le cadre du développement et de l'industrialisation de ses capacités en intelligence artificielle, un acteur majeur du secteur bancaire recherche un Architecte IA Générative & Agentique Senior pour une mission stratégique de longue durée.

Intégré à une équipe Architecture et Cloud Privé, le consultant interviendra sur la conception, la sécurisation et l'industrialisation de solutions d'intelligence artificielle générative et agentique à l'échelle du système d'information.

Les enjeux principaux de la mission sont :

• Définir des architectures IA robustes, évolutives, performantes et réutilisables.

• Industrialiser les solutions reposant sur les LLM, le RAG et les systèmes multi-agents.

• Faire évoluer la plateforme IA et faciliter l'intégration des modèles sur des infrastructures cloud privées et publiques.

• Garantir la sécurité, la conformité réglementaire, l'observabilité et la maîtrise des coûts.

• Accélérer l'adoption de l'IA dans les processus de développement logiciel et accompagner le passage à l'échelle des usages IA.

Missions détaillées

1. Architecture des solutions IA générative et agentique

• Concevoir les architectures cibles des solutions d'IA générative et agentique : assistants IA, architectures RAG, agents autonomes et systèmes multi-agents.

• Définir les architectures de référence, les composants techniques réutilisables et les choix technologiques associés.

• Concevoir et prototyper des agents IA et des workflows agentiques.

• Garantir la cohérence des architectures avec les standards du système d'information et les contraintes de l'environnement bancaire.

2. Développement et évolution de la plateforme IA

• Contribuer à l'évolution de la plateforme IA : serving de LLM, gateways de modèles, bases vectorielles et orchestration d'agents.

• Définir les mécanismes d'interopérabilité entre les modèles, les agents et les applications du SI.

• Sécuriser l'exposition des outils et des données du système d'information aux agents IA à travers le protocole MCP et les API.

• Concevoir des composants techniques facilitant la réutilisation et l'intégration des capacités IA.

3. Industrialisation, déploiement et LLMOps

• Industrialiser le déploiement des modèles et agents IA sur cloud privé et cloud public.

• Mettre en œuvre les pratiques GitOps et les pipelines LLMOps.

• Définir les dispositifs d'évaluation des modèles et des applications IA.

• Implémenter les mécanismes d'observabilité, de supervision et de suivi des coûts.

• Contribuer à la fiabilisation et à l'optimisation des solutions IA en production.

4. Sécurité, gouvernance et conformité

• Intégrer les exigences de sécurité dès la conception des architectures IA.

• Définir les mécanismes de contrôle d'accès et de sécurisation des interactions entre agents, outils et données.

• Prendre en compte les risques spécifiques aux applications LLM et aux architectures agentiques.

• Garantir l'intégration des exigences réglementaires et des politiques de gouvernance IA, notamment AI Act, DORA et RGPD.

5. Accompagnement du passage en production

• Piloter techniquement la transition des POC et pilotes vers des solutions industrialisées.

• Coordonner les travaux avec les équipes infrastructure, sécurité et métiers.

• Accompagner les équipes techniques dans les choix d'architecture, de déploiement et d'exploitation.

• Contribuer à la robustesse, à la performance et à la maintenabilité des solutions livrées.

6. Acculturation IA et accompagnement des développeurs

• Accompagner les développeurs dans l'adoption de l'intelligence artificielle.

• Faciliter l'intégration des assistants de développement IA, notamment Claude Code et GitHub Copilot.

• Contribuer à la communauté IA agentique et au partage des bonnes pratiques.

• Participer à la diffusion des standards et des composants d'architecture IA réutilisables.

Stack technique

Domaine

Technologies et outils

Langages et frameworks

Python, FastAPI, Java, Quarkus, LangChain4j

Frameworks agentiques

LangChain, LangGraph, LlamaIndex, CrewAI, AutoGen, Google ADK

Interopérabilité des agents

MCP (Model Context Protocol), A2A, API

Serving et orchestration LLM

vLLM, KServe, Ollama, LiteLLM

Bases vectorielles et recherche

pgvector, Milvus, Qdrant, OpenSearch, Elasticsearch, PostgreSQL, embeddings, reranking

Plateformes IA cloud

Vertex AI, Azure OpenAI, Amazon Bedrock, modèles open source sur cloud privé

Conteneurisation

Docker, Kubernetes, OpenShift

LLMOps et évaluation

Ragas, DeepEval, Langfuse, OpenTelemetry, MLflow

Observabilité et gouvernance

Guardrails, FinOps

CI/CD et GitOps

Git, Jenkins, Jira, ArgoCD, OpenShift GitOps

Sécurité et conformité

OWASP Top 10 for LLM, RBAC, AI Act, DORA, RGPD

Assistants de développement

Claude Code, GitHub Copilot

Livrables attendus

• Dossiers d'architecture technique détaillant les solutions conçues.

• Spécifications techniques permettant leur implémentation et leur industrialisation.

• Architectures de référence IA adaptées aux contraintes du système d'information.

• Composants IA réutilisables facilitant le développement et l'intégration de nouvelles solutions.