Senior Software Engineer Python - LLM - Freelance

Le contexte

Notre client est un acteur européen de la legaltech. Au sein de l'équipe AI Service, vous construisez la brique technique qui connecte les modèles de langage, les moteurs de recherche et les produits du groupe.

L'objectif : fournir des capabilities IA robustes, rapides et fiables à plusieurs équipes produit à travers l'Europe, dans une solution multi-tenant pouvant aussi être proposée en mode souverain.

Les missions

• Concevoir l'architecture des APIs (FastAPI) et des workers : contrats clairs, authentification unifiée, cache et mécanismes de résilience (retries, circuit breakers, fallback de modèles)

• Industrialiser les chaînes d'inférence LLM : prompting, function calling, RAG, embeddings, agents, en challengeant les choix par des POCs et des benchmarks

• Garantir des temps de réponse maîtrisés : streaming des réponses, timeouts, backpressure, annulation de requêtes, arbitrage synchrone / asynchrone

• Intégrer nativement observabilité (logs, métriques, traces) et sécurité (gestion des secrets, Zero Trust, isolation des tokens)

• Travailler avec les squads produit (assistant IA, recherche, édition) pour qu'elles intègrent ces capabilities avec un minimum de friction

• Contribuer à l'inner source et promouvoir Clean Code, SOLID et tests automatisés

L'équipe

Vous rejoignez une équipe d'experts passionnés, en charge de l'une des briques technologiques stratégiques de la plateforme du groupe, et vous travaillez avec plusieurs squads produit dans un contexte international.

Pourquoi ce poste est intéressant

• Industrialiser de l'IA générative sous fortes contraintes de performance, sur des volumes de données massifs : un défi technique rare

• Créer le standard industriel IA du groupe pour les prochaines années, plutôt que livrer une feature isolée

• Un rôle à fort impact : inner source, échanges avec les squads produit, rayonnement technique (articles, meetups, open source)

• Une équipe d'experts soudée et bienveillante, dans un cadre hybride à Courbevoie (2 jours de télétravail)

La culture de l'entreprise

Un groupe européen installé de longue date, avec une forte culture d'expertise et un engagement affiché pour une IA fiable et responsable.

Une communauté de professionnels engagés dans la transmission du savoir, avec une culture de collaboration et de partage d'expertise.