Agents IA · RAG · LLM · Production

Mettre un agent IA en production : du POC à un agent fiable, mesuré et rentable

Un prototype d'agent IA impressionne en démo. En production, il doit être fiable, sécurisé, mesurable et rentable. C'est ce passage que j'accompagne, du cadrage à l'adoption par les utilisateurs. Chez SUEZ, j'ai conçu 20 cas d'usage d'IA générative et mis plus de 200 agents IA en production.

Industrialiser un agent IA : ce qui change entre un POC et la production

Ma checklist avant la mise en production

1. Un jeu de questions de test

Des questions réelles, avec les réponses attendues, rejouées à chaque modification de l'agent ou de ses sources.

2. Des sources propres

Documents à jour, découpage adapté, métadonnées fiables pour filtrer. Les documents scannés sont vérifiés à part.

3. Des filtres testés

Vérifier que chaque filtre et chaque paramètre est réellement appliqué, pas seulement accepté sans erreur.

4. Une validation humaine

Pour toute action irréversible, avec un journal d'audit qui garde la trace de chaque décision.

5. Un budget suivi

Tokens comptés par agent et par cas d'usage, modèle le moins cher qui suffit, alertes de dépassement.

6. Une supervision

Qualité des réponses, erreurs, latence et usage suivis en continu, avec des objectifs de service.

7. Un accès maîtrisé

L'agent ne voit que les données que l'utilisateur a le droit de voir. Validé avec la DSI et la cybersécurité.

8. Des utilisateurs formés

Un agent que personne ne sait utiliser reste un POC. La formation fait partie de la mise en production.

Preuves

Ce que j'ai construit et publié

Contributeur Microsoft Agent Framework

4 correctifs fusionnés par l'équipe Microsoft : le connecteur TypeSafe (Jev) ignorait les variables de proxy derrière un proxy d'entreprise (PR #8984, 6 octobre 2026) ; les agents Azure AI Foundry sans streaming perdaient le lien de consentement OAuth des outils (PR #8976, 13 octobre 2026) ; le client Anthropic ignorait allow_multiple_tool_calls (PR #8980, 23 octobre 2026) ; le client Anthropic perdait les citations en streaming (PR #9898, 2 novembre 2026). Proposé, en attente de revue : images et questions Box de Jev 1.14 (PR #9411). Lire l'article.

ai-company-stack

Architecture multi-agents (CrewAI, LangGraph) avec validation humaine dans Slack et journal d'audit.

vllm-production-serving

Mise en production de LLM open source avec vLLM : dimensionnement GPU, routeur qui réutilise le cache, autoscaling KEDA, SLO Prometheus.

Contribution Mistral AI

Chargement des tokenizers Mistral en environnement hors ligne, pour les infrastructures fermées.

Sur quelles plateformes

Je mets des agents en production sur Azure AI Foundry et Azure OpenAI, sur Microsoft Copilot Studio pour les agents construits avec les métiers (voir le guide pas à pas de mise en production Copilot Studio), et sur des modèles open source auto-hébergés avec vLLM quand les données ne doivent pas quitter votre infrastructure. Le choix dépend des données, des utilisateurs et du budget, pas de la mode.

Références

Tech Lead Data & IA freelance, basé à Paris. Missions pour SUEZ, TotalEnergies, Groupe SNCF, La Banque Postale, Les Mousquetaires, Volvo Group et SAUR. Retours d'expérience publiés sur Medium et code sur GitHub.

Former vos équipes

Pour que vos équipes construisent et exploitent elles-mêmes leurs agents, j'anime avec Spar-x, organisme certifié Qualiopi, des formations finançables par votre OPCO : formation IA générative (dont un module mise en production d'agents) et formation Copilot Studio. Pour l'obligation de maîtrise de l'IA, voir le kit gratuit AI Act article 4.

La checklist en vidéo

Les 8 points à vérifier avant de mettre un agent IA en production : tests, sources, filtres, validation humaine, budget, supervision, accès, formation.

Voir sur YouTube · Toutes les vidéos et le podcast

Podcast : la checklist pour passer en production

Épisode 2 du podcast « Agents IA en production » (15 min) : les 8 points à vérifier avant de mettre un agent IA en production, et les bugs silencieux à surveiller. Épisode généré par IA (voix de synthèse) à partir des articles de Zakaria Khchiche.

Voir sur YouTube · Toutes les vidéos et le podcast

Podcast : retours de terrain sur la mise en production

Épisode 4 du podcast « Agents IA en production » (16 min) : ce qui sépare un prototype d'agent IA d'un agent fiable en production. Épisode généré par IA (voix de synthèse) à partir des articles et du site de Zakaria Khchiche.

Voir sur YouTube · Toutes les vidéos et le podcast

Podcast : 3 bugs silencieux dans les bibliothèques Python de Mistral AI

Épisode 7 du podcast « Agents IA en production » (12 min) : ce que l'audit de mistral-common et du SDK Python mistralai a révélé (paramètres d'outils optionnels rendus obligatoires en mode strict, champs dictionnaire vidés dans les sorties structurées, validateur trompé par un retour à la ligne) et les leçons pour tester ses propres agents. Épisode généré par IA (voix de synthèse). Lire l'article.

Voir sur YouTube · Toutes les vidéos et le podcast

Questions fréquentes

Pourquoi la plupart des agents IA restent-ils au stade du POC ?

Parce qu'un POC est testé sur quelques questions choisies, alors qu'en production l'agent reçoit des milliers de demandes imprévues, sur des données réelles, avec des contraintes de sécurité et de coût. Sans tests, supervision et validation humaine, les erreurs passent inaperçues et la confiance tombe.

Qu'est-ce qu'un bug silencieux dans un agent IA ?

Une erreur qui ne déclenche aucun message : un filtre qui ne filtre pas, un paramètre ignoré, des tokens mal comptés. L'agent répond quand même, mais mal. On les attrape en testant la valeur réellement envoyée, avec de vrais types de données. J'en ai trouvé quatre dans OGX, un framework d'agents open source, corrigés depuis par les mainteneurs.

Combien de temps pour passer un agent en production ?

Cela dépend du cas d'usage, des données et des validations internes. Le plus long est rarement le modèle : ce sont l'accès aux données, la sécurité et l'adoption par les utilisateurs. Un cadrage de départ permet de donner une estimation réaliste.

Faut-il un humain dans la boucle ?

Oui pour toute action irréversible ou sensible : envoyer, payer, supprimer, engager l'entreprise. L'agent prépare, un humain valide, et chaque décision est tracée dans un journal d'audit.

Proposez-vous une formation sur la mise en production d'agents ?

Oui, c'est un des thèmes des formations IA générative que j'anime avec Spar-x, organisme certifié Qualiopi, finançables par votre OPCO.

Votre agent est bloqué au stade du POC ?

Décrivez-moi le cas d'usage, les données et ce qui bloque. Je vous réponds avec les points à traiter en priorité pour passer en production.