Azure AI Foundry · Azure OpenAI · Socle IA

Consultant Azure AI Foundry : construire un socle IA fiable pour passer en production

Je conçois et fais évoluer des socles IA sur Azure AI Foundry et Azure OpenAI : choix des modèles, AI Gateway, accès, observabilité et maîtrise des coûts. Chez SUEZ, ce socle porte plus de 200 agents IA en production et 20 cas d'usage d'IA générative. L'objectif : que chaque nouveau cas d'usage passe en production sans réinventer la sécurité ni exploser la facture.

Quand faire appel à moi

Un consultant indépendant plutôt qu'un cabinet

Vous cherchez un cabinet ou un prestataire Azure AI Foundry ? Je travaille en indépendant : c'est la personne qui conçoit le socle qui le met en place avec vos équipes, sans intermédiaire.

Ce que je mets en place

Ma méthode, en 4 étapes

1. Cadrer

Lister les cas d'usage, leurs données et leurs contraintes. Choisir ceux qui ont une vraie chance d'aller en production.

2. Poser le socle

Ressources Azure AI Foundry, accès par identité, passerelle commune, quotas et journalisation.

3. Livrer un premier agent

Un cas réel, avec tests, validation humaine et suivi des coûts dès le premier jour.

4. Industrialiser

Rendre le socle réutilisable : chaque nouvel agent hérite de la sécurité, du suivi et des règles de coût.

Preuves

Code et contributions

Contributeur Microsoft Agent Framework

4 correctifs fusionnés par l'équipe Microsoft : le connecteur TypeSafe (Jev) ignorait les variables de proxy derrière un proxy d'entreprise (PR #8984, 6 octobre 2026) ; les agents Azure AI Foundry sans streaming perdaient le lien de consentement OAuth des outils (PR #8976, 13 octobre 2026) ; le client Anthropic ignorait allow_multiple_tool_calls (PR #8980, 23 octobre 2026) ; le client Anthropic perdait les citations en streaming (PR #9898, 2 novembre 2026). Proposé, en attente de revue : images et questions Box de Jev 1.14 (PR #9411). Lire l'article.

azure-ai-gateway

Passerelle multi-LLM sur Azure : chaque requête part vers le modèle autorisé, suffisant et le moins cher. Les données sensibles restent dans le SI. Lire l'article.

Audit d'OGX (ex-Llama Stack)

Bugs silencieux trouvés dans un framework d'agents open source (recherche hybride, filtres pgvector, doublons Weaviate), dont un sous-comptage des tokens qui fausse le suivi des coûts. Correctifs intégrés par les mainteneurs (PR #6697, #6698 et #6705 fusionnées).

vllm-production-serving

Servir un modèle open source avec vLLM en production, pour les cas où les données ne doivent pas quitter votre infrastructure.

Copilot Studio en production

L'autre moitié de l'écosystème Microsoft : agents Copilot Studio, base de connaissances, outils et agent flows.

Références

Tech Lead Data & IA freelance, basé à Paris. Chez SUEZ, je pilote le socle IA sur Azure AI Foundry et la mise en production des agents. Missions précédentes pour TotalEnergies, Groupe SNCF, La Banque Postale, Les Mousquetaires, Volvo Group et SAUR. Je publie mes retours d'expérience sur Medium.

Former vos équipes

Vos développeurs et data engineers doivent prendre la main sur le socle ? J'anime avec Spar-x, organisme certifié Qualiopi, des formations finançables par votre OPCO : formation IA générative (dont un module Azure AI Foundry et Azure OpenAI) et formation Copilot Studio. Pour l'obligation de maîtrise de l'IA, voir le kit gratuit AI Act article 4.

Copilot Studio ou Azure AI Foundry, en vidéo

Copilot Studio ou Azure AI Foundry : à quelles équipes chacun s'adresse, et pourquoi les deux cohabitent dans les grands groupes.

Voir sur YouTube · Toutes les vidéos et le podcast

Questions fréquentes

Qu'est-ce qu'Azure AI Foundry ?

C'est la plateforme de Microsoft pour construire, déployer et superviser des applications et des agents d'IA générative sur Azure. Elle donne accès aux modèles Azure OpenAI et à d'autres modèles, avec la sécurité, les accès et le suivi d'une plateforme d'entreprise.

Azure AI Foundry ou Copilot Studio : que choisir ?

Copilot Studio convient aux agents construits par les métiers, en low-code, dans l'environnement Microsoft 365. Azure AI Foundry convient aux équipes techniques qui ont besoin de choisir leurs modèles, de maîtriser l'architecture et d'intégrer l'IA à leurs applications. Dans un grand groupe, les deux cohabitent : le socle Azure sert aussi les agents Copilot Studio.

Comment maîtriser les coûts d'Azure OpenAI ?

En faisant passer les requêtes par une passerelle qui choisit le modèle le moins cher qui suffit, en fixant des quotas par équipe et par cas d'usage, et en suivant la consommation de tokens de chaque agent. Un comptage de tokens faux fausse tout le suivi des coûts : c'est l'un des bugs que j'ai corrigés dans OGX.

Comment protéger les données sensibles ?

Classer les cas d'usage selon la sensibilité des données, router les requêtes sensibles vers des modèles et des régions autorisés, gérer les accès par identité et tracer les appels. Ce travail se fait avec la DSI et l'équipe cybersécurité, dès la conception.

Proposez-vous une formation Azure AI Foundry ?

Oui : la formation Azure AI Foundry, pour les équipes techniques, fait partie des formations que j'anime avec Spar-x, organisme certifié Qualiopi : elle est finançable par votre OPCO.

Parlons de votre projet

Décrivez votre contexte en quelques lignes : cas d'usage, volume, contraintes de données. Je vous réponds avec une première lecture du chemin vers la production.