Azure AI Foundry · Azure OpenAI · Socle IA

Construire un socle IA fiable sur Azure AI Foundry

Chez SUEZ, je construis et fais évoluer le socle IA sur Azure AI Foundry : choix des modèles, AI Gateway, gestion des accès, observabilité et maîtrise des coûts. L'objectif : que chaque cas d'usage IA passe en production sans réinventer la sécurité ni exploser la facture.

Me confier une mission (Malt) Échanger sur LinkedIn

Ce que je mets en place

Qualification des cas d'usage : modèles, connecteurs, données et sécurité nécessaires, potentiel d'industrialisation.
AI Gateway et routage multi-LLM : chaque requête part vers le modèle autorisé, suffisant et le moins cher, selon la sensibilité des données, la qualité attendue, le coût et la latence.
Agents et assistants : orchestration d'agents, gestion des prompts, intégration au SI (SharePoint, Dataverse, API métiers).
Sécurité et conformité : gestion des accès, traçabilité, travail avec la DSI et la cybersécurité.
Observabilité et évaluation : suivre la qualité, les coûts et l'usage de chaque agent.

Preuves

Code et contributions

azure-ai-gateway

Passerelle multi-LLM sur Azure : chaque requête part vers le modèle autorisé, suffisant et le moins cher. Les données sensibles restent dans le SI.

Audit d'OGX (ex-Llama Stack)

Trois bugs silencieux trouvés dans un framework d'agents open source, dont un sous-comptage des tokens qui fausse le suivi des coûts. Correctifs intégrés par les mainteneurs (PR #6697 et #6698 fusionnées).

Copilot Studio en production

L'autre moitié de l'écosystème Microsoft : agents Copilot Studio, base de connaissances, outils et agent flows.