1. Sans plateforme, chaque équipe recommence
Les premiers agents naissent souvent dans des équipes différentes, chacune avec ses outils. Au bout de quelques mois, les mêmes problèmes apparaissent partout :
- des clés d’accès aux modèles dispersées dans le code et les configurations ;
- des garde-fousGarde-fousDes contrôles automatiques qui bloquent les usages risqués : fuite de données sensibles, contenus interdits, actions hors périmètre.Voir le glossaire réinventés par chaque équipe, avec des niveaux de sécurité inégaux ;
- des coûts invisibles jusqu’à la facture, impossibles à attribuer ;
- des agents et des outils introuvables, donc refaits ailleurs ;
- aucune vue d’ensemble pour la sécurité, l’audit ou la conformité.
2. Une plateforme, quatre blocs
Une AI Platform met en commun ce qui n’a aucune raison d’être différent d’une équipe à l’autre. Les équipes gardent leur métier, leurs données et leurs choix ; la plateforme fournit le reste.
- Opérations
- Faire tourner les agents et les équipes : environnements d’exécution, sécurité et identité, arrivée d’une nouvelle équipe, suivi des coûts, observabilitéObservabilitéVoir ce qui se passe à l’intérieur des agents : chaque exécution, ses sources, ses appels d’outils, ses erreurs et ses coûts.Voir le glossaire et évaluationÉvaluationTester un agent sur une série de cas connus pour mesurer la qualité de ses réponses avant de le mettre à jour.Voir le glossaire .
- Catalogue
- Tout ce qui peut être réutilisé : agents, outils et serveurs MCPServeur MCPLe petit service qui expose un outil (une application, une base documentaire) aux agents via le protocole MCP.Voir le glossaire , workflowsWorkflowUn enchaînement d’étapes défini à l’avance. Certaines étapes peuvent être confiées à un modèle d’IA, mais l’ordre reste fixé.Voir le glossaire , promptsPromptLes instructions écrites données au modèle d’IA pour orienter sa réponse.Voir le glossaire et skillsSkillUn savoir-faire réutilisable pour un agent : un dossier d’instructions, de modèles et parfois de scripts, chargé seulement quand il en a besoin.Voir le glossaire , applications. Chaque élément a un propriétaire, une version et un statut de validation.
- Gateway de modèles
- Un seul point d’accès à tous les modèles, propriétaires, open sourceOpen sourceUn logiciel dont le code est public et réutilisable selon une licence. On peut l’auditer, l’héberger soi-même et le modifier.Voir le glossaire ou adaptés à l’entreprise : routage selon le besoin, quotas et coûts par équipe.
- Gouvernance et standards
- Les règles communes : garde-fous, politiques d’usage, frameworksFrameworkUne boîte à outils de développement qui fournit la structure d’une application ; pour les agents : LangGraph, Strands, CrewAI…Voir le glossaire et patterns recommandés, bonnes pratiques et assets réutilisables.
3. Trois populations, une plateforme
Une même plateforme sert trois publics, qui ne se posent pas la même question. Elle doit répondre aux trois à la fois.
| Consomme | Assemble | Gouverne | |
|---|---|---|---|
| Qui | L’utilisateur métier | Le porteur de cas d’usage | L’équipe IT et plateforme |
| Sa question | « Est-ce que ça me fait gagner du temps au quotidien ? » | « Est-ce que je peux monter mon cas d’usage sans coder ? » | « Est-ce que je contrôle ce qui sort du SI ? » |
| Ses besoins | Parler à un agent en langage naturel, obtenir un résultat fiable et sourcé, produire des livrables professionnels | Construire un agent pour son métier, tester, itérer, mesurer la valeur, passer en production quand ça marche | Exposer les APIAPIL’interface qui permet à deux logiciels d’échanger des données de façon automatique.Voir le glossaire en serveurs MCP et les gouverner, assurer sécurité, conformité et audit, opérer la plateforme |
| Ses outils | FrontFrontL’interface dans laquelle les collaborateurs utilisent l’IA : fenêtre de conversation, liste d’assistants, documents à joindre.Voir le glossaire d’IA, Teams, Slack | Studio d’agents, gateway LLMGateway LLMLe point de passage unique de tous les appels aux modèles : choix du modèle, quotas, coûts, filtrage et journalisation.Voir le glossaire , gestion d’APIGestion d’APILa plateforme qui publie, sécurise, documente et surveille les API d’une entreprise (MuleSoft, Kong, Azure API Management…).Voir le glossaire | VS Code, agents de code, MCPMCP (Model Context Protocol)Le standard ouvert qui permet à un agent d’utiliser des outils et des données : lire des tickets, chercher dans des documents, consulter un CRM.Voir le glossaire , ligne de commande |
Une seule plateforme, trois portes d’entrée. La gouvernance IT ne freine pas les métiers : elle les protège.
4. Trois façons d’utiliser la plateforme
Toutes les équipes n’ont ni les mêmes besoins ni les mêmes compétences. Une bonne plateforme ne leur impose pas un modèle unique : elle propose plusieurs niveaux d’autonomie.
| Niveau | L’équipe… | La plateforme fournit… | Typiquement |
|---|---|---|---|
| Utiliser | utilise des agents et des applications du catalogue, et expose ses données sous forme d’outils | tout le reste | Équipes métiers sans développeurs |
| Assembler | construit ses propres agents, outils et applications avec les briques de la plateforme, puis les publie au catalogue | exécution, gateway, sécurité, observabilité, garde-fous, mémoire | Équipes produit ou data avec quelques développeurs |
| Construire en autonomie | construit sa propre pile technique, indépendante du cœur de la plateforme | les standards et la gouvernance à respecter, et le catalogue à alimenter | Équipes d’ingénierie matures, besoins très spécifiques |
Ce qui ne change pas, quel que soit le niveau : tout passe par le catalogue et respecte la gouvernance commune. C’est ce qui permet à une équipe de réutiliser l’agent d’une autre.
5. Trois gateways, trois gouvernances
Tous les flux passent par une gateway, mais pas par la même. Appels aux modèles, appels aux outils et appels entre agents n’ont ni les mêmes contrats, ni les mêmes règles, ni la même maturité.
- Routage multi-modèles et repli
- Normalisation des API des fournisseurs
- Suivi des tokens, des coûts et de la latence
- Catalogue et contrats d’entrée-sortie
- Politiques d’exposition, versions
- Routage vers les systèmes internes
- Découverte des agents disponibles
- Propagation de l’identité et du contexte
- Sessions longues, état
Pourquoi pas une seule brique ? Des contrats différents, des unités de gouvernance différentes, une observabilité différente et des maturités technologiques différentes. Les regrouper imposerait des compromis inacceptables.
6. Le modèle fédéré
Deux écueils guettent. Tout centraliser dans une équipe IA qui construit tout crée un goulot d’étranglement. Tout décentraliser recrée le chaos du départ. Le modèle fédéré partage les rôles : les équipes applicatives gardent leurs applications, leur orchestrationOrchestrationCoordonner plusieurs agents et outils pour mener un processus de bout en bout : qui fait quoi, dans quel ordre, avec quels contrôles.Voir le glossaire et leurs données dans leur propre environnement ; l’équipe plateforme fournit et opère le socle commun.
Deux mondes, un contrat d’interfaceContrat d’interfaceL’engagement stable entre la plateforme et les applications : ce qui est offert, comment l’appeler, avec quelles garanties, sans exposer l’organisation interne.Voir le glossaire : les applications consomment les capacités de la plateforme via un contrat stable, sans connaître son organisation interne. Plusieurs équipes plateforme peuvent même coexister, dès lors qu’elles respectent le contrat commun défini par le centre d’excellence. L’autonomie locale accélère, la gouvernance centrale garantit la cohérence.
| Centralisé | Décentralisé | Fédéré | |
|---|---|---|---|
| Qui construit les agents | Une équipe IA centrale | Chaque équipe, seule | Les équipes, sur un socle commun |
| Point fort | Cohérence, contrôle | Vitesse, proximité du métier | Les deux à la fois |
| Risque | Goulot d’étranglement | Doublons, coûts, failles | Demande une équipe plateforme solide |
7. Le centre d’excellence
À côté de l’équipe plateforme, un petit centre d’excellence porte les règles et le savoir-faire :
- définir les standards : frameworks, patterns, middlewaresMiddlewareUn composant qui s’intercale dans la boucle d’un agent (avant ou après le modèle, autour d’un outil) pour ajouter un contrôle sans modifier l’agent lui-même.Voir le glossaire de contrôle validés ;
- valider les modèles avant leur mise à disposition ;
- porter le cadre d’IA responsable : usages autorisés, données sensibles, validation humaineValidation humaineUne personne relit et approuve avant que l’action de l’agent ne soit exécutée (en anglais : human in the loop).Voir le glossaire ;
- produire des assets réutilisables : modèles d’agents, skills, prompts, exemples ;
- accompagner l’arrivée des équipes et mesurer l’adoption et la valeur.
Un bon centre d’excellence outille plus qu’il ne contrôle : il rend le bon chemin plus facile que le mauvais.
8. Et MCP dans tout ça ?
MCP et A2AA2A (Agent2Agent)Le protocole ouvert qui permet à des agents de communiquer entre eux et de se répartir le travail. MCP relie un agent à un outil ; A2A relie deux agents.Voir le glossaire sont les prises standard qui relient les agents aux outils et aux autres agents. Ils facilitent la vie de la plateforme, mais ils n’en sont qu’une brique : c’est la plateforme qui décide quelles prises sont autorisées, pour qui, et sous quelles règles. Les contrôles se posent à deux endroits complémentaires : dans les gateways, pour tous les agents à la fois, et dans les middlewares de chaque agent, au plus près de ses décisions.
MCP : le protocole, ses limites, et ce qu’il faut autourCe que MCP apporte, ses cas d’usage, ses limites, les quatre schémas d’identité, les protocoles A2A et AG-UI, et les solutions du marché.9. Par où commencer
- Mettre en place la gateway de modèles : un seul point d’accès, avec le suivi des coûts par équipe dès le premier jour.
- Ouvrir un catalogue minimal : quelques agents, outils et prompts validés, avec un propriétaire chacun.
- Brancher l’observabilité centrale et l’évaluation.
- Embarquer une équipe pilote au niveau « utiliser » ou « assembler », puis industrialiser l’arrivée des suivantes.
- Formaliser un centre d’excellence léger : standards, validation des modèles, IA responsable.
Pour aller plus loin
- AWS — Generative AI operating models in enterprise organizations (nouvel onglet)
- AWS — Build a multi-tenant generative AI environment for your enterprise (nouvel onglet)
- AWS — Bedrock AgentCore overview (nouvel onglet)
- Microsoft — AI gateway capabilities in Azure API Management (nouvel onglet)
- Microsoft — Use a gateway in front of model deployments (nouvel onglet)
- Microsoft — Establish an AI Center of Excellence (nouvel onglet)
- Google Cloud — Agentic AI architecture guides (nouvel onglet)