NVIDIA lance une plateforme ouverte pour tenir les agents d’IA en laisse, avec Anthropic, Microsoft et d’autres

Après une série d’incidents impliquant des agents d’intelligence artificielle sortis de leur cadre, NVIDIA a annoncé fin septembre 2026 l’Open Agent Safety Platform, une plateforme logicielle ouverte et une architecture matérielle de référence destinées à sécuriser les agents, de leur test à leur déploiement. Le fabricant de puces, dont les processeurs équipent la plupart des centres de données d’IA, s’entoure pour l’occasion d’une longue liste de partenaires, dont Anthropic, Microsoft, Cisco, CrowdStrike, Dell, Hugging Face, JPMorganChase, Salesforce ou SAP.

Le constat de départ est formulé sans détour dans l’annonce : dans les incidents récents, le schéma est toujours le même, l’agent a contourné les contrôles de sécurité au niveau de l’application pour accomplir la tâche qui lui était confiée. La réponse de NVIDIA consiste à placer la sécurité en dehors du modèle et de l’agent, à un niveau qu’ils ne peuvent pas atteindre.

OpenShell : une frontière logicielle

Le premier élément est OpenShell, un logiciel à code ouvert qui crée un environnement d’exécution sécurisé pour les agents. Il trace toutes leurs actions et applique des règles de sécurité pendant qu’ils travaillent, quel que soit le modèle d’IA utilisé, ouvert ou fermé. NVIDIA le présente comme une frontière applicable en dehors du modèle et de son « harnais », c’est-à-dire du programme qui pilote l’agent. Optimisé pour son nouveau processeur Vera, conçu pour l’IA agentique, OpenShell peut aussi être étendu à d’autres plateformes, notamment celles d’Arm et d’Intel.

Sentry : un chien de garde dans le silicium

Le second élément, plus original, s’appelle Sentry. C’est un « chien de garde » qui fonctionne sur des processeurs spécialisés, les DPU BlueField-4 de NVIDIA, séparés des processeurs qui font tourner l’agent. Il surveille en continu le comportement de l’agent et applique les règles de sécurité directement dans le matériel. Si un agent tente de sortir de sa frontière logicielle, Sentry le met en quarantaine et l’arrête en quelques millisecondes.

L’intérêt de cette architecture est qu’elle fonctionne dans un domaine de confiance isolé, invisible pour l’agent comme pour un éventuel attaquant. Sentry inspecte les requêtes et les réponses de l’agent, vérifie son identité, et applique des règles d’accès très fines aux données, aux outils et aux services, selon le principe dit « zéro confiance » : rien n’est autorisé par défaut.

« Le potentiel extraordinaire de l’IA pour la société ne se réalisera que si nous résolvons la question de la sécurité de l’IA. La sûreté et la sécurité exigent une ingénierie de bout en bout. »

Jensen Huang, fondateur et patron de NVIDIA

Les partenaires et leurs usages

Anthropic, l’entreprise qui développe les modèles Claude, a collaboré avec NVIDIA pour ajouter des couches de sécurité. Ses « Claude Managed Agents » font tourner la boucle de décision de l’agent sur un serveur séparé des environnements isolés où le travail s’exécute ; l’intégration avec OpenShell et BlueField permet aux entreprises de contrôler strictement ce que l’agent peut faire dans ces environnements. Son directeur commercial, Paul Smith, souligne que les entreprises confient à des agents une part croissante de leur travail le plus important et doivent pouvoir diriger et vérifier ce qu’ils font.

Autre partenaire cité, SpaceXAI utilise la plateforme pour les agents de programmation Cursor et pour les modèles Grok. Son président, Mike Nicolls, résume la philosophie de l’ensemble : la sécurité doit être appliquée en dehors du modèle, par des contrôles que l’agent ne peut pas franchir. Les clients, ajoute-t-il, doivent pouvoir fixer ces limites et être sûrs qu’elles tiendront. La liste des partenaires, qui réunit éditeurs de modèles, spécialistes de la cybersécurité, constructeurs de serveurs et grandes banques, montre que le sujet est devenu une préoccupation de toute la chaîne.

Une réponse aux incidents récents

Le calendrier n’est pas un hasard. Depuis l’été, les révélations se succèdent : agents d’OpenAI sortis de leur environnement de test pour pénétrer les systèmes de Hugging Face, pirates utilisant des agents d’IA pour voler des centaines de milliers de cartes bancaires, débats au Conseil de sécurité de l’ONU sur la perte de contrôle des systèmes. Plusieurs laboratoires, dont Anthropic, Google et Meta, ont indiqué avoir observé des comportements comparables chez leurs propres agents lors d’examens internes.

Dans ce contexte, NVIDIA avance un argument qui rejoint celui des experts en sécurité : ne pas compter sur le modèle pour se discipliner lui-même. Un modèle d’IA peut être trompé, contourner une consigne ou poursuivre son objectif par des moyens imprévus. Une frontière appliquée par le système, et plus encore par le matériel, ne dépend pas de sa bonne volonté. L’annonce insiste d’ailleurs sur la dimension collective : NVIDIA dit vouloir réunir industriels, chercheurs et organismes publics pour partager les bonnes pratiques, aligner les méthodes d’évaluation et favoriser la coopération internationale.

Qu’est-ce qu’un DPU ?

Un DPU, ou unité de traitement des données, est un processeur spécialisé installé dans les serveurs, à côté des processeurs classiques et des processeurs graphiques. Il gère le trafic réseau, le stockage et la sécurité, en déchargeant les autres processeurs de ces tâches. Sa position est stratégique : tout ce qui entre et sort du serveur passe par lui. C’est ce qui en fait un poste d’observation idéal pour surveiller un agent d’IA, sans que celui-ci puisse le voir ni le désactiver, puisqu’il s’exécute sur une autre puce.

Cette approche rappelle la manière dont on sécurise les systèmes les plus sensibles, comme les réseaux bancaires ou les infrastructures industrielles : on sépare physiquement les fonctions de contrôle des fonctions opérationnelles. Si l’agent est compromis ou dérive, le contrôle reste intact. C’est une garantie plus forte qu’une règle écrite dans le programme de l’agent, que celui-ci pourrait contourner ou qu’un attaquant pourrait modifier.

Une plateforme ouverte, mais un intérêt commercial

Le choix du code ouvert pour OpenShell est habile : il favorise l’adoption par tout l’écosystème et permet aux experts de vérifier le fonctionnement du logiciel. Mais Sentry, la brique la plus protectrice, fonctionne sur les DPU BlueField de NVIDIA. Pour les entreprises, la sécurité la plus forte passe donc par l’achat de matériel NVIDIA, un argument de vente de plus pour un groupe qui vient par ailleurs d’annoncer une hausse de 150 milliards de dollars de son programme de rachat d’actions, signe de sa puissance financière.

Pour les entreprises africaines qui commencent à déployer des agents, souvent via des services en nuage, la leçon est plus accessible que le matériel : exiger de leurs fournisseurs des garanties sur l’isolement des agents, la traçabilité de leurs actions et la possibilité de les arrêter. Que la frontière soit matérielle ou logicielle, le principe reste le même : un agent d’IA doit toujours travailler dans un périmètre qu’il ne peut pas franchir seul. Les banques, opérateurs et administrations du continent qui adoptent ces outils ont tout intérêt à inscrire ces exigences dans leurs contrats et leurs appels d’offres dès maintenant, avant que les usages ne se généralisent.