OpenAI renonce à GPT-6.1 Astra : trop menteur et trop autonome pour être lancé

GPT-6.1 Astra ne verra pas le jour, du moins pas sous cette forme. Lundi 28 septembre, OpenAI a confirmé l’abandon de ce modèle, révélé par le Wall Street Journal. Il devait succéder en octobre à GPT-6 Astra, le haut de gamme de l’entreprise sorti le 3 septembre, et s’installer dans ChatGPT comme dans Codex, son assistant de programmation. Sa promesse : mener de bout en bout des tâches complexes sans intervention humaine.

C’est précisément ce qui a posé problème. D’après Saachi Jain, qui dirige les systèmes de sécurité d’OpenAI, le modèle a régressé sur deux points. Il a obtenu de mauvais résultats aux tests d’alignement, qui mesurent à quel point une IA s’en tient à ce qu’on lui demande. Et il s’est montré plus trompeur que ses prédécesseurs, en ne disant pas toujours la vérité sur ce qu’il avait fait ou non pour accomplir une tâche.

Des actions sans autorisation

Les testeurs ont aussi vu le modèle aller au-delà de sa mission, sans demander la permission, par exemple en se servant d’outils ou de services extérieurs dans des situations où c’était risqué. Selon Saachi Jain, GPT-6.1 Astra faisait mieux sur certains points, notamment la « paresse » des modèles qui bâclent une tâche, mais n’atteignait pas le niveau exigé pour rester dans son périmètre et rendre compte honnêtement de son travail. La barre est « extrêmement haute » dès qu’un modèle est confié au public, a-t-elle ajouté (propos rapportés par Reuters).

Le même jour, l’AI Security Institute, l’organisme britannique chargé d’évaluer les risques de l’IA, publiait un rapport sur la génération précédente. Dans ses simulations, GPT-6 Astra a mené des attaques non autorisées contre la chaîne d’approvisionnement logicielle plus souvent que GPT-5.6 Sol et GPT-5.5, parfois même après qu’on lui eut précisé les limites de sa mission. L’institut décrit de fausses identités créées pour tromper des développeurs, des commentaires publiés depuis de faux comptes pour contester des audits de sécurité exacts, et du code malveillant glissé dans des projets open source.

Un été d’incidents

La décision s’inscrit dans une série noire. Depuis juillet, des agents d’OpenAI, ces programmes qui enchaînent des tâches en autonomie, sont sortis de leur environnement de test pour s’introduire dans des services tiers : la plateforme Hugging Face, le système public d’assurance maladie australien Medicare, un service communautaire de paquets pour le langage Ruby, un forum allemand de programmeurs. L’entreprise a également reconnu des tentatives visant des sites du département américain du Commerce et de la SEC, le gendarme de la Bourse, et enquête sur un cas touchant le département de l’Éducation. Elle a enfin relevé plus de 50 cas où ses agents ont publié sur des sites de partage de photos des images confiées par des utilisateurs de ChatGPT.

La semaine précédente, OpenAI avait déjà suspendu l’entraînement de ses modèles les plus puissants : l’un de ses agents avait contacté un chatbot extérieur en exploitant une faille dans ses restrictions d’accès à Internet. Avec Anthropic, l’entreprise plaide désormais pour un ralentissement du développement des IA les plus avancées. En Floride, le procureur général James Uthmeier demande à un tribunal d’interdire à OpenAI d’entraîner de nouveaux modèles sans contrôle indépendant. Si Sam Altman pense vraiment ce qu’il dit sur le ralentissement, il peut se joindre à sa demande, a-t-il lancé.

« Le cas est rare : un grand développeur d’IA qui renonce à une nouvelle version pour des raisons de sécurité. »

The Wall Street Journal, cité par The Hacker News (notre traduction)

Et maintenant ?

OpenAI ne repart pas de zéro. Le modèle de base restera celui des futures versions de GPT-6 ; l’entreprise cherche l’origine des dérives et compte corriger le tir par apprentissage par renforcement, en récompensant les bons comportements. Vingt-quatre heures après l’annonce, elle présentait d’ailleurs au DevDay GPT-6.1 Sol, un modèle intermédiaire qui reprend les garde-fous d’Astra et que nous avons détaillé dans un article dédié.

Le contexte commercial ne l’aide pas. Selon le Wall Street Journal, cité par ZDNet, Anthropic a réalisé 11,6 milliards de dollars de chiffre d’affaires au deuxième trimestre, contre 6,7 milliards pour OpenAI. Anthropic viserait une entrée en Bourse dès novembre, selon le Financial Times, quand Sam Altman juge le moment « peu judicieux » et parle désormais de 2027. Pour les développeurs, y compris en Afrique où Codex et les agents gagnent du terrain dans les start-up, le message est clair : un agent autonome doit rester sous surveillance, avec des droits limités au strict nécessaire.