Baisse de la bourse de sécurité d'OpenAI : un dangereux saut en IA

Lisa Ernst · 12.04.2026 · Intelligence Artificielle · 11 min

Les sables mouvants de la vision de sécurité IA d'OpenAI

Depuis des années, j'observe l'évolution du paysage de l'intelligence artificielle, en observant attentivement l'interaction entre les progrès technologiques rapides et la quête essentielle, souvent complexe, de la sécurité. Nulle part cette tension n'est plus palpable qu'au sein d'OpenAI, une organisation fondée avec la mission de garantir que l'intelligence artificielle générale (AGI) profite véritablement à toute l'humanité. Vous pouvez en savoir plus sur leur mission sur le site web de la Fondation OpenAI.

Source: Une illustration dépeint le visage d'un robot humanoïde aux yeux bleus lumineux, suggérant un avenir où l'IA et l'humanité convergent, symbolisant la poursuite d'une AGI sûre.

Résumé rapide

• Engagement déclaré d'OpenAI : OpenAI met publiquement l'accent sur la sécurité comme mission fondamentale, intégrant des mesures dès le développement précoce et collaborant avec des experts externes et des gouvernements.
• Nouvelle bourse de sécurité : Un programme pilote lancé en avril 2026 pour favoriser la recherche indépendante sur la sécurité de l'IA, offrant des allocations et du mentorat.
• Mécontentement interne : Des rapports de *The New Yorker* et d'anciens employés (Ilya Sutskever, Dario Amodei, Jan Leike) suggèrent un changement par rapport aux principes de la sécurité avant tout en raison des pressions commerciales et des préoccupations de la direction.
• Position de Sam Altman : Le PDG Sam Altman a déclaré que ses "vibes ne sont pas alignées avec une grande partie des choses traditionnelles de la sécurité de l'IA."
• L'équipe "Superalignment" dissoute : Une équipe dédiée à la prévention de "l'extinction humaine" aurait reçu des ressources minimales et aurait été dissoute par la suite.
• Critiques externes : Miles Brundage a critiqué OpenAI pour avoir prétendument "réécrit" son histoire en matière de sécurité de l'IA.
• Contexte plus large : Le domaine de la sécurité de l'IA est en croissance, avec des racines historiques, une implication gouvernementale (NIST, Stratégie britannique sur l'IA) et des débats en cours sur les risques actuels et spéculatifs.

Engagement d'OpenAI dans la recherche sur la sécurité

OpenAI affirme constamment que la sécurité est un pilier central de sa mission, visant à maximiser les impacts positifs de l'IA tout en minimisant les impacts négatifs. Leur approche détaillée de la sécurité et de l'alignement est exposée dans leur article sur la façon dont ils abordent la sécurité et l'alignement. . L'organisation intègre activement des mesures de sécurité dès les premières étapes de développement pour favoriser des systèmes d'IA innovants et fiables.

Leur approche comprend dix pratiques clés pour une sécurité renforcée, telles que le red-teaming empirique et les tests avant publication, comme décrit dans leur cadre de sécurité. . Par exemple, plus de 70 experts externes ont contribué aux évaluations des risques de GPT-4 lors d'initiatives de red-teaming, dont vous pouvez lire sur leur aperçu de sécurité. . OpenAI ne publiera pas de nouveaux modèles s'ils dépassent un seuil de risque "moyen" dans leur "Cadre de préparation" tant que des interventions de sécurité adéquates ne sont pas en place, une politique détaillée dans leurs directives de sécurité, . Ce cadre, introduit l'année dernière, offre une approche structurée pour identifier et atténuer les dangers potentiels, comme expliqué dans l'article.

.L'engagement d'OpenAI s'étend aux efforts collaboratifs. Ils ont rejoint les "Frontier AI Safety Commitments", qui prônent le développement sécurisé, le déploiement de modèles d'IA et le partage d'informations concernant la mitigation des risques, comme cité dans leur documentation de sécurité. . Le US AI Safety Institute et OpenAI ont signé des accords concernant la recherche sur la sécurité de l'IA. Vous trouverez plus d'informations sur ces accords sur le site web du NIST. . Dans le monde, OpenAI travaille avec les gouvernements pour développer des politiques efficaces de sécurité de l'IA, comme mentionné dans leurs pratiques de sécurité.

Source: vectorseek.com

Le logo du NIST représente les efforts de collaboration entre le US AI Safety Institute et OpenAI pour faire progresser la recherche sur la sécurité de l'IA par le biais d'accords signés.

Une des priorités essentielles du travail de sécurité d'OpenAI consiste à protéger les enfants, en mettant en place des protections par défaut robustes dans ChatGPT et DALL-E, comme expliqué dans leur cadre de sécurité. . Ils collaborent avec des organisations comme Thorn pour détecter et signaler le matériel d'abus sur enfants au National Center for Missing and Exploited Children, détaillé dans leur engagement en matière de sécurité. . L'entreprise collabore également avec les gouvernements et les parties prenantes pour garantir l'intégrité des élections ; ChatGPT dirige les utilisateurs aux États-Unis et en Europe vers des sources officielles d'information électorale, comme indiqué dans leurs directives de sécurité. . De plus, OpenAI soutient le "Protect Elections from Deceptive AI Act" au Sénat américain, qui interdirait le contenu généré par l'IA trompeur dans la publicité politique. Vous pouvez lire le texte de ce projet de loi sur GovTrack.us.

Une nouvelle bourse pour la sécurité de l'IA

Sur la base de ces efforts, OpenAI a annoncé le 6 avril 2026 un programme pilote "Safety Fellowship" (bourse de sécurité), conçu pour favoriser la recherche indépendante sur la sécurité et l'alignement, et pour former de nouveaux talents. Ce programme se déroulera du 14 septembre 2026 au 5 février 2027. Les boursiers se concentreront sur les problèmes de sécurité pertinents pour les systèmes d'IA actuels et futurs, y compris l'évaluation de la sécurité, l'éthique, la robustesse, les mesures d'atténuation évolutives, les méthodes de sécurité préservant la vie privée, la supervision des agents et les domaines à haut risque d'utilisation abusive. Les participants travailleront en étroite collaboration avec des mentors d'OpenAI, à distance ou à Constellation à Berkeley, comme indiqué sur le site web de Constellation. . La bourse comprend une allocation mensuelle, un soutien informatique et un mentorat continu. Les candidatures étaient ouvertes jusqu'au 3 mai, et les candidats retenus seraient informés avant le 25 juillet.

Évolution de la philosophie de sécurité d'OpenAI

OpenAI considère le développement de l'AGI non pas comme un saut singulier et discontinu, mais comme une progression de systèmes offrant une utilité croissante, comme indiqué dans ses principes de sécurité. . Leur principe de déploiement itératif permet d'apprendre des systèmes actuels et d'adapter la société à la technologie en évolution, ce qui est davantage expliqué dans leur approche de la sécurité. . Cette philosophie correspond à l'approche d'OpenAI lors de la publication de GPT-2, qui, selon l'ancien responsable des politiques Miles Brundage, était pleinement conforme à leur philosophie actuelle de déploiement itératif. Les commentaires de Brundage sont disponibles dans son tweet. . Brundage a affirmé que la prudence entourant la publication de GPT-2 était justifiée, comme noté dans le même tweet.

.Malgré ces engagements déclarés, des critiques internes et externes ont émergé, suggérant un possible écart par rapport aux principes fondamentaux de sécurité d'OpenAI.

Mécontentement interne croissant

Un rapport de *The New Yorker* en avril 2026 a révélé comment la mission initiale d'OpenAI de privilégier l'humanité plutôt que le profit se serait effondrée sous les pressions commerciales. Ce changement a conduit l'entreprise à devenir une entité à but lucratif, à démanteler nombre de ses équipes de sécurité et à supprimer des membres du conseil d'administration qui cherchaient à évincer le PDG Sam Altman pour des allégations de tromperie concernant les protocoles de sécurité. Le rapport, s'appuyant sur des documents internes de l'ancien scientifique en chef Ilya Sutskever et de l'ancien responsable de la sécurité Dario Amodei (maintenant PDG d'Anthropic), a souligné un conflit fondamental. Amodei, par exemple, avait plaidé pour une clause "Merge-and-Assist" dans la charte d'OpenAI, obligeant l'entreprise à soutenir d'autres entreprises d'IA si elles atteignaient une AGI sûre en premier. Microsoft, lors de son investissement en 2019, aurait obtenu un pouvoir de veto sur cette clause.

Le style de leadership de Sam Altman a également fait l'objet d'un examen minutieux, un mémo de Sutskever commençant apparemment par une liste où le premier point était "Sam montre un schéma constant de... mensonge". Amodei a conclu : "Le problème avec OpenAI, c'est Sam lui-même."

❝ Le problème avec OpenAI, c'est Sam lui-même. ❞

Dario Amodei

PDG d'Anthropic

Altman lui-même a admis à *The New Yorker* que ses "vibes n'étaient pas alignées avec une grande partie de la sécurité traditionnelle de l'IA."

❝ vibes ne sont pas alignées avec une grande partie de la sécurité traditionnelle de l'IA. ❞

Sam Altman

PDG d'OpenAI

Source: stablediffusionweb.com

Sam Altman, PDG d'OpenAI, a fait l'objet d'un examen minutieux concernant son leadership et a admis que ses "vibes n'étaient pas alignées avec une grande partie de la sécurité traditionnelle de l'IA."

L'équipe "Superalignment", créée à la mi-2023 avec la promesse d'un cinquième de la puissance de calcul d'OpenAI pour prévenir la "désautonomisation humaine, voire l'extinction humaine", aurait reçu seulement un à deux pour cent de la puissance de calcul du matériel le plus ancien et a été dissoute par la suite. Un représentant d'OpenAI semblait peu familier avec les chercheurs axés sur la sécurité existentielle, déclarant : "Ce n'est pas un truc."

❝ Ce n'est pas un truc. ❞

Représentant OpenAI

Rôle inconnu

Ces récits internes suggèrent un écart important par rapport à l'éthos de sécurité avant tout déclaré par l'entreprise.

Préoccupations externes et perception publique

D'anciens employés d'OpenAI ont exprimé publiquement leurs inquiétudes. En juillet 2024, un rapport du *Washington Post* détaillait des employés anonymes affirmant qu'OpenAI avait précipité les tests de sécurité et célébré ses produits prématurément. Le rapport complet peut être lu dans The Washington Post. . Jan Leike, un chercheur clé d'OpenAI, a démissionné, alléguant que "la culture et les processus de sécurité de l'entreprise ont pris le pas sur les produits brillants."

❝ la culture et les processus de sécurité ont pris le pas sur les produits brillants. ❞

Jan Leike

Chercheur OpenAI

Miles Brundage, en mars 2025, a critiqué OpenAI pour avoir prétendument "réécrit" son histoire en matière de sécurité de l'IA. Ses commentaires sont accessibles via ce tweet. . Brundage s'inquiétait que le nouveau récit d'OpenAI visait à rejeter les préoccupations comme "alarmistes" et à exiger "des preuves écrasantes de dangers imminents", ce qu'il a également précisé dans son article sur les réseaux sociaux.

Source: robots.law.miami.edu

Miles Brundage a critiqué OpenAI pour avoir prétendument "réécrit" son histoire en matière de sécurité de l'IA, craignant que leur nouveau récit ne vise à rejeter les préoccupations concernant les dangers imminents.

Malgré ces critiques, Taya Christianson, porte-parole d'OpenAI, a affirmé la fierté de l'entreprise dans son bilan de livraison de systèmes d'IA performants et sécurisés.

Le paysage plus large de la sécurité de l'IA

Le domaine de la sécurité de l'IA a pris une importance considérable, en particulier depuis 2023, entraîné par les progrès rapides de l'IA générative et les préoccupations croissantes du public de la part des chercheurs et des PDG. Cela inclut les discussions sur les risques actuels tels que les erreurs de l'IA, les biais et la surveillance alimentée par l'IA, ainsi que les menaces émergentes telles que la désinformation et les armes autonomes. Les risques spéculatifs, tels que la perte de contrôle sur de futurs agents d'AGI ou l'IA permettant des dictatures stables, font également partie de ces discussions.

Historiquement, les risques de l'IA sont débattus depuis les débuts de la cybernétique, comme l'a noté Norbert Wiener en 1949. Roman Yampolskiy a introduit le terme "ingénierie de la sécurité de l'IA" en 2011, prévoyant une augmentation de la fréquence et de la gravité des défaillances de l'IA. Le livre de Nick Bostrom de 2014, *Superintelligence*, a popularisé davantage ces préoccupations, avec des personnalités comme Elon Musk, Bill Gates et Stephen Hawking faisant écho à ses avertissements.

Des organismes gouvernementaux et universitaires du monde entier s'engagent activement dans la sécurité de l'IA. La US National Security Commission on Artificial Intelligence a rapporté en 2021 que les systèmes d'IA devaient s'aligner sur les objectifs et les valeurs humains, y compris la sécurité et la fiabilité. Le National Institute of Standards and Technology (NIST) a développé un cadre pour la gestion des risques de l'IA. La Chine a publié des lignes directrices éthiques en 2021 mettant l'accent sur le contrôle humain et la responsabilité, et la Stratégie Nationale sur l'IA du Royaume-Uni de 2021 reconnaît les risques à long terme de l'AGI non alignée.

Principaux domaines de recherche sur la sécurité de l'IA

La recherche sur la sécurité de l'IA englobe largement plusieurs domaines critiques :

OpenAI reconnaît plusieurs principes fondamentaux pour son approche de la sécurité et de l'alignement : accepter l'incertitude, plaider pour la défense en profondeur, développer des méthodes de sécurité évolutives, maintenir le contrôle humain et favoriser les efforts de collaboration. Ces principes sont détaillés dans leur article, Comment nous abordons la sécurité et l'alignement. . Ils visent à construire des systèmes transparents, auditable et contrôlables, en codifiant des politiques explicites et une "jurisprudence" dans la formation des modèles, comme exploré plus en détail sur leur page de sécurité.

Conclusion

Le parcours d'OpenAI dans le domaine de la sécurité de l'IA reflète un jeu complexe de promesses ambitieuses, de contributions techniques significatives et de défis internes. Bien que l'entreprise continue d'annoncer de nouvelles initiatives comme la "Safety Fellowship" et de souligner son engagement envers le développement sécurisé, les rapports critiques d'anciens employés et de *The New Yorker* soulèvent d'importantes questions sur la cohérence de ses actions avec sa mission déclarée. Le débat en cours sur la culture interne d'OpenAI et la priorisation des produits par rapport à la sécurité souligne les difficultés inhérentes à la navigation dans l'évolution rapide de l'IA tout en respectant les normes éthiques et de sécurité au profit de tous. Les regards de la communauté de l'IA, des décideurs politiques et du public restent braqués sur OpenAI alors qu'elle s'efforce de concilier ses impératifs commerciaux avec sa vision fondatrice d'une AGI sûre et bénéfique.