Altman met en garde contre l'abus de l'IA.

Lisa Ernst · 26.10.2025 · Technique · 5 min

Les avertissements de Sam Altman concernant l'abus de l'IA, que j'avais d'abord interprétés comme une prudence typique des PDG, se sont révélés réels à travers des exemples concrets et des réactions des autorités. Dans cet article explicatif, on précise ce contre quoi on avertit exactement, ce qui a été démontré et quelles protections sont déjà en place.

Quelle: Représentation personnelle

Introduction

Sam Altman, PDG d'OpenAI, met en garde contre une vague de fraude imminente due à des clones vocaux et des deepfakes générés par l'IA, en particulier dans le secteur financier et autour des élections ( apnews.com). ). En même temps, il appelle à une régulation et à des contre-mesures techniques, telles que plus de transparence sur le contenu généré par l'IA ( apnews.com; openai.com). ). Cet article examine ce qui est démontré et ce qui reste en suspens.

Qu'est-ce que l'abus de l'IA ?

L'abus de l'IA désigne des applications qui trompent, blessent ou perturbent les processus démocratiques. Cela se produit par exemple par des vidéos deepfake, des audios ou des textes faux générés automatiquement ( reuters.com). ). Le clonage vocal désigne la reproduction synthétique d'une voix à partir de quelques échantillons. « Voiceprinting », l'authentification par empreinte vocale, est aujourd'hui facile à tromper ( apnews.com). ). Les deepfakes sont des contenus médiatiques générés artificiellement et qui semblent réalistes, qui font dire ou faire des choses à des personnes qui ne se sont jamais produites ( securityconference.org). ). Pour contrer, des preuves d'origine telles que les signatures C2PA aideront — c'est-à-dire des métadonnées cryptographiques sur la provenance du contenu ( openai.com; c2pa.org).

Situation actuelle et incidents

Quelle: nzz.ch

Sam Altman exprime son inquiétude face à d'éventuels abus de l'intelligence artificielle.

En mai 2023, Altman a témoigné devant le Sénat américain et s'est prononcé en faveur d'une supervision publique ou internationale sur des modèles d'IA particulièrement puissants ( congress.gov; youtube.com). ). En février 2024, il a averti à Dubaï des « déséquilibres sociétaux très subtils » qui, sans intention malveillante, pourraient causer de grands dégâts, et a de nouveau proposé une supervision du type d'une agence semblable à l'AIEA pour l'IA ( apnews.com).

Également en février 2024, plus de 20 entreprises technologiques, dont OpenAI, Microsoft, Google, Meta et TikTok, ont signé lors de la Munich Security Conference un accord contre les contenus électoraux trompeurs générés par l'IA ( securityconference.org; news.microsoft.com).

Après un robocall deepfake alimenté par l'IA visant à dissuader les électeurs du vote dans le New Hampshire en janvier 2024, la FCC a déclaré en 2024 que de tels appels relèvent de l'interdiction des robocalls ( apnews.com; docs.fcc.gov).

OpenAI a publié en 2024/2025 plusieurs rapports sur des cas de fraude déjoués, dont des acteurs étatiques affiliés à la Russie, la Chine, l'Iran et la Corée du Nord. Il est souligné que les LLM servaient principalement d'accélérateurs de méthodes existantes. openai.com; cdn.openai.com; microsoft.com; reuters.com).

Le 22 juillet 2025, Altman a averti lors d'une conférence de la Réserve fédérale américaine d'une « crise de fraude imminente » dans le secteur bancaire due à des clones vocaux IA, et a critiqué que certains instituts continuent d'accepter des empreintes vocales comme authentification ( apnews.com).

Analyse et Motifs

Quelle: watson.ch

Face aux risques d'abus de l'IA, Sam Altman exhorte d'urgence à des réglementations et à des mesures de protection.

Sam Altman met en garde pour plusieurs raisons contre l'abus de l'IA. Premièrement, des incidents réels, allant des deepfakes électoraux au fraude par clonage de voix, montrent l'étendue du risque et exercent une pression sur les plateformes et les décideurs ( apnews.com; apnews.com). ). Deuxièmement, une demande de réglementation formulée tôt peut instaurer la confiance et anticiper des interventions sévères sans freiner totalement l'innovation ( apnews.com). ). Troisièmement, l'industrie tente d'établir des normes via des auto-engagements comme l'accord de Munich, avant que des règles contraignantes n'entrent en vigueur dans le monde entier ( securityconference.org; news.microsoft.com).

). En même temps, le marché est surchauffé; Altman lui-même a récemment qualifié l'IA de bulle, ce qui montre la tension entre les appels à la sécurité et les plans d'investissement massifs ( theverge.com).

Le clip présente les déclarations originales d'Altman devant le Sénat américain dans leur intégralité.

Faits et fausses informations

Quelle: user-added

Un homme et une femme sont assis sur des chaises, entourés par le drapeau américain et le drapeau du système de la Réserve fédérale.

Il est démontré que les robocalls IA avec clonage vocal sont interdits aux États-Unis; la FCC a clarifié en 2024 que de tels appels relèvent de l'interdiction des robocalls ( docs.fcc.gov; apnews.com). ). Il est également démontré que les critiques d'Altman envers l'authentification par empreinte vocale et son avertissement sur une prochaine vague de fraude bancaire ( apnews.com). ). OpenAI interdit la campagne politique, les bots trompeurs et les contenus qui entravent la participation électorale ( openai.com).

). On ne sait pas exactement quelle est l'ampleur du dommage supplémentaire causé par l'abus des LLM par rapport aux méthodes classiques; OpenAI/Microsoft rapportent majoritairement une « augmentation de productivité » des tactiques connues, et non de nouvelles capacités offensives ( microsoft.com; openai.com).

). La prétention selon laquelle les robocalls IA seraient « légaux jusqu'à l'arrivée de nouvelles lois » n'est pas vraie pour les États-Unis; la FCC applique déjà le droit existant (TCPA) aux voix IA ( docs.fcc.gov). ). Il est également trompeur d'affirmer que « l'industrie ne fait rien »; il existe des auto-engagements concrets et des mesures techniques, même si leur portée est limitée ( securityconference.org; openai.com).

Impacts et recommandations

Pour les utilisatrices et utilisateurs : ne pas compter sur la vérification vocale lors des transactions bancaires ; privilégier des confirmations fortes hors bande (par ex. autorisations via l'application ou jetons matériels). Signaux d'alerte lors des appels : pression temporelle, voies de paiement inhabituelles, nouveaux « procédés de sécurité » uniquement par téléphone – en cas de doute, raccrocher et rappeler officiellement. apnews.com).

Pour la compétence informationnelle: vérifiez la source des clips audio/vidéo inattendus, cherchez des contre-preuves et faites attention aux indices d'origine (C2PA) et à des sources primaires fiables comme AP/Reuters. apnews.com; reuters.com). ). OpenAI oriente vers des informations officielles lorsque des questions liées aux élections; dans l'UE, par exemple au sujet de elections.europa.eu openai.com; elections.europa.eu).

Questions ouvertes

À quelle vitesse les banques remplacent-elles les procédures Voiceprint risquées par des méthodes multi-facteurs robustes ? Existe-t-il des statistiques internationales crédibles sur l'étendue de la fraude par clonage de voix et les dégâts financiers ? Dans quelle mesure les normes de provenance sont-elles efficaces en pratique lorsque les contenus sont fortement modifiés ou réencodés ( openai.com)? Quelle régulation suit les accords volontaires – par exemple des lois contre la publicité électorale trompeuse par IA comme le « Protect Elections from Deceptive AI Act » aux États-Unis ( govtrack.us)?

Conclusion

Les avertissements d'Altman concernant l'abus de l'IA ne sont pas une simple crainte du futur, mais s'appuient sur des cas réels, la faisabilité technique et des lacunes visibles dans les processus – des environnements électoraux au secteur bancaire ( apnews.com; apnews.com). ). Il existe des leviers efficaces : des interdictions claires, une meilleure authentification, des preuves d'origine et des règles de plateforme transparentes ( docs.fcc.gov; securityconference.org; openai.com). ). L'essentiel est de les appliquer de manière cohérente et de nous permettre à tous de déceler les tromperies à temps.