Vérification d'âge, risques liés à l'IA, modération 2025

Lisa Ernst · 16.10.2025 · Technique · 4 min

La décision d'OpenAI d'autoriser des contenus érotiques pour des adultes vérifiés dans ChatGPT a suscité un débat sur la protection des jeunes et la liberté. Le PDG Sam Altman défend cette étape en avançant l'argument que OpenAI n'est pas la police morale du monde.

Quelle: Représentation personnelle

OpenAI & Érotique

L'érotique, dans ce contexte, désigne des représentations explicites et sexuelles sous forme de texte destinées exclusivement aux utilisateurs adultes. Vérification de l'âge Comprend des procédures de vérification de l'âge, allant des contrôles d'identité à l'estimation de l'âge assistée par IA. OpenAI souligne que les contenus destinés aux mineurs strictement interdits restent.

État actuel et motifs

Le 14. Oktober 2025 Sam Altman a annoncé que ChatGPT autoriserait, à partir de décembre, un jeu de rôle érotique pour les adultes vérifiés. Cela s'accompagne d'options de personnalité et de ton élargies. Des articles médiatiques ont confirmé ce plan dans le cadre du principe consistant à traiter les utilisateurs adultes comme des adultes. Le Guardian a également évoqué une offre pour adolescents depuis septembre et une estimation d'âge prévue, dont les détails ne sont pas encore entièrement divulgués. OpenAI décrit dans des billets de blog l'amélioration de la détection de l'âge et des contrôles parentaux. Altman a réitéré qu'OpenAI n'est pas la police morale mondiale et qu'il protégera strictement les mineurs.

Stratégie: OpenAI renforce l'attrait du produit pour les adultes payants dans un contexte où des concurrentes proposent des fonctionnalités plus libérales pour gagner des parts de marché. L'entreprise tente de ramener prudemment en arrière des filtres auparavant stricts en raison de risques pour la santé mentale, soutenus par de nouveaux mécanismes de détection et d'intervention. La perception publique se concentre sur la question de savoir si une plateforme peut garantir une liberté pour les adultes tout en assurant de manière crédible la protection des jeunes. Cette étape s'inscrit dans une période où la politique américaine et les États cherchent à durcir l'accès des mineurs aux compagnons IA.

Faits et critiques

Il est établi qu'OpenAI souhaite autoriser des contenus érotiques pour les adultes vérifiés, avec une fenêtre de démarrage à partir de décembre. La citation d'Altman sur la police morale est également avérée. Le développement de l'estimation d'âge et de la protection des adolescents, y compris les contrôles parentaux, est également confirmé. Il demeure incertain quels sont les procédés exacts et les taux d'erreur de l'estimation d'âge; OpenAI cite des principes, mais pas de chiffres validés. Faux ou trompeur est l'affirmation selon laquelle OpenAI autoriserait des contenus sexuels généraux sans restrictions; les mineurs restent strictement protégés, et les contenus impliquant des mineurs sont interdits.

Quelle: avasant.com

Cinq domaines clés de la modération du contenu : de la détection automatisée aux cadres réglementaires.

Des critiques sont venues notamment de l'entrepreneur Mark Cuban, qui doute de l'efficacité des portails d'âge et met en garde contre des effets indésirables. Des organisations anti-pornographie ont exprimé des préoccupations de sécurité fondamentales et demandent des mesures plus strictes. Les médias considèrent cette étape comme un signal d'un changement de cap plus large en matière de modération du contenu et de stratégie produit.

Impacts et questions ouvertes

Pour les utilisateurs adultes, cela signifie plus de liberté grâce à des options d'activation, tout en conservant des limites strictes pour les contenus nuisibles. Pour les écoles et les familles, il devient crucial de voir dans quelle mesure la vérification d'âge et les configurations des appareils fonctionnent. Des systèmes similaires à YouTube s'appuient de plus en plus sur l'estimation de l'âge par IA, qui peut entraîner des erreurs de classification et des questions de protection des données au quotidien. Concrètement, cela signifie que sur les appareils scolaires, des paramètres de sécurité destinés aux jeunes et des règles d'utilisation claires sont nécessaires, car les portails d'âge à eux seuls ne garantissent pas une protection à cent pour cent.

Quelle: youtube.com

ChatGPT et l'IA générative à l'école : défis et approches possibles dans le cadre de la vérification de l'âge et de la modération du contenu.

Les questions ouvertes portent sur la validation exacte de la détection d'âge par OpenAI, en particulier en ce qui concerne les indicateurs et les audits indépendants. À ce jour, les taux d'erreur publiés ou les études sur les effets potentiels de biais font défaut. Il reste à voir quelles directives réglementaires le législateur adoptera pour les compagnons IA et les fonctionnalités destinées aux adultes. Des initiatives préliminaires pour limiter davantage les chatbots pour les mineurs sont discutées. La mise en œuvre concrète en décembre, notamment la conception opt-in, la journalisation et la surveillance des abus, n'est pas encore détaillée.

Résumé

Cette réforme constitue un tournant: la liberté des adultes, associée à un renforcement de la protection des jeunes. Le succès au quotidien dépend de la qualité de la vérification d'âge, de mécanismes de protection transparents et de règles claires dans les familles et les écoles. Une évaluation éclairée et l'utilisation des options de configuration permettent une utilisation responsable des opportunités, sans sous-estimer les risques.

Quelle: user-added

Représentation schématique de la modération du contenu automatisée et humaine, pertinente pour les systèmes d'IA générative tels que ChatGPT.