Verifica dell'età, rischi dell'IA, moderazione 2025

Lisa Ernst · 16.10.2025 · Tecnica · 4 min

La decisione di OpenAI di autorizzare contenuti erotici per adulti verificati in ChatGPT ha scatenato un dibattito sulla protezione dei minori e sulla libertà. Il CEO Sam Altman difende la mossa con l'argomento che OpenAI non sia la polizia morale del mondo.

Quelle: Rappresentazione personale

OpenAI & Erotica

L'erotica in questo contesto indica rappresentazioni esplicite e sessuali in forma testuale che dovrebbero essere accessibili solo agli utenti adulti. Verifica dell'età comprende procedure per la verifica dell'età, dai controlli dei documenti a una stima dell'età basata sull'IA. OpenAI sottolinea che i contenuti con minorenni vietato rigorosamente rimanere.

Situazione attuale & motivi

Il 14. Oktober 2025 Sam Altman ha annunciato che ChatGPT, a partire da dicembre, permetterà giochi di ruolo erotici per adulti verificati. Ciò comporta opzioni aggiuntive di personalità e tono. I rapporti dei media hanno confermato questo piano come parte del principio di trattare gli utenti adulti come adulti. The Guardian ha inoltre menzionato un'offerta per adolescenti da settembre e una prevista stima dell'età, i cui dettagli non sono ancora stati completamente resi noti. OpenAI descrive in post sul blog l'espansione del rilevamento dell'età e dei controlli parentali. Altman ha ribadito che OpenAI non è la polizia morale del mondo e proteggerà rigorosamente i minori.

Strategicamente, OpenAI rafforza l'attrattiva del prodotto per adulti paganti in un contesto in cui i concorrenti fanno leva su funzionalità più liberali per conquistare quote di mercato. L'azienda cerca di ritirare con cautela i filtri precedentemente severi a causa dei rischi per la salute mentale, supportata da nuovi meccanismi di rilevamento e intervento. L'opinione pubblica si concentra sulla domanda se una piattaforma possa garantire libertà per adulti e protezione rigorosa dei minori. Questo passo cade in un periodo in cui la politica USA e gli stati federali cercano di restringere l'accesso dei minorenni a compagni IA.

Fatti & critiche

È provato che OpenAI voglia consentire contenuti erotici per adulti verificati, con una finestra di avvio a dicembre. La citazione di Altman riguardo la polizia morale è anch'essa comprovata. L'espansione della previsione dell'età e protezione dei teenager, inclusi i controlli dei genitori, è anch'essa confermata. Non è chiaro l'esatto procedimento e i tassi di errore della stima dell'età; OpenAI cita principi, ma nessuna metrica validata. Falso o fuorviante è l'affermazione che OpenAI permetta contenuti sessuali generali senza restrizioni; i minori restano rigorosamente protetti, e contenuti con minori sono vietati.

Quelle: avasant.com

Cinque aree chiave della moderazione dei contenuti: dall'identificazione automatizzata ai quadri normativi.

Le critiche sono arrivate, tra gli altri, dall'imprenditore Mark Cuban, che mette in dubbio l'efficacia dei cancelli dell'età e avverte contro effetti indesiderati. Le organizzazioni anti-pornografia hanno espresso preoccupazioni fondamentali per la sicurezza e chiedono misure più rigorose. I media inquadrano questa mossa come un segnale di un cambiamento di rotta più ampio nella moderazione dei contenuti e nella strategia di prodotto.

Implicazioni & Domande aperte

Per gli utenti adulti ciò significa maggiore libertà nelle funzioni opzionali, pur mantenendo limiti rigorosi sui contenuti dannosi. Per scuole e famiglie diventa rilevante quanto bene funzioni la verifica dell'età e le impostazioni dei dispositivi. Sistemi comparabili come su YouTube si affidano sempre più a una stima dell'età basata sull'IA, che nella pratica può causare classificazioni errate e questioni di privacy. In pratica ciò significa che sui dispositivi scolastici sono necessari impostazioni di protezione dei minori coerenti e chiare regole di utilizzo, poiché i cancelli di età da soli non offrono una protezione al 100%.

Quelle: youtube.com

ChatGPT e IA generativa a scuola: sfide e modalità di gestione nel contesto della verifica dell'età e della moderazione dei contenuti.

Le domande aperte riguardano la convalida accurata del rilevamento dell'età da parte di OpenAI, in particolare per quanto riguarda metriche e audit indipendenti. Finora mancano tassi di errore pubblicati o studi su possibili bias. Resta da vedere quali principi normativi adotterà il legislatore per i compagni IA e le funzioni orientate agli adulti. Iniziative iniziali per una maggiore limitazione dei chatbot per i minorenni sono oggetto di discussione. L'attuazione concreta a dicembre, in particolare il design opt-in, il logging e il monitoraggio degli abusi, non è ancora dettagliata.

Riepilogo

Il cambiamento di regime segna una svolta: libertà per gli adulti combinata con una maggiore protezione dei minori. Il successo nell'uso quotidiano dipende dalla qualità della verifica dell'età, da meccanismi di protezione trasparenti e da regole chiare nelle famiglie e nelle scuole. Una verifica consapevole e l'uso delle opzioni di impostazione permettono un uso responsabile delle opportunità, senza minimizzare i rischi.

Quelle: user-added

Rappresentazione schematica della moderazione dei contenuti automatizzata e umana, rilevante per i sistemi di IA generativa come ChatGPT.