Verificação de idade, riscos de IA, moderação 2025

Lisa Ernst · 16.10.2025 · Tecnologia · 4 min

A decisão da OpenAI de permitir conteúdos eróticos para adultos verificados no ChatGPT provocou um debate sobre proteção de menores e liberdade. O CEO Sam Altman defende a medida argumentando que a OpenAI não é a polícia moral do mundo.

Quelle: Representação própria

OpenAI & Erotismo

O erotismo, neste contexto, refere-se a representações explícitas, sexuais, em forma de texto, que devem ser acessíveis apenas a usuários adultos. Verificação de idade abrange procedimentos para verificação de idade, desde checagens de documentos até estimativa de idade assistida por IA. A OpenAI enfatiza que conteúdos com menores de idade estritamente proibido ficar.

Situação atual & Motivos

Em 14. Oktober 2025 Sam Altman anunciou que o ChatGPT permitirá, a partir de dezembro, conteúdo erótico para adultos verificados. Isso vem acompanhado de opções ampliadas de personalidade e tom. Relatórios da mídia confirmaram esse plano como parte do princípio de tratar usuários adultos como adultos. O Guardian mencionou também uma oferta para adolescentes desde setembro e uma estimativa de idade planejada, cujos detalhes ainda não foram totalmente divulgados. A OpenAI descreve em posts de blog a expansão da detecção de idade e de controles parentais. Altman reiterou que a OpenAI não é a polícia moral e protegerá rigidamente os menores.

Estratégicamente, a OpenAI fortalece a atratividade do produto para adultos pagantes em um ambiente em que concorrentes com funcionalidades mais liberais disputam participação de mercado. A empresa tenta, com cautela, reduzir filtros anteriormente rigorosos devido a riscos de saúde mental, com o apoio de novos mecanismos de detecção e intervenção. A percepção pública concentra-se na pergunta de se uma plataforma pode garantir liberdade para adultos e proteção de menores de forma crível. Este passo ocorre em um momento em que a política dos EUA e os estados querem restringir o acesso de menores a companheiros de IA.

Fatos e Críticas

Comprovado está que a OpenAI pretende permitir conteúdos eróticos para adultos verificados, com uma janela de início a partir de dezembro. A citação de Altman sobre a polícia moral também é comprovada. A expansão de previsão de idade e proteção de adolescentes, incluindo controles parentais, também é confirmada. Não está claro os procedimentos exatos e as taxas de erro da estimativa de idade; a OpenAI cita princípios, mas não métricas validadas. Falso ou enganoso é a alegação de que a OpenAI permite conteúdos sexuais gerais sem restrições; menores permanecem estritamente protegidos, e conteúdos com menores são proibidos.

Quelle: avasant.com

Cinco áreas-chave da moderação de conteúdo: da detecção automatizada até as estruturas regulatórias.

Críticas, entre outras, vieram do empresário Mark Cuban, que duvida da eficácia dos portões de idade e alerta para efeitos de retaliação. Organizações anti-pornografia expressaram preocupações de segurança fundamentais e solicitam medidas mais rigorosas. A imprensa classifica a medida como um sinal de mudança de rumo mais amplo na moderação de conteúdo e na estratégia de produto.

Impactos & Questões em Aberto

Para usuários adultos, isso significa mais liberdade com opções de opt-in, mantendo limites rígidos para conteúdos prejudiciais. Para escolas e famílias, torna-se relevante quão bem a verificação de idade e as configurações de dispositivos funcionam. Sistemas comparáveis como os do YouTube dependem cada vez mais da estimativa de idade por IA, o que na prática pode levar a classificações incorretas e questões de privacidade. Na prática, isso significa que em dispositivos escolares são necessárias configurações consistentes de proteção infantil e regras claras de uso, já que portões de idade sozinhos não oferecem proteção de 100%.

Quelle: youtube.com

ChatGPT e IA generativa na escola: desafios e possibilidades de manejo no contexto de verificação de idade e moderação de conteúdo.

Questões em aberto dizem respeito à validação exata do reconhecimento de idade pela OpenAI, especialmente no que diz respeito a métricas e auditorias independentes. Até agora faltam taxas de erro publicadas ou estudos sobre possíveis efeitos de viés. Resta saber quais diretrizes regulatórias o legislador irá estabelecer para companheiros de IA e funções orientadas para adultos. Iniciativas para limitar mais fortemente chatbots para menores estão sendo discutidas. A implementação concreta em dezembro, especialmente o design opt-in, registro (logging) e monitoramento de abuso, também ainda não é detalhada.

Resumo

A mudança de regra marca uma mudança de rumo: liberdade para adultos combinada com proteção de menores mais rigorosa. O sucesso no dia a dia depende da qualidade da verificação de idade, de mecanismos de proteção transparentes e de regras claras em famílias e escolas. Avaliação informada e o uso de opções de configuração permitem uso responsável das oportunidades, sem minimizar os riscos.

Quelle: user-added

Representação esquemática da moderação de conteúdo automatizada e humana, relevante para sistemas de IA generativa como o ChatGPT.