Verificación de edad, riesgos de IA, Moderación 2025

Lisa Ernst · 16.10.2025 · Tecnología · 4 minutos

La decisión de OpenAI de permitir contenidos eróticos para adultos verificados en ChatGPT ha desencadenado un debate sobre la protección de menores y la libertad. El CEO Sam Altman defiende el paso con el argumento de que OpenAI no es la policía moral del mundo.

Quelle: Representación propia

OpenAI y Erotismo

El erotismo en este contexto se refiere a representaciones explícitas y sexuales en forma de texto que deben estar accesibles exclusivamente para usuarios adultos. Verificación de edad incluye procedimientos para verificar la edad, desde comprobaciones de documentos hasta estimación de edad asistida por IA. OpenAI destaca que los contenidos con menores de edad estrictamente prohibido estrictamente prohibidos.

Estado actual & Motivos

El 14. Oktober 2025 Anunció Sam Altman que ChatGPT permitirá, a partir de diciembre, erotismo de rol para adultos verificados. Esto va acompañado de opciones ampliadas de personalidad y tono. Informes de los medios confirmaron este plan como parte del principio de tratar a los usuarios adultos como adultos. The Guardian mencionó además una oferta para adolescentes desde septiembre y una estimación de edad planificada, cuyos detalles aún no han sido revelados por completo. OpenAI describe en publicaciones del blog la expansión de la detección de edad y controles parentales. Altman afirmó que OpenAI no es la policía moral del mundo y protegerá estrictamente a los menores.

Estratégicamente, OpenAI fortalece la atractividad del producto para adultos que pagan en un entorno en el que los competidores con funciones más liberales compiten por cuota de mercado. La empresa intenta relajar con cuidado los filtros previamente estrictos debido a riesgos para la salud mental, respaldada por nuevos mecanismos de detección e intervención. La percepción pública se centra en la pregunta de si una plataforma puede garantizar la libertad para adultos y una protección rigurosa de menores de forma creíble. Este paso se produce en un momento en que la política de EE. UU. y los estados buscan endurecer el acceso de menores a los compañeros de IA.

Hechos y críticas

Está demostrado que OpenAI quiere permitir contenidos eróticos para adultos verificados, con una ventana de inicio a partir de diciembre. La cita de Altman sobre la policía moral también está respaldada. La expansión de la estimación de edad y la protección de adolescentes, incluidos controles parentales, también está confirmada. No están claros los procedimientos exactos y las tasas de error de la estimación de edad; OpenAI menciona principios, pero no métricas validadas. Falso o engañoso es la afirmación de que OpenAI permite contenidos sexuales generales sin restricciones; los menores permanecen estrictamente protegidos, y los contenidos con menores están prohibidos.

Quelle: avasant.com

Cinco áreas clave de la moderación de contenidos: desde la detección automatizada hasta marcos regulatorios.

Las críticas llegaron, entre otros, del empresario Mark Cuban, quien duda de la eficacia de las verificaciones de edad y advierte sobre efectos de retroceso. Organizaciones anti-pornografía expresaron preocupaciones de seguridad fundamentales y exigen medidas más estrictas. Los medios describen el paso como una señal de un cambio de rumbo más amplio en la moderación de contenidos y la estrategia de producto.

Impactos y preguntas abiertas

Para los usuarios adultos, esto significa más libertad con las funciones de opt-in, mientras que siguen existiendo límites estrictos para contenidos dañinos. Para escuelas y familias será relevante cuán bien funcionan la verificación de edad y la configuración de dispositivos. Sistemas similares como YouTube recurren cada vez más a la estimación de edad basada en IA, lo que en la vida diaria puede provocar clasificaciones incorrectas y preguntas de privacidad. En la práctica, esto significa que en dispositivos escolares se requieren configuraciones de control parental consistentes y reglas de uso claras, ya que la verificación de edad por sí sola no ofrece una protección del 100%.

Quelle: youtube.com

ChatGPT y la IA generativa en la escuela: desafíos y formas de manejo en el contexto de la verificación de edad y la moderación de contenidos.

Las preguntas abiertas se refieren a la validación exacta de la detección de edad por OpenAI, especialmente en lo que respecta a métricas y auditorías independientes. Hasta ahora faltan tasas de error publicadas o estudios sobre posibles sesgos. Queda por ver qué marcos regulatorios establecerá el legislador para compañeros de IA y funciones orientadas a adultos. Se debaten las primeras iniciativas para limitar de forma más estricta a los chatbots para menores. La implementación concreta en diciembre, especialmente el diseño de opt-in, el registro y la monitorización del abuso, todavía no se conoce en detalle.

Resumen

El cambio de regla marca un giro: libertad para adultos combinada con una mayor protección de menores. El éxito en la vida diaria depende de la calidad de la verificación de edad, mecanismos de protección transparentes y reglas claras en familias y escuelas. Pruebas informadas y el uso de opciones de configuración permiten un uso responsable de las oportunidades, sin trivializar los riesgos.

Quelle: user-added

Representación esquemática de la moderación de contenidos automatizada y humana, relevante para sistemas de IA generativa como ChatGPT.