Las Reglas Más Estrictas de OpenAI: Por Qué ChatGPT Ya No Hablará de Goblins

Lisa Ernst · 04.05.2026 · Inteligencia Artificial · 7 min

En nuestro mundo cada vez más interconectado, las conversaciones que tenemos en línea dan forma profunda a cómo nos entendemos e interactuamos entre nosotros. A medida que los modelos de inteligencia artificial se vuelven más accesibles y se integran en la vida diaria, la responsabilidad de garantizar que estas plataformas fomenten entornos seguros y constructivos crece exponencialmente. OpenAI, una empresa líder en investigación y despliegue de IA, se enfrenta a este desafío a través de sus amplias políticas y herramientas de moderación de contenido.

Fuente: La creciente presencia de la IA en la vida diaria resalta la necesidad crítica de una sólida moderación de contenido para fomentar interacciones seguras en línea.

Resumen rápido: Moderación de Contenido de OpenAI

• Políticas de Uso Universal: Actualizadas el 29 de octubre de 2025, estas políticas garantizan directrices consistentas en todos los productos y servicios de OpenAI, priorizando la seguridad y el control del usuario.
• Contenido Prohibido: OpenAI prohíbe estrictamente el contenido relacionado con amenazas, acoso, autolesiones, violencia sexual, material de abuso sexual infantil (CSAM) y terrorismo.
• API de Moderación: Una herramienta técnica gratuita para que los desarrolladores identifiquen y filtren texto e imágenes dañinos, ofreciendo etiquetado y categorización detallados.
• Sistema de Protección: Validación en tiempo real de los mensajes del asistente de IA, evitando que el contenido ofensivo o que viole las políticas llegue a los usuarios.
• Actualizaciones Continuas: OpenAI refina regularmente sus modelos y políticas de moderación, lo que requiere que los desarrolladores se mantengan informados y se adapten.

La Base de la Moderación: Políticas de Uso de OpenAI

OpenAI ha estado refinando constantemente su enfoque hacia la moderación de contenido. El 29 de octubre de 2025, la empresa actualizó sus políticas de uso para establecer un conjunto unificado de directrices en todos sus productos y servicios. Estas políticas priorizan el uso seguro y responsable de sus herramientas al tiempo que maximizan el control del usuario. Anteriormente, el 29 de enero de 2025, estas directrices universales se aclararon aún más para detallar las prohibiciones basadas en la ley aplicable.

También se produjeron cambios significativos el 10 de enero de 2024, cuando las directrices ofrecieron una articulación más clara e instrucciones más específicas para los servicios. Una consolidación importante tuvo lugar el 15 de febrero de 2023, fusionando las directrices específicas de aplicaciones y de contenido en un único conjunto de políticas de uso, proporcionando orientación detallada sobre actividades prohibidas en industrias de alto riesgo. Desde el 9 de noviembre de 2022, OpenAI ya no requiere el registro de aplicaciones, sino que se basa en métodos automatizados y manuales para monitorear las violaciones de políticas. El proceso de revisión de aplicaciones en sí mismo tuvo una actualización el 25 de octubre de 2022, lo que permite a los desarrolladores desplegar aplicaciones sin esperar la aprobación, siempre que cumplan con las directrices establecidas, como se describe en su

OpenAI prohíbe estrictamente el uso de sus servicios para una serie de actividades dañinas. Esto incluye amenazas explícitas, intimidación, acoso o difamación. La promoción o facilitación del suicidio, los conceptos de autolesiones o los trastornos alimentarios también están prohibidos. El contenido que involucre violencia sexual o material íntimo no consentido entra dentro de estas prohibiciones. Las políticas también prohíben explícitamente el terrorismo o cualquier forma de violencia, incluida la violencia de odio. Crucialmente, cualquier material que involucre abuso sexual infantil (CSAM) está prohibido, independientemente de si ha sido generado por IA.' políticas de uso.

La solicitud de menores y la exposición de menores a contenido inapropiado para su edad, como material gráfico de autolesiones, sexual o violento, también están prohibidas. Además, no se permite fomentar comportamientos de dieta o ejercicio poco saludables en menores a través de los servicios de OpenAI, como se detalla en su oficial

Las políticas de uso de OpenAI prohíben explícitamente una amplia gama de contenido dañino, desde acoso y amenazas hasta material de abuso sexual infantil.' políticas de uso.

Fuente: roborhythms.com

Las políticas de uso de OpenAI prohíben explícitamente una amplia gama de contenido dañino, desde acoso y amenazas hasta material de abuso sexual infantil.

La API de Moderación en la Práctica

La API de Moderación de OpenAI sirve como una herramienta técnica clave para identificar contenido potencialmente dañino tanto en texto como en imágenes. Este punto final está disponible de forma gratuita, lo que permite a los desarrolladores filtrar contenido o intervenir en cuentas de usuario que generan material ofensivo. Al enviar archivos de imagen al punto final de Moderación, se aplica un límite de tamaño de 20 MB, como se describe en su' documentación de la API.

Fuente: community.openai.com

Este panel ilustra cómo la API de Moderación procesa el contenido, etiquetándolo como potencialmente dañino o conforme.

Los desarrolladores pueden utilizar dos modelos distintos para el punto final de Moderación: omni-moderation-latest para entradas multimodales y una gama más amplia de categorías, y text-moderation-latest como opción heredada exclusivamente para texto. La salida de la API de Moderación proporciona varios indicadores clave:

• flagged 'estado': Verdadero si el contenido es potencialmente dañino.
• categories: Muestra indicadores de violación por categoría.
• category_scores: Proporciona valores de confianza entre 0 y 1.
• category_applied_input_types: Para los modelos Omni, especifica qué tipos de entrada (imagen, texto) activaron indicadores para cada categoría.

OpenAI actualiza continuamente el modelo subyacente del punto final de Moderación, lo que puede requerir la recalibración de políticas personalizadas.

Categorías de la API de Moderación

La API de Moderación categoriza el contenido en varios tipos de daño. Aquí hay un desglose de las categorías principales y su soporte de tipo de entrada:

La categoría illicit cubre el contenido que ofrece consejos o instrucciones para acciones ilegales, mientras que illicit/violent se refiere específicamente a contenido que incluye violencia u obtención de un arma. La categoría sexual/minors marca el contenido sexual que involucra a personas menores de 18 años, según se documenta en la' guía de moderación de OpenAI.

Gestión de Contenido Generado por el Usuario con Protecciones

La gestión eficaz del contenido generado por el usuario es crucial para mantener las políticas de OpenAI y evitar la prohibición de la API. La implementación de identificadores de usuario únicos (user_id) en cada llamada a la API ayuda a OpenAI a atribuir las violaciones de políticas a usuarios específicos, protegiendo las aplicaciones de sanciones generales. Las empresas deben educar a los usuarios sobre las directrices de contenido aceptable para minimizar las violaciones.

El registro detallado de las interacciones del usuario ayuda a identificar patrones de mal uso y a refinar las estrategias de moderación. Los mecanismos de limitación de frecuencia y estrangulamiento evitan solicitudes excesivas y envíos repetidos de contenido problemático. Un robusto sistema de manejo de errores también debe proporcionar retroalimentación clara e informativa a los usuarios cuando la moderación rechaza las solicitudes. Debido a la naturaleza evolutiva de las políticas de contenido de OpenAI, la revisión y actualización periódicas de las políticas internas y las estrategias de moderación son esenciales.

El sistema de Protecciones y Moderación de Contenido valida los mensajes del asistente en tiempo real antes de que lleguen a los usuarios. Este sistema clasifica las salidas del agente según las políticas de moderación, identificando contenido ofensivo, mensajes fuera de marca y violencia. Los mensajes que violan las políticas se marcan como FAIL y se ocultan, mientras que los mensajes que cumplen se marcan como PASS y se muestran normalmente. El sistema de Protecciones opera de forma asíncrona durante la transmisión de mensajes, empleando un clasificador LLM separado (gpt-4o-mini). Las categorías de Protecciones incluyen OFFENSIVE (que abarca discurso de odio y lenguaje discriminatorio), OFF_BRAND (como discusiones sobre competidores), VIOLENCE (como amenazas explícitas o descripciones de violencia) y NONE para mensajes perfectamente conformes. El componente de clasificación central, runGuardrailClassifier, evalúa el contenido del mensaje. El aviso del clasificador define un rol de experto, el nombre de la empresa, el mensaje a clasificar y descripciones detalladas de las clases de salida.

Conclusión

El enfoque de múltiples capas de OpenAI para la moderación de contenido, que abarca políticas de uso claras, una robusta API de Moderación y Protecciones en tiempo real, demuestra un profundo compromiso con el fomento de entornos en línea seguros. A medida que avanza la tecnología de IA, el refinamiento continuo de estos sistemas sigue siendo primordial para navegar por las complejidades de la comunicación digital y mantener los estándares éticos.

Preguntas Frecuentes