Проверка возраста, риски ИИ, модерация 2025

Лиза Эрнст · 16.10.2025 · Техника · 4 мин

Решение OpenAI разрешить эротический контент для верифицированных взрослых в ChatGPT вызвало дебаты о защите несовершеннолетних и свободе. Генеральный директор Сэм Альтман отстаивает шаг аргументацией, что OpenAI не является моральной полицией мира.

Quelle: Собственное отображение

OpenAI и эротика

Эротика в этом контексте обозначает явные, сексуальные изображения в текстовом формате, которые должны быть доступны исключительно совершеннолетним пользователям. Проверка возраста включает процедуры проверки возраста, от проверки документов до оценки возраста с помощью ИИ. OpenAI подчёркивает, что контент с несовершеннолетними строго запрещено остаются.

Текущее состояние и мотивы

На 14. Oktober 2025 Объявил Сам Альтман, что ChatGPT с декабря позволит эротическую ролевую игру для проверенных взрослых. Это сопровождается расширенными опциями личности и тона. СМИ подтвердили этот план как часть принципа обращения с взрослыми пользователями как со взрослыми. Гардиан также упомянул о предложении для подростков с сентября и запланированной оценке возраста, чьи детали ещё не полностью раскрыты. OpenAI описывает в блог-постах расширение распознавания возраста и родительского контроля. Альтман подчеркнул, что OpenAI не является моральной полицией мира и будет строго защищать несовершеннолетних.

Стратегически OpenAI повышает привлекательность продукта для платящих взрослых в условиях, где конкуренты рекламируют более либеральные функции и долю рынка. Компания пытается осторожно вернуть ранее строгие фильтры из-за рисков для психического здоровья, поддерживаемые новыми механизмами распознавания и вмешательства. Общественное восприятие сосредоточено на вопросе, может ли платформа обеспечить взрослую свободу и последовательную защиту несовершеннолетних достоверно. Этот шаг приходится на время, когда политика США и штатов стремятся ужесточить доступ несовершеннолетних к KI-компаньонам.

Факты и критика

Подтверждается, что OpenAI хочет разрешить эротический контент для проверенных взрослых, с стартовым окном с декабря. Заявление Альтмана о моральной полиции также подтверждается. Расширение алгоритмов определения возраста и защита подростков, включая родительский контроль, также подтверждены. Неясны точные процедуры и показатели ошибок определения возраста; OpenAI называет принципы, но не валидированные показатели. Ложно или вводящее в заблуждение утверждение, что OpenAI допускает общие сексуальные содержания без ограничений; несовершеннолетние остаются строго защищены, и содержание с несовершеннолетними запрещено.

Quelle: avasant.com

Пять ключевых областей модерации содержания: от автоматизированного распознавания до регуляторных рамок.

Критика поступила, в частности, от предпринимателя Марка Кубана, который сомневается в эффективности возрастных ограничителей и предупреждает о возможных эффектах обратной связи. Анти-порнографические организации выразили принципиальные озабоченности по безопасности и призвали к более строгим мерам. СМИ расценивают этот шаг как сигнал к более широкому повороту в модерации содержания и стратегии продукта.

Влияние и открытые вопросы

Для совершеннолетних пользователей это означает большую свободу в настройках по Opt-in функциям, при этом жесткие границы по вредному контенту сохраняются. Для школ и семей становится важнее, насколько хорошо работает проверка возраста и настройка устройств. Системы, аналогичные YouTube, всё чаще используют ИИ-оценку возраста, которая в повседневной жизни может приводить к ошибочным классификациям и вопросам конфиденциальности. Практически это означает, что на школьных устройствах необходимы последовательные настройки защиты несовершеннолетних и ясные правила использования, поскольку возрастные ограничения сами по себе не обеспечивают сто процентную защиту.

Quelle: youtube.com

ChatGPT и генеративный ИИ в школе: вызовы и способы управления в контексте верификации возраста и модерации содержания.

Открытые вопросы касаются точной валидации распознавания возраста OpenAI, особенно в отношении показателей и независимых аудитов. Пока не хватает опубликованных коэффициентов ошибок или исследований возможных смещений. Неясно, какие регуляторные ориентиры законодатели установят для KI-компаньонов и функций, ориентированных на взрослых. Обсуждаются первые инициативы по более строгому ограничению чат-ботов для несовершеннолетних. Конкретная реализация в декабре, особенно дизайн Opt-in, ведение журналов и мониторинг злоупотребления, также ещё не подробно известны.

Сводка

Изменение правил означает смену курса: свобода для взрослых в сочетании с более строгой защитой несовершеннолетних. Успех в повседневной жизни зависит от качества проверки возраста, прозрачных защитных механизмов и четких правил в семьях и школах. Информированная проверка и использование настроек позволяют ответственно использовать возможности, не умаляя рисков.

Quelle: user-added

Схематическое представление автоматизированной и человеческой модерации содержания, применимой к генеративным ИИ-системам, таким как ChatGPT.