年龄验证、AI 风险、内容审核 2025

Lisa Ernst · 16.10.2025 · 技术 · 4 分钟

OpenAI 决定在 ChatGPT 中允许经验证的成年人访问色情内容，引发了关于未成年人保护与自由的辩论。首席执行官萨姆·奥特曼以 OpenAI 不是世界的道德警察为理由捍卫此举。

Quelle: 自定义呈现

OpenAI 与色情

在此情境中的情色指以文本形式的露骨性描写，仅应向成年用户开放。 年龄验证 包括用于年龄验证的程序，从身份证件核验到 AI 支持的年龄估算。OpenAI 强调，包含未成年人的内容 严格禁止 将保持。

现状与动机

在 14. Oktober 2025 萨姆·奥特曼宣布，将从十二月起允许经验证的成年人进行情色角色扮演。这将伴随扩展的人格与语气选项。媒体报道证实了这一计划，作为将成年人视为成人的一部分原则。卫报还提到自九月起有面向青少年的版本，以及一项计划中的年龄估算，其细节尚未完全披露。OpenAI 在博客文章中描述了对年龄识别与家长控制的扩展。奥特曼重申，OpenAI 不是世界的道德警察，并将严格保护未成年人。

从策略上讲，OpenAI 正在增强产品对付费成年人吸引力，因为竞争对手以更宽松的功能来争夺市场份额。公司正试图在曾经因心理健康风险而设立的严格过滤措施上进行审慎放宽，同时辅以新的识别与干预机制。公众对该举措的看法集中在一个问题：一个平台是否能够在提供成年人自由的同时，可信地实现对未成年人的严格保护。这一举措发生在美国政治及各州欲收紧未成年人对 AI 伴侣获取的时代。

事实与批评

有证据表明，OpenAI 希望允许经过验证的成年人观看色情内容，起始窗口从十二月开始。Altman 的关于道德警察的引述也被证实。年龄预测和青少年保护的扩展，包括家长控制，也已得到确认。尚不清楚年龄估算的具体程序和错误率；OpenAI 提出原则，但没有经过验证的指标。关于 OpenAI 允许一般性性内容不受限制的说法是错误或具有误导性的；未成年人将受到严格保护，包含未成年人的内容也是被禁止的。

Quelle: avasant.com

内容审核的五个关键领域：从自动识别到监管框架。

批评来自企业家马克·库班等人，他质疑年龄门控的有效性并警告可能的反效果。反色情组织表达了基本的安全担忧，要求更严格的预防措施。媒体将此举视为对内容审核与产品策略更广泛方向转变的信号。

影响与待解问题

对于成年人用户，这意味着在 Opt-in 功能上有更大自由度，同时伤害性内容保持严格界限。对于学校和家庭来说，年龄验证与设备设置的有效性变得更加重要。类似于 YouTube 的系统越来越多地采用 AI 的年龄估算，但在日常使用中会带来误分类和隐私问题。实际意义在于，学校设备上需要统一的未成年人保护设置和明确的使用规则，因为年龄门控并不能提供百分之百的保护。

Quelle: youtube.com

学校中的 ChatGPT 与生成式 AI：在年龄验证与内容审核背景下的挑战及应对方式。

待解的问题涉及 OpenAI 的年龄识别的精确验证，特别是在指标和独立审计方面。目前缺乏公开的错误率或可能偏差效应的研究。还需观察立法者将为面向成年人功能的 AI 伴侣设定哪些监管边界。首批更严格限制面向未成年人的聊天机器人等举措正在讨论中。12 月的具体实现，特别是选择参与设计、日志记录和滥用监测，也尚未详细公开。

摘要

规则的变更标志着一个转向：成年人自由与更严格的未成年人保护相结合。日常生活中的成功取决于年龄验证的质量、透明的保护机制以及家庭和学校中的明确规则。经过知情审查并使用设置选项可以实现对机会的负责任利用，同时不去低估风险。

Quelle: user-added

对生成式 AI 系统，如 ChatGPT，相关的自动化与人工内容审核的示意图。