识别AI垃圾

Avatar
莉萨·恩斯特 · 28.12.2025 · 技术 · 5分钟

我早已在一些平常的时刻就注意到了:我想找个解释,想比较某个产品,或者只是在信息流中浏览——而我却越来越多地看到那些“装模作样”但却毫无实质的内容。文字很多,但内容很少。表面很多,真相很少。

定义和影响

“AI slop”(AI垃圾)指的是质量低劣的数字内容,这些内容通常通过人工智能批量生产。这个词在2025年被Merriam-Webster评为“年度词汇”( merriam-webster.com). 这个术语并非针对AI技术本身,而是指其结果:批量生成的内容,看起来廉价,价值极低,却能获取巨大的流量( en.wikipedia.org).

媒体用固定的画面来描述AI垃圾:像“虾酱耶稣”这样的超现实病毒式传播内容、用于盈利的自动化频道,以及一种信息流的感觉,即你很快就会忘记自己看到过什么( (theguardian.com).

搜索引擎中的AI生成垃圾信息

Google区分“AI文本”和“垃圾信息”。关键在于内容是否有帮助,而与内容的生成方式无关( (developers.google.com). 与此同时,Google在其垃圾信息政策中描述了“大规模内容滥用”:许多网页主要是为了操纵排名而创建,并且几乎不为用户提供任何价值( (developers.google.com). 这种逻辑解释了为什么“搜索垃圾信息”常常让人感觉处于灰色地带。AI工具可以辅助创作优秀文本,但也能生成成千上万的、仅仅占据关键词位置的、可替代的页面。Google在2024年宣布了针对这些模式的措施和政策更新( (blog.google).

另一个问题是“网站声誉滥用”:第三方内容利用强大域名的排名信号( (developers.google.com, developers.google.com). 关于“SEO寄生虫”以及AI驱动的垃圾信息浪潮稀释搜索结果的广泛报道表明,这个问题不仅仅困扰着“SEO极客”( (fortune.com).

产品描述中的AI垃圾

在购物领域,AI垃圾表现为含糊不清、通用性强的文本,留下许多未解答的问题。缺少尺寸规格,材料说明模糊,图片看起来完美却又不对劲。这会导致不确定性,并造成购买损失。

AI垃圾:当AI做出选择,但质量却在下降。

来源: allaboutai.com

AI垃圾:当AI做出选择,但质量却在下降。

《Wired》杂志以Pinterest为例描述,用户会遇到合成食谱、“虚假精品店”以及带有AI图像的通用博客文章,它们看起来像真实的商店,但却破坏了信任( (wired.com). 当评价不再能作为信号时,系统就会崩溃。美国联邦贸易委员会(FTC)发布了关于虚假评价的最终规则,该规则明确禁止“通过…人工智能”产生的虚假评价( (ftc.gov, reuters.com). 该规则自2024年10月21日起生效( (ftc.gov). 亚马逊等市场通过利用机器学习系统来检测和删除虚假评价,从而努力在技术上稳定信任( (aboutamazon.co.uk).

识别AI垃圾

识别AI垃圾很少基于100%的证据,而是基于显眼的模式。

当AI生成的内容提供的问答多于答案时:识别AI垃圾的挑战。

来源: searchstax.com

当AI生成的内容提供的问答多于答案时:识别AI垃圾的挑战。

一个重要的信号是平台标签。YouTube要求披露“经过修改或合成的内容”,如果其看起来真实的话( (support.google.com). Pinterest描述,AI生成或修改的内容可以被打上标签,包括基于IPTC元数据( (help.pinterest.com). Pinterest在2025年推出了额外的控制功能,允许用户在特定类别中进一步“关闭”Gen-AI内容( (newsroom.pinterest.com). Meta描述了一种标记AI内容和“操纵媒体”的方法,为用户提供背景信息( (about.fb.com). TikTok也解释了AI生成内容将如何被标记,包括创作者披露( (support.tiktok.com).

搜索的变通方法变得更加具体:DuckDuckGo在图片搜索中提供了一项选项,可以根据公共黑名单隐藏AI图像( (duckduckgo.com). “巨大的AI黑名单”作为一个开源项目可供查看( (github.com).

不经工具就能识别的经典“文本信号”包括:文章对每个问题都模拟出答案,但从不具体;产品文本只是堆砌同义词;证据缺失或无法追踪;以及结尾段落听起来像广告语。这些都不是证据,但足以引起怀疑并寻求第二来源。

后果和展望

对品牌来说,AI垃圾是双重损失:品牌所处的环境质量下降。此外,品牌本身也更容易被模仿——语调、产品承诺、常见问题解答文本、比较页面。在一个一切都“听起来差不多”的世界里,起源才是真正的价值。

人类创造力:与机器生成内容的对比。

来源: user-added

人类创造力:与机器生成内容的对比。

对平台来说,这很快就会成为一项治理问题。欧盟在《数字服务法》中将平台义务与内容审核和系统性风险相关的透明度联系起来;委员会强调透明度和问责制( (ec.europa.eu). 信息流中塞满了“垃圾”越多,平台对控制、标签、取消货币化或垃圾信息措施的反应就越快——这并非出于浪漫,而是因为用户会因此流失。

AI垃圾不是一种单一的格式,而是一种经济模式:廉价生产,算法分发,并“搭便车”信任。Merriam-Webster在2025年为此找到了一个词( (merriam-webster.com), Google为此有垃圾信息类别( (developers.google.com), 监管机构为此有规则( (ftc.gov).

对用户来说,日常生活依然简单:内容必须再次付出一些代价——时间、谨慎、审查、经验。在这些方面缺失时,只有一个本能有用:短暂停止,进行交叉检查,最好遵循一个明显承担责任的来源。

分享我们的文章!