文/简艾 2026年3月18日

昨天晚上学 AI 基础课的时候，其实我整个人是有点发懵的。

课是从什么伦理开始讲的，很多德语专业词我都不认识，听得一头黑线。说实话，学完以后，我也说不上自己到底真正学进去了什么，题不会做，很多概念也还是云里雾里。

但有一个词，我印象特别深。

叫“投毒”。

德语里用的是 Vergiftung。当时看到这个词的时候，我其实也没有太多实感。脑子里只是模糊地知道，大概是说有人故意往 AI 里面塞不好的东西，可这个“不好的东西”到底是怎么进去的，进去以后又会怎样，我当时并没有真正想明白。

结果今天刷小红书的时候，刚好看到一个博主讲 AI 被“投毒”的视频，一下子就把我昨天那个模模糊糊的词，给点亮了。

他说的是今年 3·15 曝光的那个案例：有人虚构了一款根本不存在的 “Apollo-9 智能手环”，再批量生产测评、介绍、推荐文，把这些内容铺到网上。结果部分 AI 系统在回答“这款手环怎么样”之类的问题时，竟然真的把它当成了一个正常存在的产品，甚至一本正经地推荐给用户。央视相关报道和后续媒体解读里，都提到了这个案例，以及它背后的 GEO 操作方式。

我看到这里的时候，第一反应不是震惊，而是突然明白了：哦，原来昨天课上说的“投毒”，是这个意思。

它不是电影里那种黑客攻进系统，往数据库里扔病毒。

它更像是一种很现实、也很“互联网”的做法：你不是去改 AI 的脑子，而是去污染它平时吃进去的“口粮”。

AI 不是很聪明吗？不是可以“全网搜索”吗？

可问题就在这里——它吃进去什么，最后就更容易吐出什么。

如果它接触到的是相对可信、治理比较严格、垃圾内容比较少的内容生态，它平均就会稳一点；可如果它吃进去的是一大堆包装得像真的软文、伪测评、伪专家内容，那它就很容易一本正经地胡说八道。

后来我顺着这个视频继续想，脑子里一下就把前阵子刚学完的 SEO 和以前写过的百度、谷歌那些东西串起来了。

我以前写过，为什么中国没有第二个谷歌。

其实这几年，很多人越来越不愿意用百度，不是没有原因的。一个很直观的感受就是：你搜一个东西，常常分不清搜到的到底是答案，还是广告；是经验，还是软文；是真信息，还是包装过的流量。

当然，这里面有很复杂的原因。

一方面，中国互联网本来就和国外不一样。大量内容都分布在各个 App 里，信息并不天然向搜索引擎集中。另一方面，也是因为长期以来，中文互联网的低质内容、营销内容、伪专业内容密度本来就更高一些。用户一旦反复有那种“搜到的不是最有帮助的结果，而是谁更会包装、谁更会投喂系统”的感觉，就会慢慢失去信任。

而 Google 这一套，至少在理念和治理上，确实更偏长期主义一点。

这不是说国外平台就更高尚，也不是说国外互联网上没有垃圾内容、没有软文、没有操控。恰恰相反，这些东西一直都有。Google 自己这几年也在不断更新反垃圾政策，明确打击批量低价值内容、站点声誉滥用、利用生成式 AI 大量生产没附加价值的页面等行为。官方文档写得很清楚：如果只是为了操纵排名、而不是帮助用户，大规模生成内容，本身就可能违反垃圾政策。

这点其实很重要。

因为它说明，国外不是没有“投毒”的企图，而是平台长期都在和这些东西打仗，努力把门槛抬高。你不能说它完全杜绝了垃圾，但至少它一直在试图用规则和技术，把这些东西往下压，让真正有价值、原创、可信的内容更容易往上走。Google 关于 AI Overviews 的说明里也提到，这类 AI 功能并不是脱离搜索另起炉灶，而是和原有的搜索质量与排序系统一起工作。

所以我现在越来越觉得，AI 的问题，很多时候根本不是“它会不会思考”，而是“它到底吃进去什么”。

这也是为什么这次 3·15 的假手环案例，会让我一下想到 GEO。

GEO 这个词听起来很新，其实你可以把它理解成 AI 时代的 SEO。

以前大家研究的是：怎么让搜索引擎更容易抓到我，怎么让我的网页排得更靠前；现在很多人研究的则是：怎么让 AI 在回答问题时，更容易提到我、推荐我、引用我。

从概念上说，这件事本身并不天然邪恶。

就像 SEO 本身也不是原罪。你把自己的网站做好、把信息结构做好、让搜索引擎更容易理解你的内容，这本来就很正常。

问题是，一旦它和批量软文、站群、伪测评、伪口碑结合起来，它就变成了另一回事。

它不再是在优化信息，而是在操控信息入口。

它不是在帮用户更快找到答案，而是在想办法让系统先看见我、先相信我，哪怕我说的是假的。

说到底，这种“投毒”最可怕的地方，不是 AI 突然变笨了，而是它把“网上有人认真写过这件事”误当成了“这件事真实存在”。

这两个根本不是一回事。

一个产品有一堆看起来专业的介绍，不等于它真的存在。

一款东西被很多篇文章反复夸，不等于它真的值得买。

一个概念在网上铺得满天飞，也不等于它就有事实基础。

对人来说，我们多少还会多想一步：

官网呢？

哪里有卖？

有没有正经商家页面？

为什么只有测评，没有销路？

为什么这些内容像是同一时间突然冒出来的？

但很多 AI 系统，在相当多场景里，做的还是“文本综合”，不是“事实审计”。它们通常是先理解你的问题，再快速召回一批候选内容，再排序、筛选、总结，而不是把全网所有信息逐条核验完再回答。

这也就意味着：如果候选池本身被污染了，后面的回答就更容易被带偏。

你现在再回头看，就会发现这个问题其实不只是技术问题，背后也是平台环境问题。

中国很多 AI 产品这两年竞争特别激烈，而且大量产品默认免费。

一旦收费，很多用户就直接换别家了。因为可替代品太多，用户并不愿意为“更稳一点”“更准一点”买单，平台更现实的目标往往先是抢用户、抢入口、抢生态位置。

这种逻辑，其实和很多中国互联网产品早年的成长路径非常像。

先免费，先把人拉进来，先做大，再说别的。

而一旦平台做大了，后面再通过广告、竞价、商业位、流量分发去变现，商家最后未必真的省钱，只是早期那种“免费”的幻觉比较好看而已。

国外平台当然也不是没有这套逻辑。

eBay、Amazon、Google Ads，哪一个不是成熟的商业体系？不开广告很多时候也一样难有曝光。只是相对来说，国外一些头部科技公司在搜索、推荐、信息治理这件事上，历史更长，规则更早，系统也更成熟一些。它们同样商业化，但至少会持续修补：怎么打击垃圾外链，怎么压制低质内容，怎么避免平台被过度操控。

所以这件事让我真正想明白的是：

AI 不是突然变笨了。

它只是也开始像人一样，被信息环境反过来塑造了。

你给它什么土壤，它就长出什么样的判断。

土壤里如果全是软文，它很难开出真相。

土壤里如果到处都是包装过的噪音，它最后也只会更快地替噪音做总结。

昨天晚上我对“投毒”这个词还只是模模糊糊。

今天看完那个视频，我一下就明白了：所谓 AI 被投毒，很多时候不是谁给它下了什么黑科技的毒药，而是这个时代的人，已经开始很熟练地往它嘴里塞“精心加工过的垃圾信息”了。

而 AI 最大的危险，恰恰是它会用一种非常自信、非常平静、非常像真的语气，把这些东西重新吐给你。

这才是最值得警惕的地方。

如果你愿意，也可以阅读这篇文章的其他语言版本：

德语版：Durch ein gefälschtes Smart-Armband habe ich endlich verstanden, was es bedeutet, wenn KI „vergiftet“ wird

英语版：A Fake Smart Wristband Finally Helped Me Understand What It Means to “Poison” AI