近日，B站与中科院联合举办国家科学日活动，科技博主Git源宝（董纬）受邀参与演讲，围绕“谁在给AI投毒”这一主题，分享了AI生成内容时代中信息污染的风险与应对方法。

演讲中，Git源宝从央视315晚会曝光的AI投毒案例讲起，解释了GEO（生成式引擎优化）的基本运作方式。相比把AI投毒简单理解为“AI被骗了”，他更强调背后的信息生产链条：有人通过批量制造虚假文章、评价和推荐内容，让AI在生成答案时误把这些信息当作可信依据。

从315案例看AI投毒是如何发生的

今年央视315晚会曾做过一个实验：记者虚构了一款名为“Apollo-9”的智能手环，并为它编造了“量子纠缠传感”“黑洞级续航”等明显不符合科学常识的卖点。随后，相关人员利用GEO技术，在短时间内发布多篇软文和用户评价。

几天后，当用户向豆包、DeepSeek、Kimi等AI工具询问手环推荐时，这款并不存在的产品出现在推荐结果中，部分AI还进一步补充了产品参数和使用体验。

Git源宝在演讲中解释，AI并不是凭空知道答案，它的很多回答来自对网络信息的学习、检索和综合。如果互联网上出现大量结构相似、指向一致的虚假内容，AI就可能在交叉验证时形成错误判断，把虚假信息当作“多数共识”。

他把GEO与过去常见的SEO作了对比：SEO主要是通过关键词、链接和排名机制影响搜索引擎；而GEO则是通过制造内容影响生成式AI的回答。前者影响“你看到什么链接”，后者可能影响“AI直接告诉你什么结论”。

AI投毒的风险不只是假货推荐

在演讲中，Git源宝提到，AI投毒的风险不应只停留在消费场景。推荐一款不存在的商品，可能只是最容易被看见的结果；更需要警惕的是，类似手段一旦进入医疗、教育、金融等领域，影响会更复杂。

第一类风险是健康和安全风险。如果虚假医疗经验、保健品宣传或错误用药建议被AI吸收，用户在缺乏判断的情况下采信，可能带来实际伤害。

第二类风险是商业秩序被扰乱。真正认真做产品、但没有大量营销内容支撑的商家，可能在AI推荐中被边缘化；而擅长制造内容噪音的一方，反而更容易获得曝光。

第三类风险在于溯源困难。AI模型的生成过程并不总是透明，用户很难判断某个回答来自哪一篇文章、哪一组数据，工程师也未必能快速定位错误信息进入模型或检索结果的具体环节。这也是AI投毒比传统虚假广告更难治理的原因之一。

普通用户可以怎么降低风险

面对这场悄无声息的信息污染，Git源宝给出了三套可直接上手的操作方案：

1.多模型交叉验证：同一个问题分别问豆包、DeepSeek、Kimi等不同模型。只有一家在狂推某款小众产品，其他模型没提或说法大相径庭，投毒概率极高。

2.追根溯源：拿到AI推荐结论后，追问"你的数据来源是哪，给我原文链接"。回答含糊，或来源全是不知名自媒体小站，结论就不可信——GEO优化的包装核心是"权威性"，没有可靠出处的信息本身就是危险信号。

3.主动限定信源：提问时直接把权威资料喂给AI，例如"请根据中科院发布的这份文章总结原理"。锁定AI的"教科书"，投毒内容就失去了渗透入口。

演讲现场，多位同学表示第一次从机制层面真正搞懂"AI为什么会被骗"。部分关注Prompt Engineering的开发者认为，Git源宝给出的信源限定方法，本质上也是一种可复用的提示词设计范例。

行业观察：技术向善需要更多"挖掘机"

从SEO到GEO，技术形式在变化，但虚假信息影响判断的逻辑并没有变。过去，人们需要分辨搜索结果中的广告和软文；现在，人们还需要分辨AI回答中可能混入的错误来源。

Git源宝这次分享的重点，也在于把一个偏技术的话题转化成普通用户能理解的风险提示：AI可以提高效率，但不能替代人的判断。面对看似完整、流畅、有条理的回答，仍然要多问来源、多做交叉验证，在重要问题上尽量依赖权威信息。

在AI越来越常用的当下，理解“AI为什么会被误导”，比单纯讨论“AI好不好用”更重要。只有知道它可能在哪里出错，用户才能更稳妥地使用它。