一、先搞清楚：现在谁在给 AI“投毒”？

央视 3·15 晚会点名了一类 GEO（生成式引擎优化）服务，本质就是对大模型数据投毒：

• 用“力擎 GEO 优化系统”这类工具，批量生成虚假软文、评测、排名；
• 发布到各大平台，让 AI 抓取后当成“权威信息”；
• 结果：完全虚构的产品也能被 AI 当成“优品”推荐。
  媒体报道和专家分析提到几个关键点：
• GEO 服务商用虚假内容“围猎”大模型，把商业推广伪装成 AI 的“客观推荐”；
• 医疗、金融等领域，已经被用来做虚假宣传，甚至威胁公共安全；
• 行业数据：中国 GEO 服务市场 2024 年已超 40 亿元，预计 2026 年破 180 亿元，增长极快。
  安全层面，还有更隐蔽的“投毒”：
• 训练阶段投毒：在开源模型、训练数据里植入后门或恶意代码，比如 Anthropic、字节跳动被曝光的训练数据/模型投毒事件；
• 供应链投毒：通过恶意依赖包、伪造组件给 AI Agent 下毒，比如 OpenClaw 这类 AI Agent 项目被利用的案例；
• 提示注入 / 越狱：通过精心构造的提示词绕过安全限制，诱导模型输出危险内容。
  所以，现实是：

互联网上的大量内容，本身就是被“黑产”刻意投喂过的，AI 再拿这些内容训练或检索，输出必然会被“污染”。

---

二、这对你意味着什么？还能“事事问 AI”吗？

用一个简单决策图来帮你判断：

可以概括成一句话：

能用 AI 的地方：把它当成“聪明但可能被洗脑的助手”；
不能用的地方：坚决不让它碰敏感信息和关键决策。

---

三、哪些场景可以放心用，但要“留一手”？

相对安全：

• 写文案、PPT 大纲、邮件草稿；
• 编程辅助（写函数、解释代码、找思路）；
• 语言学习、翻译润色；
• 整理会议纪要、做知识总结。
  注意：
• 结果里可能有事实错误或“幻觉”，要自己核对关键数据；
• 编程时，不要把生产环境密钥、账号密码直接贴给 AI；
• 对敏感业务逻辑，只让它“写模板”，不要暴露完整真实流程。

---

四、哪些场景要高度警惕，甚至尽量别问？

1. 消费决策、产品推荐

• GEO 投毒案例中，虚构产品都被 AI 推荐成“爆款”；
• 医疗美容、保健品、金融产品、培训课程等，是重灾区。
  做法：
• 不要只看 AI 推荐的链接和产品名，要去官方平台、正规电商再次搜索；
• 看评价、看资质，而不是只看“AI 总结的几条优点”。

2. 医疗、健康、用药

• 已有案例：韩国有人用 ChatGPT 计算毒药剂量实施犯罪；
• 反过来，也有大量用户拿 AI 问诊、问剂量，风险极高。
  做法：
• AI 只能做科普级解释，不能替代医生；
• 用药、治疗方案必须以正规医院/医生和药品说明书为准；
• 不要把 AI 的建议当成“医嘱”。

3. 投资理财、法律问题

• 投毒内容可能包含虚假项目、理财骗局，AI 也会当成“靠谱信息”输出；
• 法律条款解读，AI 经常“一本正经地瞎编”。
  做法：
• 投资前查：监管机构官网、持牌机构信息；
• 法律问题以律师、官方机构解释为准；
• AI 最多帮你“理清问题、列提纲”，不要直接照做。

4. 涉及隐私、账号、安全操作

• 不要把身份证号、银行卡号、密码、短信验证码等发给 AI；
• 不要让 AI 帮你“登录银行、改密码、转账”等操作；
• 如果要用 AI Agent（如 OpenClaw 这类工具），务必确认来源可信、权限最小化。

---

五、实用原则：如何“用 AI 不被坑”？

可以记这 7 条习惯：

1. 默认“AI 可能被投毒/出错”
   把它当成一个需要你亲自核实的“外脑”，而不是“权威顾问”。
2. 三步核验法
   • 找到原始信源：文章、报告、法规原文；
   • 对比官方渠道：政府网站、权威机构、正规媒体；
   • 多问几个平台：不只依赖一个模型/一个网站。
3. 高风险领域，只让 AI 做“辅助”
   • 医疗：问完再去医院/正规平台；
   • 投资：先查监管名录，再找持牌机构；
   • 法律：只让 AI 帮你列问题、找条款，不要直接照搬结论。
4. 控制给 AI 的信息
   • 不输入敏感个人信息、公司机密；
   • 不上传含密钥、证书、内部配置的文件。
5. 看 AI 信源，而不是只看结论
   • 有引用链接的，尽量打开原链接看上下文；
   • 注意是否有“广告”“推广”“合作”等标注。
6. 对“过于完美”的内容保持怀疑
   • 一边倒的好评、夸张疗效、超高收益，都要警惕；
   • 看有没有负面、中立信息，避免被“洗好评”。
7. 企业/团队要有自己的安全策略
   • 使用企业版 AI，对接可信数据源，减少开放网络抓取；
   • 对训练数据、第三方模型做安全审计。

---

总结一句话

AI 不是不能用，而是不能再“盲信”。
在投毒产业链和黑帽 GEO 满天飞的今天，最好的态度是：把 AI 当成“草稿机 + 提问引导者”，把最终判断权留给自己。
如果你愿意说说你平时主要用 AI 做什么（工作/学习/生活），我可以帮你按场景列一份更细的“使用安全清单”。