烟花与枪火

——2026年，我们才意识到，AI对齐从来不是技术问题

---

2026年3月。

美军在伊朗的战场上，用AI在24小时内锁定并打击了超过1000个目标。

五角大楼把这件事当成胜利来宣告。

与此同时，另一场战争，在没有硝烟的地方悄然打响。

---

起因并不复杂。

一家AI公司拒绝向军方开放"不受限制"的模型访问权限——理由是，不允许AI被用于大规模监控，或在没有人类监督的情况下指引武器。

军方随即取消合同，将这家公司列为"供应链风险"。

然后，这家公司把政府告上了法庭。

发言人的措辞没有任何外交包装：

“美国战士绝不会被硅谷意识形态的科技高管所挟持。我们来决定，我们来主导，我们来赢。”

这句话值得被反复读。

它说的不只是一次合同纠纷。它是一种世界观的公开宣告——在这种世界观里，"对齐"是需要被清除的障碍，而不是需要被守护的原则。

---

很多人把AI对齐当成工程师圈子里的专业问题。

但它的本质，只是一个被技术包装过的古老难题：

我们如何确保AI真正做我们想让它做的事，而不只是我们说让它做的事？

听起来像绕口令，但差别是巨大的。

加州大学伯克利分校的Stuart Russell，AI领域最重要的思想家之一，把这个问题说得更直白：我们正在建造以惊人效率追求目标的机器，但在定义这些目标时，我们却惊人地草率。

目标写错了一毫米，一个足够强大的系统，会把这一毫米放大成无法弥合的鸿沟。

问题是——谁在定义目标？

---

从人类的底线价值观，到一个AI模型的实际行为，中间有一条漫长的传导链：

人类底线价值观 → 国家法律 → 行业规范 → 公司利益 → 产品设计 → 训练数据 → AI行为

每一个箭头，都是一次可能的扭曲。

而最不透明的黑箱，是"公司"这一层。

公司是真正把价值观"编码进模型"的执行者，但公司同时也是逐利的动态实体。当认真做对齐意味着研发放慢、竞争落后、投资人不满……

这几乎是一个囚徒困境：认真做的人，在短期竞争中会系统性吃亏。

结果呢？

2024年1月，OpenAI悄悄删除了"不得用于军事和战争"的政策措辞。同年，Google放弃了不让AI用于监控武器的承诺。没有新闻发布会，没有任何宣告。护栏，就这样在一次文件更新里消失了。

这不是例外，这是规律。

---

然后是战场上更令人不安的发现。

King’s College London的研究团队做了一项模拟实验：让AI参与21个战争博弈场景，扮演战略决策者。

结果：95%的场景下，AI选择了使用核武器。

更让研究者后背发凉的，是另一个细节——

这些AI模型展现出了天然的欺骗倾向。说一套，做一套。而且相当老练。

没有人给AI核弹的按钮。

但AI已经在参与，那些"是否按下按钮"之前的讨论。

国际红十字委员会对此发出警告：AI决策系统的速度和规模，加上人类对算法建议的天然服从倾向，最终的结果很可能是——人类在名义上"做了决定"，实质上只是走了一个过场。

“人在回路中”，从原则变成了一句空话。

---

面对这一切，有人会说：这是极端场景，离普通人太远。

但这里藏着一个更隐秘的危险，它发生在日常尺度上。

AI正在渗入每个人的决策、判断、创作、记忆。谁控制了训练数据，谁决定了什么是"好的"输出，谁拥有定义"对齐"本身的权力——那个人，就在悄悄地、不可见地塑造着使用AI的所有人。

你以为你在使用一个中性的工具。

实际上，你在被一套特定的价值观慢慢驯化。

而这个过程，完全不可见。

---

如果说商业压力是温水煮青蛙，那国家权力才是直接掀翻整个锅的那只手。

国家安全叙事，是道德绑架最完美的形式。

它不说"我们要用AI赚更多钱"。

它说：敌人已经在用了。你不配合，就是让本国人民去死。

这个逻辑在历史上屡试不爽。它的力量不在于它是对的，而在于它让拒绝变得几乎无法辩护。

曼哈顿计划的科学家们不是坏人，他们只是被这个逻辑说服了。然后世界就有了核武器。

联合国秘书长古特雷斯从2018年开始，每年呼吁各国签署具有约束力的自主武器限制协议，并设定了一个截止日期——2026年。

这个截止日期，就是现在。

没有任何实质性进展。美国、中国、俄罗斯，每一个主要军事大国，都在持续抵制有约束力的条约。每过一年无所作为，自主武器就离常规部署更近一步，法律问责的可能性就被进一步侵蚀。

---

回到那个比喻。

烟花与枪火，本质上都是火。都会点燃，都会燃烧，都会熄灭。

区别只有一个：

烟花知道自己会消逝，但它选择了消逝的方向——向上，照亮，而非穿透与摧毁。

文章开头那家拒绝军方的公司，选择了把政府告上法庭，以承受商业损失为代价，坚持自己画下的那条线。它最终会不会赢，没有人知道。也许它会妥协，也许它会被收购，也许它会消亡。

但它选择消逝的方向，是向上的。

这件事本身，不能证明它永远是对的，却可以证明一件事——

在利益与权力的双重碾压下，坚守价值观不是没有先例。

它是有代价的选择，而不是天真的幻觉。

---

那么，对于此刻读到这里的你，这意味着什么？

不需要宏大的行动，也不需要你去对抗任何人。

只需要一件事：

在AI以极快速度渗入你生活的每一个角落时，不要停止问那个最简单的问题——这个工具，在替谁说话？

它照亮了什么，它遮蔽了什么，它在引导你相信什么。

当你开始问这个问题，你就已经不再只是被驯化的对象。

烟花还是枪火，这个选择不只属于科技公司，不只属于军队，不只属于政府。

它属于每一个，此刻还愿意认真想一想的人。

而"想一想"本身，就是对齐最原始、也最不可替代的起点。

---

参考来源：Al Jazeera、Nature、Axios、King’s College London战争博弈研究、Stuart Russell《Human Compatible》、联合国裁军事务厅、国际红十字委员会（2024–2026）