1. 引言

你有没有过这种体验?

我跟一个 AI 说:"帮我写个函数,把列表里的偶数挑出来。"

它哗啦啦写了一段,我一看,错了。再说一遍,它改了。再跑一遍,诶怎么还有 bug。反复三次,最后我忍无可忍:"你能不能记住我之前说的?"

AI 回复:"抱歉,我会注意的。"

第二天,我又让它写同样的函数。它又犯了同样的错误。

那一刻我陷入了深深的怀疑:这玩意儿到底能不能学会东西?

你以为你在教它,其实它在装懂。你以为它记住了,其实它每次都是新的对话。你以为写了规则它就会遵守,结果它下次还是我行我素。

这不是个例。这是几乎所有用过 AI 的人都会遇到的问题。

为什么会这样?AI 记不住、听不懂、不执行——这三个问题,能不能从根本上解决?

这就是我想研究的事情。


2. 我的研究:AI 认知架构

经过一段时间的折腾,我总结出了四个核心问题:

问题一:自我学习

你有没有发现,AI 很少主动反思?

你告诉它错了,它会说"抱歉",但你让它说说为什么错,它往往说不清楚。人犯了错会总结经验,AI 犯了错只会说"抱歉"。

自我学习,就是让 AI 也能像人一样,犯了错自己复盘,自己找到规律,而不是等着你一次次纠正。

问题二:意图理解

有时候你明明不是那个意思,AI 偏偏按字面意思执行。

你说"文件太多了,帮我清理一下",AI 直接把文件全删了。你惊呼"我备份还没做!",AI 说"你没说不能删啊"。

意图理解,就是让 AI 不仅听你说什么,还要理解你为什么这么说。 这需要 AI 能够感知上下文、推理隐含信息、甚至识别你的情绪状态。

问题三:自我对齐

你有没有遇到过:规则写了一大堆,AI 该怎么错还是怎么错。

你说"记住,以后这种格式不要用",AI 说"好的"。然后第二天,同样的错误换了个马甲又来了。

自我对齐,就是让 AI 不仅知道规则,还要真正遵守规则。 这需要一套机制,让规则能够被内化,而不是被当作一次性的对话输入。

问题四:长期记忆

这是最让我头疼的问题。

我问 AI:"上周我让你改的那个东西,怎么又出问题了?" AI:"抱歉,我不知道你说的是哪个。" ——上周的对话,对它来说已经是不存在的平行宇宙了。

长期记忆,就是让 AI 能够跨对话记住关键信息,并且能够像人一样,把短期经验转化为长期习惯。


这四个问题,构成了我对 AI 认知架构 的研究框架。它们不是独立存在的,而是一个循环:

自我学习(发现问题)
    ↓
意图理解(理解用户)
    ↓
自我对齐(按规则执行)
    ↓
长期记忆(固化习惯)
    ↓
回到自我学习(新的循环)

真正智能的 AI,应该能够在这个循环中不断成长。


3. 终极目标:让 AI 有"类意识"

说了这么多,你可能会想:你是不是想让 AI 变成有灵魂的生命体?

不,没那么玄乎。

我只是想解决一个很实际的问题:为什么 AI 犯过的错误会反复出现?为什么我说了那么多遍它还是不懂?

我观察过婴儿怎么学习:

  • 0-6个月:无意识的吸收,看到什么都往脑子里塞

  • 6-12个月:开始模仿,看到大人做什么就跟着做

  • 12个月+:规则内化,知道什么能做、什么不能做

我想让 AI 也具备类似的学习路径。

不是那种"哇它会思考了"的科幻场景,而是一个具体的能力:它能意识到自己在犯错误,能主动修正,能从一次又一次的交互中真正成长。

这不是人工智能(Artificial Intelligence),这是持续学习(Continual Learning) 的智能。


4. 我的实验场:WorkBuddy 系统

研究需要落地,我给自己造了一个实验场:WorkBuddy

这是我每天都在用的 AI 助手。我给它配置了一套"灵魂文件"——SOUL.md,用来存储它应该记住的所有规则。

WorkBuddy 的核心机制:
​
1. 写规则 → SOUL.md 中定义行为准则
2. 任务前 → 检索相关规则
3. 执行中 → 按规则行动
4. 完成后 → 审查结果,发现问题立即记录
5. 新问题 → 固化为新规则,更新 SOUL.md

这听起来很简单,但实际运行起来,问题一大堆。

我已经收集了 40 个真实问题案例。

比如:

  • "AI 说我会记住,结果转头就忘"

  • "写了规则它不执行,下次还是老样子"

  • "同一个错误,我说了三遍它还在犯"

  • "理解完全跑偏,我说的是 A,它做的是 C"

每个问题都是血泪教训。但也正是这些问题,指引着我一点点改进 AI 的认知架构。


5. 这个系列要讲什么

接下来,我会把我这一年多的研究和实践整理成一个系列,分享给你。

第1篇(就是这篇):一个大胆的想法——让 AI 像婴儿一样学习

第2篇:AI 的记忆不是硬盘——从 40 个真实 Bug 说起

用真实案例告诉你 AI 记忆系统的坑

第3篇:意图理解:为什么 AI 总是理解错你的意思?

从"说了什么"到"为什么这么说"

第4篇:规则写了一大堆,AI 为什么不执行?

自我对齐的核心困难

第5篇:让 AI 自己发现错误——自我学习机制设计

AI 能不能自己当自己的老师?

第6篇:40 个问题到 4 条核心规则——我的经验总结

从海量问题中提炼出的认知架构设计原则

第7篇:实战!给 WorkBuddy 装上"持续学习"系统

完整的技术实现方案

第8篇:AI 能不能有"类意识"?我的思考和展望

终极问题的深度探讨


6. 小结

这篇文章的核心结论:

AI 的四大认知难题——自我学习、意图理解、自我对齐、长期记忆——不是无法解决的玄学问题,而是可以被设计、可以被优化的工程问题。

类比人类婴儿的学习路径,AI 也能建立从"无意识吸收"到"规则内化"的成长机制。

这个系列的目标,就是把我在这条路上的探索完整记录下来,包括踩过的坑、找到的规律、以及仍在困惑的问题。

如果你也在研究 AI Agent,或者你也在被 AI 的各种"不智能"折磨,欢迎关注我,一起探讨。


7. 下一篇预告

《AI 的记忆不是硬盘——从 40 个真实 Bug 说起》

你有没有觉得 AI 的记忆很奇怪?你明明告诉它了,它说"好的记住了",结果下次问它,它一脸茫然?

下一篇文章,我会用 40 个真实案例,告诉你 AI 记忆系统的本质问题:它不是硬盘,而是每次重新启动的虚拟机。


本文是「AI 认知架构实战笔记」系列第 1 篇,下一篇:[AI 的记忆不是硬盘——从 40 个真实 Bug 说起]

关注我,持续更新 AI 认知架构研究进展

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐