为什么对话越多，AI反而越容易“跑偏”

在前两篇文章中，我们分别从整体框架和RAG（检索增强生成）的角度，分析了AI智能客服中“机器幻觉”的来源。在易科势腾的相关实践中，这类问题在多轮对话场景下尤为明显：

• 第一篇：幻觉不只是模型问题，本质是系统问题
• 第二篇：RAG与Chunk切分，决定了AI“看到什么”

但在实际落地过程中，还有一个非常容易被低估的高风险环节：

👉 多轮对话本身，就是幻觉的放大器

很多团队会发现：

单轮问答表现还可以，但一旦进入多轮对话，AI就开始“越聊越不对”。

这背后的问题，不在模型能力，而在：

👉 上下文是如何被理解、保留和使用的

---

一、为什么多轮对话更容易产生幻觉

在单轮问答中，信息是完整输入的：

用户问题 → 检索 → 生成答案

但在多轮对话中，真实过程是：

历史对话 + 当前问题 → 模型理解 → 生成答案

问题在于：

👉 用户在多轮对话中，越来越依赖“省略”和“指代”

例如：

用户：退款规则是什么？
AI：……
用户：那旗舰版呢？

这里的“那”，并没有明确表达完整问题。

对人来说，这很好理解，但对模型来说：

👉 这是一个不完整输入

如果系统没有正确处理上下文，就会出现：

• 理解错对象
• 拼接错信息
• 引用错知识

最终表现为：

👉 AI看起来在回答，但其实已经“跑偏”了

---

二、多轮对话中的三类典型幻觉问题

在企业智能客服中，多轮对话导致的幻觉，通常集中在以下三类：

---

1️⃣ 指代消解错误（最常见）

用户经常使用：

• “这个”
• “那个”
• “它”
• “刚才那个”

例如：

用户：旗舰版支持退款吗？
AI：支持30天内退款
用户：那基础版呢？

如果系统没有正确识别“那”对应的是“退款规则”，而误关联其他信息，就会导致回答偏差。

👉 本质问题：

模型无法稳定识别“当前问题指向哪个对象”

---

2️⃣ 意图漂移（对话越长越严重）

多轮对话中，用户的问题可能逐步变化：

Q1：售后政策  
Q2：维修流程  
Q3：那运费怎么算？

问题在于：

👉 第三问的“运费”，到底属于哪个上下文？

• 售后退货运费？
• 维修寄送运费？
• 新购商品运费？

如果系统没有做意图绑定：

👉 AI就会“猜一个最像的答案”

这就是典型的幻觉来源。

---

3️⃣ 上下文污染（历史信息干扰当前问题）

例如：

前面对话：一直在聊A产品  
当前问题：B产品支持吗？

如果系统仍然带着A产品的上下文去生成：

👉 就会出现：

• 回答混杂
• 信息错位
• 内容拼接

用户感知就是：

“AI好像懂，但总有点不对劲”

---

三、工程上如何控制多轮对话的幻觉问题

多轮对话的问题，本质上不是“模型不聪明”，而是：

👉 系统没有正确管理上下文

在工程实践中，可以从三个层面进行控制：

---

✅ 1. 会话状态结构化（Session State）

不要只把历史对话当文本存储，而是要提取关键状态：

{
  "product": "旗舰版",
  "intent": "退款咨询",
  "topic": "售后政策"
}

这样做的核心价值是：

👉 把“隐式上下文”变成“显式状态”

模型在生成时，不再依赖猜测，而是基于明确上下文。

---

✅ 2. 上下文裁剪（Context控制）

很多系统的做法是：

👉 把所有历史对话全部喂给模型

但这在多轮场景中反而是风险：

• 信息过载
• 旧信息干扰
• 上下文冲突

更合理的策略是：

• 只保留最近N轮对话
• 只保留与当前意图相关的历史
• 清理无关上下文

👉 本质是：

不是“给更多信息”，而是“给更干净的信息”

在易科势腾的实际项目中，这三类策略通常是同时组合使用的，而不是单点优化。

---

✅ 3. 主动澄清机制（关键能力）

当系统无法确定用户意图时，不应该“猜”，而应该：

👉 主动确认

例如：

请问您指的是旗舰版的退款规则，还是基础版的？

这一步在工程上非常关键：

• 可以显著降低误答率
• 提升用户信任感
• 避免“自信地胡说八道”

在实际客服场景中：

👉 一次澄清，往往比一次错误回答更有价值

---

四、多轮对话控制，比RAG更难但更关键

在实际项目中，很多团队会把重点放在：

• RAG优化
• 检索优化
• 模型选择

但随着系统上线，会逐渐发现：

👉 多轮对话才是稳定性的真正挑战

在易科势腾的相关实践中：

• 单轮问答问题相对可控
• 多轮对话中，意图漂移和上下文污染更常见

因此在系统优化阶段：

👉 多轮对话控制，往往是提升用户体验最明显的一步

---

五、总结

如果说：

• RAG解决的是：“给模型什么信息”
• Chunk切分解决的是：“信息如何被组织”

那么多轮对话控制解决的是：

👉 “信息在对话中如何被持续正确使用”

一句话总结：

AI不会天然理解上下文，它只是“尽力猜测”。
而工程的价值，就是让它尽量不需要猜。

---

在智能客服系统中，真正稳定的能力，往往不是来自模型本身，而是来自：

👉 对输入、上下文和对话过程的整体控制

在下一篇文章中，我们将继续深入：

👉 如何通过Prompt约束与输出后处理，进一步降低AI幻觉风险

敬请期待。