004、基础对话：掌握Prompt工程与对话管理

昨天调试一个对话场景，用户问“帮我查下天气”，豆包回了一句“好的，已为您查询天气”。然后呢？没下文了。等了十秒，界面就卡在那儿——典型的对话断裂问题。这种场景在真实产品里太常见了，表面看是模型回复不完整，根子上其实是Prompt设计缺了上下文管理。

一、Prompt不是填空题

很多人把Prompt理解成“往括号里填词”：

用户说：{用户输入}
你回答：

这种写法在单轮对话还能凑合，一旦涉及多轮交互立刻崩盘。对话是有记忆的，但模型的记忆窗口有限。你得主动帮它管理上下文。

看看这个反面案例：

# 别这样写！上下文会丢失
def chat(user_input):
    prompt = f"用户说：{user_input}\n助手："
    return call_model(prompt)

更糟的是这种：

# 这里踩过坑：把历史对话无脑拼接
history.append(f"用户：{user_input}")
prompt = "\n".join(history[-10:])  # 盲目截断最后10句
# 问题来了：如果历史里有8句都是“你好”“在吗”，关键信息早被挤出去了

二、对话状态机藏在Prompt里

好的对话Prompt应该是个状态管理器。试试这个结构：

def build_prompt(history, current_query):
    # 角色定义要前置，别埋在历史里
    system = "你是豆包助手，回答需简洁准确。当前对话背景：日常咨询"
    
    # 历史压缩：把长篇对话总结成关键点
    if len(history) > 6:
        summary = summarize_history(history[:-3])  # 保留最近3轮原始对话
        history_part = f"【先前摘要】{summary}\n【最近对话】"
        history_part += "\n".join(history[-3:])
    else:
        history_part = "\n".join(history)
    
    # 当前指令明确化
    instruction = "请基于以上对话回答用户最新问题，若需要更多信息可礼貌询问。"
    
    return f"{system}\n{history_part}\n用户：{current_query}\n{instruction}\n助手："

注意那个summarize_history函数——这是关键。当对话超过6轮，把前面的历史压缩成摘要。模型自己不会做这个，你得在Prompt里设计这个“记忆整理”机制。

三、对话控制字段比你想的重要

豆包支持一些控制字段，很多人只知道temperature。试试这几个组合：

params = {
    "temperature": 0.7,        # 别调到0.9以上，容易胡言乱语
    "max_tokens": 500,         # 根据场景设上限，天气查询给200就够了
    "top_p": 0.9,              # 和temperature二选一，我习惯用这个
    "presence_penalty": 0.3,   # 抑制重复用词，对长回复特别有用
    "stop": ["用户：", "###"]  # 停止符设好，防止模型自己接着编对话
}

有个细节：stop字段里我加了"用户："。为什么？防止模型“自问自答”。有时候它会在回复末尾自己开始写“用户：接下来…”，加上这个就切得干净。

四、用户意图捕捉的土办法

官方文档会讲意图识别模型，但紧急调试时可以用Prompt技巧：

intent_prompt = """
分析用户最新语句的意图，从列表选择：
1. 查询类（问天气、查价格等）
2. 操作类（打开、关闭、设置等）
3. 闲聊类
4. 多轮任务（需要多次交互）

历史对话：
{history}

用户最新输入：{query}

只需输出数字编号：
"""

先跑一遍意图识别，再根据结果切到不同的回答模板。虽然多了一次API调用，但比让模型在单次回复里同时做意图判断和内容生成要稳定得多。

五、那些容易栽跟头的地方

1. 上下文窗口不是线性使用的：你以为10K窗口就能存50轮对话？实际超过8轮后模型对开头的内容记忆就衰退了。关键信息要在最近3轮内重复或强调。

2. 系统指令会被冲淡：在长对话中，系统指令（比如“你是专业客服”）的影响力会衰减。每隔5-6轮，要在用户看不见的地方悄悄把系统指令再塞回Prompt。

3. 别让模型自己数数：让模型“列举5个优点”，它可能数到3就停了。更好的写法是“请按以下格式回答：1. 优点1\n2. 优点2\n…”。

4. 中文的停止符要测试：英文用句点，中文用句号？实际测试发现，中文对话用“###”或“【结束】”更可靠。

六、个人调试心得

Prompt工程本质上是给模型设计“工作环境”。我习惯准备三个调试版本：

• 开发版：详细日志，记录完整Prompt和参数，响应慢点无所谓
• 测试版：模拟真实流量，关注多轮对话的连贯性
• 生产版：去掉所有调试信息，做好异常降级（比如Prompt失效时回退到简单模板）

每次改Prompt，三个版本都要跑一遍。曾经在开发环境好好的对话逻辑，上了生产就崩，最后发现是生产环境的历史记录存储格式多了个换行符。

还有，别迷信“最优Prompt”。上个月有效的模板，这个月模型更新后可能效果就降了。留出20%的流量做A/B测试，持续观察对话完成率（不是单次回复质量，而是用户是否最终得到了完整解答）。

最后说个实在的：对话系统上线后，每周抽100条实际对话日志人工看。很多问题自动指标发现不了——比如用户问“价格多少”，模型回“价格是100元”，看起来正确。但实际场景里用户接着问“含税吗”，模型可能就接不住了。这些细节，只能靠人肉看日志。

Prompt工程像教实习生：你得把任务拆解得足够细，示范足够清楚，还要留个后手——当它理解偏差时，你的对话管理机制能把它拉回正轨。