一、什么是 Skill

在现代大模型（LLM, Large Language Model）体系中，“Skill（技能）”并不是一个官方标准化术语，但在工程实践与研究语境中，它通常指：

模型在特定任务或领域中可复用、可组合的能力单元

可以从三个层面理解 Skill：

1. 能力层（Capability）

Skill 本质上是模型能力的结构化表达。例如：

• 文本摘要

• 代码生成

• SQL 推理

• 多轮对话

• 工具调用

这些能力如果直接存在于模型参数中，是“隐式能力”；当被抽离、封装后，就变成“显式 Skill”。

2. 模块层（Modularization）

Skill 往往具备模块化特征：

• 输入格式明确

• 输出结构稳定

• 行为可预测

例如一个“翻译 Skill”：

输入：中文文本
输出：英文文本
约束：保持语义一致

3. 工程层（Engineering Abstraction）

在工程中，Skill 常表现为：

• Prompt 模板

• Function Calling 封装

• Tool API

• 子模型（small model）

因此 Skill 可以理解为：

Prompt + 约束 + 推理策略 +（可选）工具调用

---

二、为什么需要 Skill

1. 提高可控性

大模型本身是概率生成系统，不稳定。
Skill 通过结构化约束，使输出更加稳定。

2. 提高复用性

将能力抽象为 Skill，可以在不同业务中复用。

3. 支持复杂系统（Agent）

Agent = 多 Skill 组合

例如：

• 搜索 Skill

• 总结 Skill

• 推理 Skill

• 代码执行 Skill

通过编排形成复杂流程。

4. 降低成本

通过 Skill 拆分，可以：

• 用小模型替代大模型

• 缓存中间结果

• 减少 token 消耗

---

三、Skill 的实现方式

1. Prompt Skill

最简单形式：Prompt 模板

示例：

你是一个SQL专家，请根据问题生成SQL：
Schema: {schema}
Question: {question}

特点：

• 成本低

• 易实现

• 不稳定

---

2. Tool Skill

通过函数调用封装能力：

示例：

{
  "name": "get_weather",
  "parameters": {
    "city": "string"
  }
}

模型只负责决策：是否调用工具。

---

3. Model Skill（子模型）

将某个能力训练成专用模型：

例如：

• 分类模型

• embedding 模型

• rerank 模型

优点：

• 高稳定性

• 高性能

缺点：

• 训练成本高

---

4. Pipeline Skill

多个 Skill 串联：

用户问题 → 检索 → 阅读 → 总结 → 输出

---

四、什么是 Skill 蒸馏（Skill Distillation）

Skill 蒸馏来源于“知识蒸馏（Knowledge Distillation）”，其核心思想是：

用一个强模型（Teacher）指导一个弱模型（Student），让 Student 学会某个特定 Skill

在 Skill 语境下：

将大模型中的某个能力，提取并压缩到更小模型或更轻量系统中

---

五、Skill 蒸馏的核心流程

1. 定义 Skill 边界

必须明确：

• 输入是什么

• 输出是什么

• 成功标准是什么

例如：

任务：从文本中抽取实体
输入：自然语言
输出：JSON结构

---

2. 数据构造（Data Generation）

常见方式：

（1）Teacher 生成数据

用大模型生成训练数据：

Prompt → LLM → 标准答案

（2）自一致性（Self-consistency）

多次采样取最优结果

（3）人工校验

提高数据质量

---

3. 数据清洗与结构化

关键点：

• 去除异常输出

• 标准化格式

• 保证一致性

---

4. 训练 Student 模型

方法：

• SFT（监督微调）

• LoRA

• PEFT

目标：
最小化 Student 与 Teacher 的输出差异

---

5. 评估（Evaluation）

指标：

• 准确率

• F1

• BLEU（文本任务）

• 结构一致性

---

6. 部署与迭代

上线后：

• 收集错误案例

• 持续蒸馏

---

六、Skill 蒸馏的典型范式

1. Prompt → Model 蒸馏

把 Prompt Skill 转换为模型能力

流程：

Prompt → 生成数据 → 训练模型

---

2. CoT 蒸馏（Chain-of-Thought）

Teacher 输出推理过程：

问题 → 推理步骤 → 答案

Student 学习推理路径

---

3. Tool 使用蒸馏

Teacher：

• 何时调用工具

• 如何调用

Student 学习决策策略

---

4. 多任务蒸馏

多个 Skill 一起蒸馏：

• 分类

• 摘要

• 问答

---

七、Skill 怎么用（工程落地）

1. 在 Agent 系统中使用

Skill 是 Agent 的基本单元：

Planner → Skill 调用 → 执行 → 反馈

---

2. 在 RAG 系统中使用

典型 Skill：

• 检索

• 重排序

• 阅读理解

---

3. 在业务系统中使用

例如：

电商

• 商品推荐 Skill

• 评论分析 Skill

金融

• 风控判断 Skill

• 报表解析 Skill

---

4. Skill 编排（Orchestration）

关键技术：

• DAG

• 状态机

• LLM Planner

---

八、Skill 设计最佳实践

1. 单一职责

一个 Skill 只做一件事

2. 输入输出结构化

尽量使用 JSON

3. 可评估

必须能量化效果

4. 可替换

支持模型升级

---

九、常见问题与误区

1. Skill ≠ Prompt

Prompt 只是实现方式之一

2. 蒸馏 ≠ 简单复制

需要数据、训练、评估

3. Skill 过度拆分

会导致系统复杂度爆炸

---

十、总结

Skill 是连接“大模型能力”和“工程落地”的核心桥梁。

它的本质是：

将模糊能力 → 结构化 → 可复用 → 可优化

而 Skill 蒸馏，则是：

将昂贵能力 → 压缩 → 低成本部署

未来的 AI 系统，本质上将是：

Skill 的组合系统（Skill-based Architecture）

---

如果你正在做 AI 工程，建议优先建立：

1. Skill 抽象层

2. 蒸馏数据流水线

3. 自动评估体系

这三者将直接决定系统的上限与成本结构。