大模型应用的架构
·
| 架构层 | 名称 | 核心机制 | 解决什么问题 | 典型场景 | 复杂度 |
|---|---|---|---|---|---|
| ① 纯提示层 | Prompt Engineering / Long Context | 靠 System Prompt + Few-Shot + CoT 引导输出，不改权重、不查外部 | 通用对话、写作、代码生成、一次性推理 | 文案生成、Brainstorm、简单问答 | ★ |
| ② 知识注入层 | RAG（检索增强生成） 及其变体（Naive → Advanced → GraphRAG → Agentic RAG） | 先检索相关文档/知识 → 注入上下文 → LLM 基于证据生成 | 知识过时、幻觉、私有数据不可入训练集 | 企业知识库问答、合规检索、客服文档助手 | ★★~★★★★ |
| ③ 行动执行层 | Workflow 编排（DAG 固定流水线） | 预定义步骤序列，确定性地串联 LLM 调用 + 工具 | 流程标准化，要可控、可追溯、可回滚 | 报销审批流、报表生成、数据 ETL 辅助 | ★★ |
| AI Agent（ReAct / Plan-Execute / Multi-Agent） | LLM 自主规划→调用工具→观察结果→反思迭代，循环至完成 | 多步、非标任务，需要「思考+动手」 | 自动排障、竞品调研、代码调试助手 | ★★★★ | |
| ④ 模型定制层 | Fine-tuning / LoRA / DPO | 用领域数据改权重，把能力/风格/格式内化进模型 | 高频任务要稳定输出风格、术语、格式；数据量大且稳定 | 法律合同起草、医疗报告结构化、品牌语音固化 | ★★★~★★★★★ |
| — 横切协议 | MCP（Model Context Protocol） / A2A | 标准化模型↔工具 / Agent↔Agent 的通信接口 | 让 RAG、Agent、Workflow 在同一个可互通底座上跑 | 企业 AI 平台、多工具生态整合 | — |
AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念，把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起，为开发者提供从开发、训练到部署的一站式体验。
更多推荐
6
0- 0
已为社区贡献4条内容
所有评论(0)