一、AI 落地的三个真实困境

困境一:模型碎片化。 同一种业务往往要在不同类型模型之间切换——有的场景用国内通用大模型,有的用国际通用大模型,有的用开源模型做私有化部署。年初对接一家主流厂商,到年底又要支持国产替代和开源部署,每接一家就要重写一次。

困境二:Agent 无法复用。 一个项目里写过 FAQ 检索,再做"查询订单"时发现:节点、提示词、工具、会话记忆这一整套又得重写。三个月下来,五个项目,五套代码,连公共类都没沉淀下来。

困境三:知识进得来,业务出不去。 知识检索做了向量库,但用户问"上个季度华东区销售额同比",系统只会返回相似文档片段,不会真的去查业务库做计算。知识检索和业务调用之间缺少统一的执行通道。

这三个困境指向同一个结论:AI 应用需要一个 方法论 + 工程底座 + 应用形态都齐备的"框架"。

二、AIGS 方法论:把"猜答案"变成"一步步推理"

传统业务系统的执行路径是写死的——菜单点击 → 控制器 → 查库 → 渲染。引入大模型之后最大的变化是:执行路径变成由模型动态生成。AIGS(AI Generated Service)正是为这种新范式而设计的方法论。

AIGS 的核心思想是把系统能力抽象成"可被推理调用的服务",让模型在每一步推理中决定调用哪一个、传什么参数。落到工程上,就是"推理 + 工具"双引擎:推理层让模型按"思考 → 行动 → 观察 → 再思考"的循环推进,工具层把业务接口、知识检索、数据库查询、文件解析都注册为标准服务,模型按需调用。

这种"推理驱动服务"和传统"流程驱动服务"的区别,可以用一张表对比:

维度 传统业务系统 AIGS 改造后系统
执行路径 硬编码在代码里 由模型推理动态生成
业务接口 与入口紧耦合 注册为可调用的标准服务
决策依据 程序员预设规则 模型按上下文判断
可观测性 日志 + 链路追踪 推理过程可视化 + 工具调用审计
改动成本 改流程要发版 改服务注册即可

把 AIGS 当成"方法论层"看,后面的工程底座和应用形态都是为了让它真正跑起来。

三、四层架构:把 AI 装进既有 IT 体系

方法论回答了"怎么做",四层架构回答"放在哪里"。一套成熟的 AI 框架,通常会按下面四层组织代码和部署单元。

展示层 负责和最终用户交互。流式输出和会话状态在这一层完成,渲染交给前端框架。

服务层 是 AI 应用的"业务中枢"。一个 AI 应用对应一份应用配置,配置项用结构化方式存储,支持应用级、会话级、节点级多层覆盖。

核心层 是框架"发动机"。负责节点编排、上下文组装、治理平台落地。

数据层 收纳各类 AI 资产。缓存层支持多种模式组合,业务数据和 AI 检索共用同一份元数据。

四层之间只通过接口对话,不允许跨层调用。这是把 AI "装进"既有 IT 体系的关键——展示层不知道底层是 LLM 还是规则引擎,数据层不知道上层是 AI 还是普通业务。

四、模型适配与工程底座

在四层架构之上,工程底座由三件事决定:模型怎么接、流程怎么跑、资产怎么管。

模型适配 的关键是 统一抽象。框架通常会定义一个模型基类,把不同厂商的差异收敛到这一层。业务代码只调用标准方法,切换模型时改配置不改代码。

流程编排 的关键是 可复用节点 + 事件驱动。每个节点是独立单元,节点之间靠事件传数据,好处是任意节点可替换、可插拔。

资产管理 的关键是 五类资产可装配。新加一个 Function 不用改框架,只写一个标注的类即可。

五、三大应用类型:把方法论变成可装配的"积木"

框架全貌最终要落到 可交付的应用形态。通常会提供三种开箱即用的应用类型,覆盖 80% 的 AI 落地场景。

应用类型 适用场景 核心能力
智能问答 FAQ、客服、政策咨询 知识检索 + 单轮对话
智能问数 业务查询、报表、指标 自然语言查数 + 多源数据路由
智能编排 复杂流程、跨系统协作 可视化流程编排 + 自定义节点

三种类型在数据模型上同构,在节点装配上不同。

这意味着团队可以 先用智能问答跑通第一个场景,再平滑升级到智能问数,最后在复杂流程上启用智能编排——同一份框架底座、同一套接口、同一套治理体系。

总结

把上面的内容收束一下:AI 框架的全貌由三层构成——AIGS 方法论,即怎么让模型驱动服务;四层架构 + 工程底座,即怎么让方法论在既有 IT 体系里落地;三大应用类型,即怎么让框架能力变成可交付的积木。缺任何一层,AI 落地都会卡在试点阶段。

JBoltAI 通过 AIGS 框架把这三层串成一条主线。向量科技在框架里沉淀的"从项目化 AI 升级为工程化 AI"的工程纪律,是这套全貌能稳定复用的关键。

需要提醒的是,框架是工程纪律的载体,不是银弹。真正决定 AI 落地质量的,是团队对业务场景的拆解、对知识资产的管理、对服务接口的设计。框架能做的,是把"做对的事"和"把事做对"这两件事的成本同时降下来——但降下来的,是重复造轮子的成本,不是业务思考的成本。

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐