作者：来自 Elastic Devin Rhoades

随着组织从生成式 AI 实验阶段迈向运营级部署，一个新的机会正在逐渐清晰：代理式 AI（agentic AI）。具备感知、决策和行动能力的 AI agent 正在快速普及。根据 Gartner 的数据，目前有 17% 的 CIO 表示其组织已经采用 AI agent，另有 42% 计划在未来 12 个月内采用。

但与此同时也存在一个矛盾：虽然 agentic AI 前景巨大，但 Gartner 估计，超过 70% 的 agentic AI 用例将无法实现预期价值。这引出了几个关键问题：我们该如何衡量 agentic AI 项目的 ROI？评估其价值的关键指标是什么？又该如何确保这些项目能够带来明确的投资回报？

作为 AI 服务与赋能高级经理，我的重点是打造更智能、由 AI 驱动的员工体验。这包括实施能够带来实际生产力提升的 agentic AI 工作流。

为什么衡量 agentic AI 的 ROI 需要不同的方法

传统 ROI 模型是为可预测的软件实施而设计的，并不适用于 agentic AI。与传统工具不同，agentic AI 系统是 “非确定性” 的 —— 它们不仅执行脚本，还会进行推理与适应。这种可变性会同时影响成本（例如 token 消耗与推理步骤数量）以及价值（例如输出的质量、可靠性和可扩展性）。

例如，一个 agent 在某一天可能只需 3 个步骤就能解决客户问题，而在另一天可能需要 10 个步骤，这取决于问题复杂度。这种不可预测性使传统按席位或许可证计费的 ROI 模型不再适用。为了真正衡量 ROI，IT 领导者必须采用一种财务框架，既能反映成本的动态变化，也能体现 agentic AI 所创造的复杂价值。

开始之前需要回答的关键问题

为了成功衡量 ROI，组织需要提前收集正确的信息。以下问题对于建立评估 agentic AI 价值的基础至关重要：

Agentic AI 项目的前期成本与持续成本有何不同？
前期成本包括许可证、试点开发以及数据清洗，而持续成本（如 token 消耗与监控）则更加动态。理解这些差异对于计算总体拥有成本（TCO）至关重要。

你的 “人工基线” 是什么？
在部署之前，你应该记录 AI 将接管任务的流程时间、错误率以及单任务成本等指标。如果没有这个基线，我们在衡量改进时就只能依赖猜测。

量化 agentic AI 收益有哪些挑战？
一些无形价值 —— 例如员工倦怠减少或可扩展性提升 —— 很难衡量。可靠性与质量提升同样如此。需要建立清晰的指标与基准，才能让这些收益变得可量化。

你如何保护你的 ROI？
风险无法被完全消除，但关键在于如何将其控制在可接受范围内。随着我们越来越深入地将 agentic AI 嵌入工作流，我们正在思考一种 “最小权限、最小功能、最小暴露” 的方法。合适的架构与控制机制本身是另一个话题，但这里必须强调：它们是实现 ROI 的关键前提。

评估 agentic AI 价值的关键指标

在评估 ROI 时，必须使用适用于 agentic AI 独特特性的指标。以下是需要重点评估的核心领域：

1）财务与业务影响

• Agent 价值倍数（AVM，Agent Value Multiple）：将成本节省、增量收入以及利润率提升相加，然后除以总成本。这可以量化你的投资效率。
• 成本规避（Cost avoidance）：衡量那些 “本来会发生但实际上没有发生” 的成本，例如由于效率提升而避免新增招聘。通过将工作转移给 AI agent，你还可能整合 SaaS 供应商并优化许可证成本。

2）任务成功率与运营效率

• 每项完成任务的 agent 成本（ACCT，Agent Cost per Completed Task）：该指标通过计算成功完成一个任务所需的总成本来标准化支出，无论任务复杂度如何。
• 上下文记忆优化分数（CMOS，Context Memory Optimization Score）：该指标用于跟踪 agent 完成任务所需的输入 token 数量。token 使用越少，成本越低。通过优化系统设计并结合知识图谱，可以更好地管理 token 消耗并避免意外支出。
• 成功率（Success rate）：评估无需人工干预即可完成的工作流比例。更高的成功率意味着更高的自治能力与运营效率。

3）可靠性与长期可用性

• 有效上下文利用率（ECU，Effective Context Utilization）：这是一个组合指标，用于结合任务成功率、准确性与成本，确保 agent 能够高效且可靠地运行。
• 用户接受度（User acceptance）：对于内部 agent，需要跟踪员工是否真正使用该解决方案，还是又回退到手动流程。

Agentic AI 项目中容易被忽视的成本

为了准确计算总体成本，你必须超越那些最明显的 agentic AI 成本。根据 Gartner 的观点，以下是你可能忽略的隐藏成本：

应用开发与持续维护：
为了让 AI 解决方案符合特定业务需求，通常需要大量开发时间与专业能力。除了初始部署之外，组织还必须考虑定期更新、性能调优以及维护，以确保系统持续符合不断变化的业务目标与技术标准。

与现有企业系统的集成：
不用多说，将 agentic AI 这样的新技术集成进现有技术栈本身就是一项艰巨任务。在把新的 AI 模型连接到遗留系统、工作流或其他关键业务平台时，往往会出现复杂问题。这项工作通常需要额外工具、时间以及大量专业知识，才能达到可投入运行的状态。

用于降低风险并加速创新的安全与治理框架：
这些框架对于组织至关重要，因为它们能够在不损害数据隐私或违反监管标准的前提下，为 AI 的安全部署提供基础，从而加速创新。而构建这些框架本身就需要投入时间与资金。

以可行成本实现准确性的数据管理：
Agentic AI 系统需要高质量、相关性强的数据，但有效管理这些数据本身就伴随着显著成本。从确保数据准确性与一致性，到管理数据存储与检索，组织需要能够优化这些流程且兼顾成本的解决方案。需要特别指出的是，这项投资的重要性怎么强调都不过分。你需要避免 “推理债务（reasoning debt）” —— 即由于数据混乱导致 agent 需要进行过度推理并消耗过多 token —— 并确保在数据架构上进行恰当投资。

为了充分实现业务价值所需的业务变革与转型：
要真正释放 AI 的价值，必须投资于业务转型工作。你可能投入了所有资源去构建它，但员工真的会使用它吗？这项隐藏成本包括员工培训、培养 AI 采用文化，以及让团队适应新的运营流程。如果低估变更管理的规模，可能会延迟采用进程，并导致 AI 解决方案利用率不足 —— 最终降低 agentic AI 的 ROI。

通过认真评估并为这些容易被忽视的成本做好预算，IT 领导者可以建立一条清晰路径，从而实现稳健、可扩展且具备成本效益的 agentic AI 解决方案，并交付可衡量的业务价值。

IT 领导者如何估算 agentic AI 的成本

不要依赖 “拍脑袋式” 的粗略估算。以下是一些预测 agentic AI 成本的方法：

• 模拟工具（Simulation tools）：通过试点项目模拟复杂与简单查询下的 token 消耗情况。这有助于预测计算成本的波动性。
• AI FinOps：与财务团队合作，建立用于成本收益分析与报告的流程。拥有一个能够帮助展示 AI agent 价值的团队支持至关重要。

Agentic AI 将迫使组织（以及财务团队）重新思考传统固定 IT 预算模式。AI 的计算成本需要直接与 AI agent 带来的效率收益进行权衡，而这两者本身都是动态变化的。

例如，一个 agent 可能消耗了 5 万个 token，但同时也在没有人工干预的情况下关闭了 5000 个工单 —— 那么，它的真实成本到底是多少？

Agentic AI 的非确定性与可变特性，意味着我们必须在传统固定成本预测模型中引入更多 “波动性建模”。

弥合试点与 ROI 之间的差距

Agentic AI 有望改变组织的运营方式，但成功取决于谨慎的规划与衡量。你该如何评估 agentic AI 项目所创造的价值？

通过回答关键问题、建立基线、采用新一代指标，并将隐藏成本纳入考量，IT 领导者可以超越试点阶段，确保 agentic AI 持续交付业务价值。

想进一步了解如何衡量 agentic AI 的 ROI？请获取 Gartner 报告。

Gartner，《有了 AI agent，你需要一种全新的成本与价值计算方式》， Rita Sallam，2026 年 1 月 2 日

GARTNER 是 Gartner, Inc. 及/或其关联公司的商标。

原文：https://www.elastic.co/blog/how-it-leaders-measure-roi-of-agentic-ai-initiatives