AI接管互联网 | CMU揭秘“代理化网络”的残酷真相

MaoziShan

334人浏览 · 2026-06-03 23:12:46

MaoziShan · 2026-06-03 23:12:46 发布

论文：AgentWebBench: Benchmarking Multi-Agent Coordination in Agentic Web
标签：Agentic Web、多智能体协同、大语言模型、搜索引擎、信息检索

你最近肯定遇到过这种令人抓狂的场景：你把一个新闻链接甩给你的AI助手，让它帮你总结一下深度报道，结果它冷冰冰地回复一句：“抱歉，该网站拒绝访问。”

这并非你的AI变笨了，而是整个互联网的底层逻辑正在发生剧变。过去几十年，互联网是一个开放的“万维网”（World Wide Web），搜索引擎像上帝一样爬取所有公开网页，为你提供一个中心化的链接列表。但如今，随着AI公司因抓取版权数据而面临高调的法律诉讼，各大内容平台纷纷竖起了高墙。他们不再开放原始网页，而是通过API或专门的“内容代理”（Content Agents）来提供受控的数据访问。

这就催生了一个全新的网络形态——代理化网络（Agentic Web）。在未来，你不再亲自去搜索网页，而是委派你的“用户代理”（User Agent）去互联网上跑腿。当你的代理来到维基百科或知乎的门口时，它进不去底层数据库，只能跟守在门口的“赛博保安”（内容代理）交涉：“我家主人想查点东西，你能帮我在你们库里找找吗？”

这种“神仙打架”的去中心化多智能体协同，听起来科幻感拉满。但它真的好用吗？当信息获取从中心化检索变成去中心化谈判，谁会是受益者，谁又会被抛弃？

为了回答这个关乎互联网未来的核心问题，卡内基梅隆大学（CMU）等机构的研究团队构建了首个专门评估该范式的超大规模基准测试——AgentWebBench。他们不仅定义了这场变革的规则，还残酷地揭开了目前代理化网络中那些令人啼笑皆非的缺陷。

1. 搭建赛博擂台：AgentWebBench是如何运作的？

要研究“代理化网络”，就必须在一个足够逼真的环境中模拟它。在此之前，业界虽然有 WebArena 等测试环境，但它们大多只测试单个智能体在开放网页上的操作，完全没有触及未来互联网最核心的痛点：跨网站的多智能体协调与权限隔离。

在这里插入图片描述
图注：AgentWebBench 架构概览。用户代理（User Agent）接收用户意图，规划并选择特定的内容代理（Content Agents）进行查询，最后合成答案。每个内容代理只能访问自己网站的私有数据。

研究团队从真实互联网（ClueWeb22-B）中切分了 100 个高频访问的网站，包含了 18,427,770 篇文档。最关键的设计在于：他们给这 100 个网站每一个都配备了一个独立的“内容代理”。每个内容代理只负责自己的一亩三分地，拥有独立的向量检索基础设施（基于 MiniCPM-Embedding-Light）。

在这个去中心化的架构下，你的“用户代理”是“盲”的——它没有任何底层语料的直接访问权限。为了完成用户的信息需求，研究人员设计了三种递进的协调策略（Coordination Strategies）：

ToolE（基于工具的向量选择）：最基础的基线。用户代理不经过大模型推理，直接计算用户问题和网站描述的向量相似度，选出几个网站，然后调用检索工具获取文档。
ToolP（基于大模型提示词的选择）：用户代理先用大模型（LLM）的推理能力思考该去哪个网站，然后再调用检索工具。
Multi-Agent（多智能体协同）：最硬核的终极形态。用户代理和内容代理都是具备自主推理能力的AI。用户代理负责规划多轮交互，而选中的内容代理会在自己的领地里检索，生成自然语言摘要和证据返回给用户代理。两者可以进行多轮“对话”和拉扯。

研究团队在四种经典任务上进行了测试：网页搜索（Web Search）、网页推荐（Web Recommendation）、问答（Question Answering）和深度研究（Deep Research）。参与测试的选手包括了目前地表最强的七款大模型，涵盖了 Qwen3 系列、DeepSeek-V3.2、GPT-5-mini 以及 Gemini-3-Flash。

读者可能会想：既然用上了最先进的多智能体协同，那肯定能秒杀传统的搜索引擎吧？

2. 翻车：越聊越乱的“赛博谈判”

在公布结果之前，我们先来看看传统搜索引擎的基线成绩。传统搜索（Classical）拥有“上帝视角”，可以直接在一个包含所有 1840 万篇文档的中心化索引中寻找答案。

当我们把这种“上帝视角”剥夺，强迫最聪明的 AI 模型使用多智能体协同（Multi-Agent）去完成最基础的网页搜索任务时，令人大跌眼镜的结果出现了。

在这里插入图片描述

图注：不同大模型在四项任务上的表现。在 Web Search 任务中，Multi-Agent 的表现普遍落后于 Classical（中心化检索）。

实验结果表明，在基础的网页搜索任务上，多智能体协同的表现普遍且显著地落后于传统的集中式检索。你派出的精英助理，连个网页都搜不明白。

原因出在哪里？研究发现，目前的“赛博保安”（内容代理）极其不稳定。在代理化网络中，信息链条被拉长了。用户代理必须先猜对哪个网站有信息，然后再把请求发给该网站的内容代理。只要内容代理的检索系统稍微拉胯一点，或者对用户代理的意图理解出现偏差，整个检索就会失败。这就好比你的助理找对了公司，但对面的保安是个糊涂蛋，进去转了一圈空手出来了。数据表明，ToolP（仅用大模型选网站，不用内容代理交互）在搜索任务上通常强于 Multi-Agent，这直接证明了当前的内容代理在纯检索任务上还不够可靠。

3. 峰回路转：杀死链接，拥抱“知识合成”

如果代理化网络连基础搜索都做不好，那各大科技公司还在瞎折腾什么？

别急，反转在更复杂的任务中出现了。虽然在基础的“找链接”（网页搜索）任务上拉胯，但在问答（Question Answering）任务上，多智能体协同（Multi-Agent）开始发威，部分顶级模型甚至超越了集中式检索的基线！例如，Gemini-3 在 Multi-Agent 策略下的问答准确率达到了 67.92%，显著高于集中式检索的 60.38%。

这是一个极具启发性的反直觉发现。为什么搜东西不行，做复杂的问答反而行了？

因为问答任务需要的是“迭代式的证据收集与合成”。当你问一个跨领域的复杂问题时，没有任何一个单一网站能提供完整答案。在 Multi-Agent 策略下，用户代理去 A 网站问了保安，拿到一点线索后，发现不够，它会根据这个新线索重新规划，再去 B 网站问另一个保安。这种多轮的、渐进式的综合能力，完美契合了 Agentic Web 的设定。

这向我们揭示了未来互联网的真正形态：未来的 AI 不是用来给你“列出一堆网页链接”的，而是用来帮你“跨越信息孤岛，打磨和合成最终答案”的。 传统的“十条蓝色链接”即将死亡，取而代之的是一份由多方 AI 谈判后生成的深度报告。

4. 赢家与输家：被切碎的互联网与流量的“马太效应”

当我们沉浸在 AI 帮我们合成答案的便利中时，这篇论文的另一个发现却让人细思极恐：代理化网络正在深刻地改变互联网的生态格局。

在传统的集中式搜索下，流量是相对分散的。即便是一个小众的学术论坛、个人博客，只要内容匹配，就能出现在搜索结果里。然而，当信息获取交给了 AI 代理，情况发生了质变。

在这里插入图片描述

图注：Gemini-3 在深度研究任务中的流量分布。橙色代表多智能体协同（Multi-Agent）下的流量，蓝色代表传统集中式检索（Classical）。可以看出，多智能体策略极大地将流量集中在了少数几个头部网站。

数据表明，去中心化的代理访问起到了极强的“过滤器”作用，导致了严重的流量集中化（Traffic Concentration）。为了保证回答的可靠性，用户代理会产生严重的“路径依赖”，它会反复选择那些它认为最权威、最容易沟通的大型网站（比如 Wikipedia, ScienceDirect, NYTimes）。

这意味着什么？这意味着大网站的“赛博保安”天天忙得不可开交，而那些小网站、长尾内容提供者，将彻底从 AI 的视野中消失。为了保护版权而建立的代理化网络，最终可能反噬了互联网的多样性，让流量垄断变得比搜索引擎时代更加极端。

5. 谁该背锅？赛博世界的“罗生门”与破局之道

既然目前的代理化网络还不够完美，那如果 AI 给出了一个错误答案，到底该怪谁？是你的“用户代理”太笨，还是网站的“内容代理”不作为？研究团队进行了一场硬核的“失败模式分析”（Failure Analysis）。

在这里插入图片描述

图注：失败模式分析。在不同任务中，错误被归因于用户代理（User Agent）或内容代理（Content Agents）的比例。

在网页搜索任务中，像 DeepSeek-V3.2 和 GPT-5 这样的强模型，失败的锅主要在“内容代理”身上——它们没能从自己的网站里把对的文档找出来。

但在问答任务里，情况却让人啼笑皆非。论文给出了一个非常经典的失败案例：内容代理明明已经非常给力地把包含正确答案的文档找出来了，文档里清清楚楚写着答案是“光”（Light）。结果，用户代理在最后做信息合成的时候，脑子一抽，生成了一个错误颗粒度的答案，强行回答成了“太阳”（The Sun）。

这就好比保安已经把嫌疑犯抓到了局长面前，局长却指着嫌疑犯说：“我看这个人长得像太阳，放了吧！”

这说明，要拯救未来的代理化网络，需要双管齐下：内容代理（网站方）需要更稳健的底层检索能力；而用户代理（大模型方）需要大幅提升其长程规划、证据解释和答案合成的能力。

在这里插入图片描述

图注：测试时计算扩展（Test-time scaling）对协同性能的影响。开启思考模式（Thinking）能显著提升请求的有效性（Valid %）。

好消息是，大模型自身的进化正在解决这个问题。研究指出，**“测试时计算扩展”（Test-time scaling）**是提升性能的有效路径。当研究人员让 Qwen3-4B 和 Qwen3-30B-A3B 开启“思考模式”（Thinking mode）后，模型在行动前会进行内部模拟和验证，这不仅提升了任务表现，还大幅减少了不合规的请求格式（幻觉和协议违规）。让 AI “三思而后行”，是应对复杂赛博谈判的关键。