WebSwarm:面向深度+广度混合网页搜索的递归多智能体编排框架
论文原网页链接:https://arxiv.org/html/2607.08662v1
arXiv编号:arXiv:2607.08662 [cs.CL],发布时间:2026-07-09
开源仓库:https://github.com/songxiaoshuai/WebSwarm
作者:宋晓帅、张连城、赵康之(通讯)、朱玉涛、王中原、董冠廷、杨景涵、李翰、盖坤、文继荣、窦志成
实习单位:快手科技
通讯邮箱:kangzhi.zhao@outlook
摘要
基于大语言模型(LLM)的网页搜索智能体正在把信息检索任务从简单事实问答升级为深度调研类复杂任务。传统单ReAct智能体受限于单条长轨迹与有限上下文窗口,无法同时兼顾搜索深度与信息覆盖广度。现有多智能体方案虽通过并行执行提升覆盖度,但在递归分层能力、协作自适应、证据驱动任务拆解三方面存在明显短板。
本文提出WebSwarm渐进式递归委派多智能体框架,在推理过程同步完成任务拆解、递归拓展、多智能体协同调度。系统动态实例化搜索节点智能体,每个节点绑定本地子目标与专属搜索模式;节点可自主完成子任务,或递归委派子智能体并行/串行执行,子任务完成后向上汇总证据,上层智能体根据返回结果决定继续拓展、修正或终止搜索。
为避免盲目递归拆分,WebSwarm引入两类引导信号:1)网页结构探测智能体预扫描网页信息分布,指导节点拓展维度;2)同源兄弟节点间复用历史搜索流程经验。
本文在BrowseComp-Plus、WideSearch、DeepWideSearch、GISA四大网页检索基准完成完整实验,结果证明WebSwarm在纯深度、纯广度、深度广度交织三类任务上全面超越单智能体ReAct与主流多智能体基线。通过消融实验、任务难度分层分析、工具开销统计、跨模型泛化测试完整验证框架有效性,为长时序检索多智能体设计提供可落地设计思路。
三大核心贡献
- 提出渐进递归委派架构,将本地子目标与搜索模式绑定生成搜索节点,一体化实现任务拆解、分层拓展、多智能体协同;
- 设计网页结构探测引导递归拆分、同源子任务经验复用两套互补优化机制,降低工具调用冗余、提升子智能体检索可靠性;
- 在四大标准检索基准开展大规模对照、消融、泛化实验,完整验证WebSwarm在复杂网页调研任务上的性能优势。
1 引言
1.1 智能检索发展现状
LLM驱动网页智能体可自主完成多轮搜索、网页精读,支撑科研级深度调研,任务分为深度检索(多跳约束、隐藏实体推理)与广度检索(批量实体属性结构化采集)两类,现实任务大量存在二者嵌套交织的混合场景。
现有ReAct单智能体仅维持单条线性推理轨迹,任务深度、宽度提升后性能断崖式下滑;近年多智能体方案通过并行子任务提升覆盖,但普遍存在三大固有缺陷:
- 递归分层能力弱:仅能在根节点一次性拆解任务,多层嵌套需求只能塞入单个子智能体长轨迹,退化为单智能体模式;
- 协作模式固定:全局统一并行/串行调度,无法根据子任务瓶颈(实体枚举/多跳推理)自适应切换协同方式;
- 拆解脱离网页信息分布:仅依靠query字面语义拆分,忽略真实网页信息集中/分散分布特征,造成大量冗余检索、证据聚合困难。
1.2 WebSwarm核心思路
区别于执行前静态任务拆分、全局固定协同的传统多智能体,WebSwarm采用证据驱动渐进递归设计:
- 根节点接收原始用户任务,动态生成搜索节点;每个节点绑定子目标+专属搜索模式(atom/deep/wide/entity_collect);
- 节点可直接调用网页工具,或递归委派一批子智能体并行/串行执行,子任务结果向上回流作为上层决策依据;
- 增设网页探测智能体预分析信息分布,指导拆分维度;同类兄弟节点复用检索经验,减少重复试错;
- 四大搜索模式匹配四类任务瓶颈,自动适配深度推理、批量采集、实体枚举、简单事实查询不同场景。
1.3 论文整体结构
第2章梳理相关工作;第3章完整定义WebSwarm递归委派架构、搜索模式、双引导优化机制;第4章介绍评测基准、基线、完整实验结果(主实验、消融、难度分层、跨模型泛化);第5章分析框架局限性;第6章总结;附录包含伪代码、工具接口、完整实验脚本、案例流程。
2 相关工作
2.1 单智能体检索范式
ReAct是主流单轮推理+工具框架,在单一上下文内完成搜索、精读、推理,但长时序深度/广度任务上下文溢出、推理漂移严重,是本文主要对比基线。
2.2 多智能体检索系统
- Swarm-Agent:协调器动态创建子智能体,但仅根节点一层拆解,无递归分层;
- Flash-Searcher:基于依赖DAG组织子任务,缺少自适应协作模式切换;
- Table-as-Search:以表格填充作为全局状态,仅面向结构化广度任务,不支持深度推理;
- InfoSeeker:三层主-管理-工人分层,全局统一调度策略;
- ROMA:递归元智能体,但无网页信息感知与经验复用机制。
现有方案均缺少模式自适应递归拆分+网页分布感知+子任务经验复用三位一体设计。
2.3 检索优化辅助技术
- 网页结构分析类工作:仅用于检索召回,未嵌入多智能体任务拆分流程;
- 轨迹经验复用:多为跨任务预训练技能,本文限定同一任务同源兄弟节点内复用,保证评测样本独立性;
- 深度调研框架(MindSearch、WebThinker等):单智能体线性流程,无并行递归多节点调度。
3 方法:WebSwarm完整递归多智能体框架
3.1 基础定义
单智能体ReAct:输入任务q0q_0q0,交替执行search(查询)、fetch(url)工具,单条轨迹输出答案。
WebSwarm核心:推理过程动态构建递归委派树T=(V,E)\mathcal{T}=(\mathcal{V},\mathcal{E})T=(V,E),每个节点vvv为独立子智能体,携带本地目标qvq_vqv、搜索模式mvm_vmv;边(u,v)(u,v)(u,v)代表父节点向子节点委派任务。节点完成后向上返回证据集合RvR_vRv,上层根据回流结果决定继续递归或聚合输出。
3.2 四类标准化搜索模式
M={atom,deep,wide,entity_collect}\mathcal{M}=\{\textit{atom},\textit{deep},\textit{wide},\textit{entity\_collect}\}M={atom,deep,wide,entity_collect}
- atom(原子事实查询):基础单步检索,对应简化ReAct,用于单一确定事实快速查证;
- deep(深度推理模式):串行搜索器+校验器双循环,多跳隐藏实体推理;多条线索并行生成候选,独立校验器逐条核对全部约束;
- wide(广度并行采集):并行批量委派子节点采集实体属性,结果统一合并去重,支持嵌套deep/entity子节点;
- entity_collect(实体枚举模式):多路不同视角并行检索候选实体,合并、去重、低置信校验,平衡召回率与精确率,适配无固定实体集合场景。
3.3 递归委派流程
节点vvv根据当前子目标qvq_vqv、已有证据RvR_vRv判断是否需要拆分,生成一组「子目标-模式」委派对:
Cv={(qi,mi)}i=1nvC_{v}=\{(q_{i},m_{i})\}_{i=1}^{n_{v}}Cv={(qi,mi)}i=1nv
每一组对应新建子节点,执行完成后收集所有子结果合并至RvR_vRv;若证据充足执行聚合函数输出上层:
KaTeX parse error: Undefined control sequence: \textsc at position 7: r_{v}=\̲t̲e̲x̲t̲s̲c̲{Aggregate}(q_{…
采用自上而下委派+自下而上证据回流交替循环,任务拆解随检索证据逐步拓展,无需提前固定完整DAG。
3.4 两套引导优化机制
3.4.1 网页结构探测(Web-Probing)
广度类节点拆分前执行轻量化预检索,输出网页信息分布提示hvh_vhv:
KaTeX parse error: Undefined control sequence: \textsc at position 7: h_{v}=\̲t̲e̲x̲t̲s̲c̲{WebProbing}(q_…
提示包含信息集中/分散、组织维度(时间/品牌/地点),指导父节点选择拆分粒度:
- 信息集中在少量汇总页面:减少并行节点,优先页面内抽取;
- 信息按实体/时间分散:沿对应维度批量委派子节点;
显著降低search/fetch工具调用总次数。
3.4.2 同源子任务经验复用
wide模式常生成一批同类实体采集子节点,先执行少量侦察节点提取检索经验kvk_vkv(有效query模板、权威来源、无效检索路径),注入剩余兄弟节点上下文,避免重复试错:
- 抽取侦察节点轨迹τi\tau_iτi;
KaTeX parse error: Undefined control sequence: \textsc at position 7: k_{v}=\̲t̲e̲x̲t̲s̲c̲{ExtractExperie… - 剩余节点携带经验执行检索,稳定提升Item-F1指标;
仅同一父节点下同源子任务复用,不跨任务泄露信息,保证评测公平性。
3.5 WebSwarm推理完整伪代码
# Algorithm 1 WebSwarm 推理主流程defWebSwarm(user_task):root_node=CreateNode(local_obj=user_task)final_ans,full_trace=SolveNode(root,experience=None)returnfinal_ansdefSolveNode(v,k):res_set=[],full_trace=[]whilenotIsComplete(v.local_obj,res_set):# 按需执行网页探测获取分布提示ifNeedProbe(v):web_hint=WebProbing(v.local_obj)else:web_hint=None# 生成子任务委派集合child_delegations=Delegate(v.local_obj,v.mode,res_set,web_hint)# 侦察节点提取经验scout_subtasks=SelectScout(child_delegations)scout_res,scout_traces=RunChildren(v,scout_subtasks,exp=None)exp=ExtractExperience(scout_traces)# 执行剩余子节点并注入经验rest_subtasks=child_delegations-scout_subtasks rest_res,rest_traces=RunChildren(v,rest_subtasks,exp)# 汇总子结果res_set+=scout_res+rest_res full_trace+=scout_traces+rest_traces# 聚合当前节点全部证据向上返回agg_result=Aggregate(v.local_obj,res_set)returnagg_result,full_tracedefRunChildren(parent,child_list,exp):all_res=[],all_trace=[]forsubtask,modeinchild_list:child=CreateNode(subtask,mode)res,trace=SolveNode(child,exp)all_res.append(res)all_trace+=tracereturnall_res,all_trace4 实验设置与结果
4.1 评测基准
- BrowseComp-Plus:纯深度隐藏实体推理,指标ACC(答案等价准确率);随机采样200条样本;
- WideSearch-EN:批量实体结构化表格采集,指标SR(全表成功)、Row-F1、Item-F1;仅英文子集100条;
- DeepWideSearch-EN:深度推理+广度采集嵌套混合任务,表格类指标;英文子集76条;
- GISA:通用多格式检索(条目/集合/列表/表格),配套EM、Set-F1、List-F1、Table-F1。
4.2 基线方法
单智能体:ReAct(Kimi-K2、Qwen3.5-35B、Qwen3-235B、GLM-4.5四基座)
多智能体:Swarm-Agent、Flash-Searcher、Table-as-Search、InfoSeeker、ROMA
统一工具接口:Serper搜索API、Jina Reader网页精读API;最大动作步数200。
4.3 实验硬件与超参
推理引擎:SGLang;GPU:NVIDIA A800;LLM超参:temperature=0.6,top-p=0.95,top-k=20,重复惩罚1.0;
WebSwarm专属超参:entity_collect并行路径3条;每批同类子任务侦察节点数量2个。
4.4 主实验完整结果(GLM-4.5基座)
| 方法 | BrowseComp-Plus ACC | WideSearch | DeepWideSearch | GISA综合得分 | ||
|---|---|---|---|---|---|---|
| SR | Item F1 | SR | Item F1 | |||
| ReAct | 50.50 | 4.00 | 64.61 | 3.95 | 46.63 | 55.54 |
| Swarm-Agent | 64.50 | 6.00 | 68.79 | 1.32 | 51.41 | 57.05 |
| Flash-Searcher | 54.00 | 5.00 | 68.68 | 5.26 | 50.00 | 54.22 |
| Table-as-Search | 62.50 | 6.00 | 69.44 | 3.95 | 54.96 | 58.14 |
| ROMA | 42.50 | 5.00 | 67.19 | 2.63 | 50.56 | 57.57 |
| InfoSeeker | 59.50 | 4.00 | 71.91 | 2.63 | 55.10 | 58.99 |
| WebSwarm | 68.00(+17.5) | 7.00(+3) | 74.37(+9.76) | 6.58(+2.63) | 58.40(+11.77) | 62.30(+6.76) |
核心结论
- 纯深度任务(BrowseComp-Plus):WebSwarm相比ReAct提升17.5个点,深度串行校验模式显著提升多跳约束推理准确率;
- 纯广度任务(WideSearch):Item-F1提升9.76,网页探测减少冗余检索,经验复用提升实体采集精度;
- 深度广度混合(DeepWideSearch):Item-F1提升11.77,递归嵌套架构适配交替推理+采集流程;
- 通用混合GISA基准综合指标全面领先,复杂长尾任务增益最突出。
4.5 消融实验
消融1:递归架构与搜索模式
| 变体 | BrowseComp ACC | WideSearch Item F1 | DeepWide Item F1 |
|---|---|---|---|
| WebSwarm完整架构 | 68.00 | 74.37 | 58.40 |
| 移除递归(仅根节点拆分) | 63.50 | 68.38 | 55.79 |
| 全部强制wide模式 | 63.00 | 72.01 | 55.87 |
| 全部强制deep模式 | 67.50 | 69.94 | 54.51 |
| 结论:递归分层与任务匹配的搜索模式缺一不可,单一模式无法覆盖全部检索场景。 |
消融2:网页探测 / 经验复用机制
| 变体 | WideSearch Item F1 | 平均工具调用次数 | DeepWide Item F1 | 平均工具调用次数 |
| ---- | ---- | ---- | ---- |
| 完整WebSwarm | 74.37 | 137.03 | 58.40 | 203.73 |
| 移除Web-Probing | 74.90 | 239.90 | 58.93 | 331.39 |
| 移除经验复用 | 71.20 | 132.57 | 55.48 | 63.2 |
结论:网页探测不明显降低精度,但大幅减少搜索/精读调用开销;经验复用直接提升实体采集指标,二者互补。
4.6 任务难度分层分析
以ReAct基线效果划分Easy/Mid/Hard三级:
- 简单样本:WebSwarm小幅领先;
- 高难度长尾样本:优势爆发,BrowseComp-Hard基线0分,WebSwarm达到35.7;WideSearch-Hard从24.5提升至55.8;
- 资源自适应:简单任务控制工具开销,复杂任务自动增加检索预算,不会统一消耗过量算力。
4.7 跨基座泛化实验
| 基座 | 方法 | BrowseComp ACC | WideSearch Item F1 | DeepWide Item F1 |
|---|---|---|---|---|
| Qwen3-32B | ReAct | 12.00 | 29.11 | 20.53 |
| Qwen3-32B | WebSwarm | 19.50 | 34.47 | 25.54 |
| Qwen3.5-35B | ReAct | 56.50 | 64.82 | 52.46 |
| Qwen3.5-35B | WebSwarm | 61.00 | 75.91 | 58.34 |
| 结论:无论强弱基座,WebSwarm均可稳定提升检索性能;弱模型依靠分层递归补充推理结构,强模型通过探测+经验复用进一步压缩冗余检索。 |
5 局限性与未来拓展
5.1 现有局限
- 仅推理时调度优化,未做多智能体离线训练,节点拆分能力完全依赖基座LLM原生推理;
- 相比单ReAct,LLM与网页工具调用总量更高,推理延迟、算力开销更大;
- 仅面向纯文本网页检索,未支持图像、视频多模态网页信息处理。
5.2 未来工作
- 基于检索轨迹离线训练递归委派、模式选择策略;
- 拓展多模态网页探测与多模态子节点检索;
- 增加动态事件驱动的自适应侦察节点数量调度。
6 结论
本文提出WebSwarm渐进式递归多智能体检索框架,打破传统静态任务拆解、全局固定协同范式。通过「子目标-搜索模式」绑定动态生成递归节点,搭配网页结构探测、同源子任务经验复用两套优化机制,在深度、广度、混合检索四大基准上全面超越单/多智能体基线。消融、难度分层、跨模型实验完整验证各模块价值,为长时序复杂调研类LLM多智能体系统提供标准化实现方案。
资源下载汇总
- 论文HTML原文:https://arxiv.org/html/2607.08662v1
- 论文PDF:https://arxiv.org/pdf/2607.08662
- 完整开源代码、实验复现脚本、基准处理工具:https://github.com/songxiaoshuai/WebSwarm
- 附录材料:完整提示词模板、SGLang推理配置、四类任务完整案例、消融实验原始数据表
附录
附录A 完整提示词模板
- 根智能体系统提示:迭代拆解任务并分配对应搜索模式;
- 网页探测智能体提示:分析网页信息组织分布,输出拓展维度建议;
- 经验抽取提示:从多条子任务轨迹提取通用检索模板、有效数据源、无效路径。
附录B 工具接口完整配置
- Serper搜索API:每次返回Top5结果,输出标题/摘要/URL/时间;
- Jina Reader精读API:限制单页面80K token,LLM根据任务定向摘要页面内容;
- 工具调用脚本存放于开源仓库
tools/目录。
附录C 四大完整任务案例
- BrowseComp深度推理:多层search/verify循环定位隐藏人物;
- WideSearch商品采集:按品牌维度并行委派实体节点,合并生成规格表格;
- 泰勒巡演时间线:按巡演分支并行抓取场次,时序汇总;
- 汽车制造商混合任务:先deep识别厂商,再wide批量采集车型参数。
附录D 完整实验复现流程
- 环境依赖:SGLang、Serper/Jina API密钥、基准数据集;
- 启动命令(仓库scripts/run_exp.py);
- 消融实验一键脚本
ablation_run.sh; - 指标计算脚本
eval_metric.py,支持ACC/F1/SR批量统计。