阿里开源WebWatcher多模态智能体突破研究瓶颈

阿里巴巴自然语言处理团队正式发布WebWatcher,一款突破性的开源多模态深度研究智能体,旨在打破当前闭源系统与开源Agent在多模态深度研究领域的局限。这款创新工具通过整合网页浏览、图像搜索、代码解释器和内部OCR等多种先进工具,能够像人类研究员一样高效处理复杂的多模态任务,展现出卓越的视觉理解力、逻辑推理能力、知识调用能力、工具调度能力和自我验证能力。

尽管市面上已有如OpenAI的DeepResearch等闭源系统在文本深度研究方面表现优异,但它们大多局限于纯文本环境,难以应对现实世界中包含图像、图表和混合内容的复杂场景。而现有的开源Agent也面临两大明显瓶颈:一类是专注于文本检索的Agent,虽能整合信息,却无法处理图像;另一类是视觉Agent,虽能识别图像,却缺乏跨模态推理和多工具协同能力。WebWatcher正是为解决这些瓶颈而精心设计的。

WebWatcher的技术方案覆盖了从数据构建到训练优化的完整链路,其核心目标在于让多模态Agent在高难度多模态深度研究任务中实现灵活推理和多工具协作。为此,研究团队构建了一个全自动多模态数据生成流程,通过随机游走收集跨模态知识链,并引入信息模糊化技术,有效提升任务的不确定性和复杂性。所有复杂问题样本均通过QA-to-VQA转换模块扩展为多模态版本,进一步强化模型的跨模态理解能力。

在高质量推理轨迹构建与后训练方面,WebWatcher创新性地采用了Action-Observation驱动的轨迹生成方法。通过收集真实的多工具交互轨迹并进行监督微调(SFT),模型能在训练初期快速掌握多模态ReAct式推理和工具调用的基本模式。随后,模型进入强化学习阶段,通过GRPO进一步提升多模态Agent在复杂环境下的决策能力。

阿里开源WebWatcher多模态智能体突破研究瓶颈插图1

为全面验证WebWatcher的卓越能力,研究团队推出了BrowseComp-VL,这是BrowseComp在视觉-语言任务上的重要扩展版本,旨在逼近人类专家的跨模态研究任务难度。在多轮严格评测中,WebWatcher在复杂推理、信息检索、知识整合以及聚合类信息寻优等关键任务上全面超越当前主流的开源与闭源多模态大模型。

具体表现方面,在人类终极考试(Humanity’s Last Exam,HLE-VL)这一多步复杂推理基准上,WebWatcher以13.6%的Pass@1分数强势夺冠,大幅领先于GPT-4o(9.8%)、Gemini2.5-flash(9.2%)和Qwen2.5-VL-72B(8.6%)等顶尖模型。在更贴近真实多模态搜索的MMSearch评测中,WebWatcher的Pass@1得分高达55.3%,显著超越Gemini2.5-flash(43.9%)和GPT-4o(24.1%)。在LiveVQA评测中,WebWatcher的Pass@1成绩达到58.7%,同样领先于其他主流模型。而在最具综合挑战的BrowseComp-VL基准上,WebWatcher以27.0%的平均得分(Pass@1)遥遥领先,成绩提升超过一倍。

WebWatcher的完整代码和资源已开源,欢迎开发者访问仓库地址:https://github.com/Alibaba-NLP/WebAgent。这一突破性成果不仅为多模态深度研究领域带来了新的可能性,也为人工智能技术的实际应用开辟了更广阔的前景。

最新快讯

2025年08月19日

07:46
2025年8月19日,记者深入市场调研发现,尽管新能源汽车保费较去年同期呈现明显下降趋势,但与同价位的燃油车相比,其保险费用依然居高不下。这一现象反映出新能源车险市场在价格竞争中仍面临较大压力。目前,新能源车险业务整体处于亏损状态,多数保险公司正承受着综合成本率难以跌破100%的严峻挑战。业内专家分析指出,随着新能源汽车市场逐渐成熟,保险公司定价能力的提升以...
07:46
2025年8月19日,全球科技巨头软银集团与英特尔正式宣布达成一项总额高达20亿美元的战略投资协议。根据协议条款,软银将以每股23美元的固定价格增持英特尔普通股,此举不仅将显著增强双方在半导体领域的协同效应,更标志着软银在全球科技产业版图上的重要布局升级。作为全球最大的半导体制造商之一,英特尔此次获得软银的巨额资金支持,将为其前沿技术研发注入强劲动力,特别是...
07:46
2025年8月19日,北京时间,一项突破性科研进展震惊了全球生物医学领域。美国哈佛大学Wyss研究所与哈佛医学院的联合研究团队首次在体外实验中成功引导人类诱导多能干细胞(iPSC)启动减数分裂,这一过程正是形成健康生殖细胞的核心环节。该研究成果以封面文章形式发表于国际顶级期刊《科学进展》,不仅为人类生殖发育机制的研究开辟了全新视角,更为攻克不孕症这一医学难题...
07:46
英国国家物理实验室的研究团队近日取得重大突破,成功开发出具有创纪录时间分辨率的超高精度单电子探测技术,其时间精度已达到皮秒级。这一突破性成果已发表在最新一期的《物理评论快报》上,为新一代量子设备的研发奠定了坚实的技术基础。该技术的问世不仅标志着单电子探测领域的新里程碑,更预示着量子计算和精密测量领域将迎来革命性变革。由于单电子探测技术能够实现对单个电子的精确...
07:46
韩国釜山大学与日本北海道大学联合科研团队近日取得重大突破,成功研发出一种具有革命性特性的新型晶体材料。这种材料能够在温和的温度条件下实现氧气的可逆吸收与释放,其独特机制被形象地称为"仿生呼吸"。这一创新成果不仅为清洁能源技术带来了新的发展机遇,更在材料科学领域树立了新的里程碑。研究成果已正式发表在最新一期的国际顶级期刊《自然·通讯》上。 该晶体材料的突破性在...
07:46
8月19日人民财讯报道,国际油价在18日迎来显著上涨。受多重因素影响,纽约商品交易所9月交货的轻质原油期货价格大幅攀升62美分,最终收报每桶63.42美元,当日涨幅达到0.99%。与此同时,伦敦布伦特原油期货价格也表现强劲,上涨75美分,收至每桶66.60美元,涨幅高达1.14%。这一轮油价上涨反映出全球能源市场正在经历重要变化,投资者密切关注供需关系及地缘...
07:07
近期多家量化私募机构纷纷接待海外投资者的调研活动,这一现象清晰地反映出国际资本对中国资产配置的浓厚兴趣正持续升温。据8月19日最新消息透露,多家全球知名主权基金已将目光聚焦于中国创新药、高科技等具有核心竞争力的战略性产业板块。业内资深人士指出,随着全球市场格局的演变,国际资本正积极酝酿新一轮配置,将中国的新兴产业与核心技术领域视为未来重要的"核心资产"增长点...
07:07
2025年8月19日,备受瞩目的特殊目的收购公司American Exceptionalism正式向美国证券交易委员会递交了首次公开募股(IPO)申请,计划通过此次发行筹集高达2.5亿美元的资金,为未来的企业发展奠定坚实基础。在此次关键融资行动中,社会资本合伙人(Social Capital Partners LLC.)的CEO兼联合创始人Chamath P...
07:07
2025年8月19日,美国联邦贸易委员会(FTC)正式向马里兰州联邦法院提起诉讼,指控票务转售巨头Key Investment Group涉嫌系统性地规避购票平台限制,利用先进技术手段大规模囤积热门演出门票。此次诉讼的核心指控涉及该公司操纵市场,以远超面值的价格转售包括泰勒·斯威夫特"时代巡回演唱会"在内的多场高热度演出门票,严重损害了消费者权益。FTC在诉...
07:07
截至8月18日,今年权益类基金整体表现亮眼,超96%的基金实现正收益,市场赚钱效应显著。其中,更有20余只基金年内业绩实现翻倍,展现出惊人的增长潜力;超过千只基金的收益超过30%,为投资者带来了丰厚的回报。偏股基金指数表现尤为突出,创下近3年新高,2000余只基金净值在8月纷纷创下历史新高,市场整体呈现强劲上涨态势。 分析人士指出,流动性充裕和企业盈利修复是...
07:07
8月18日收盘时分,纽约金融市场传来比特币期货的波动消息。CME比特币期货BTC主力合约当日收跌0.46%,最终报收于11.7万美元。值得注意的是,在亚太交易时段初,该合约曾一度强势冲高至11.8万美元上方,显示出市场的短暂乐观情绪。然而好景不长,随后价格迅速承压下挫,北京时间17:27时更是跌破11.5万美元整数关口,刷新当日最低点,反映出市场风险偏好明显...
07:07
2025年8月18日,在纽约外汇市场收盘之际,美元兑日元汇率录得显著上涨,涨幅达到0.40%,最终报收于147.77日元。当日,该货币对的交易区间主要在147.05日元至147.99日元之间波动。值得注意的是,在北京时间19:00之前,汇率呈现低位震荡态势,但随后动能明显增强。最终,在23:09分,汇率成功突破当日高点,标志着市场情绪的积极转变。这一波动不仅...