美团 LongCat 团队近日重磅发布了一项创新性评测基准——VitaBench,专为多交互任务设计,尤其聚焦于复杂生活场景的实际应用。这一重要基础设施的推出,为智能体在真实环境中的研发提供了关键支撑,标志着智能体技术迈向实用化的重要一步。
VitaBench 精准定位外卖点餐、餐厅就餐和旅游出行等高频真实场景,构建了一个包含66个工具的交互式评测环境。评测任务设计覆盖了从购票到餐厅预订等一系列复杂操作,要求智能体在任务执行过程中展现出深度推理、工具调用与用户互动的综合能力。尽管当前领先的推理模型已取得显著进展,但 LongCat 团队的研究数据显示,智能体在复杂跨场景任务中的成功率仍不足30%,凸显出技术与实际应用需求之间的巨大鸿沟。VitaBench 的问世正是为了填补这一空白,为智能体评测领域树立新标杆。
该基准的设计基于对推理复杂性、工具复杂性和交互复杂性的三维深度分析。团队通过将这些维度进行量化,系统化地衡量智能体在真实场景中的表现。具体而言,推理复杂度主要通过信息整合需求、观察空间大小以及所需处理推理点的数量来评估;工具复杂度则综合考虑工具的依赖关系与调用链长度;交互复杂度则重点关注智能体在多轮对话中的应变能力。这种多维度的评测体系,能够更全面地反映智能体在真实场景中的实际表现。
VitaBench 的构建过程分为两个关键阶段:首先是框架设计工具定义,其次是任务创建与评估标准制定。这一严谨的流程确保了任务的多样性和复杂性,同时突破了传统文档模式的局限性,使智能体能够在没有冗余规则的情况下,自主进行推理和决策,更贴近真实应用场景。
目前,VitaBench 已全面开源,研究人员和开发者可通过其官方网站和 GitHub 平台免费访问相关资源。这一开放姿态将极大地促进智能体技术的交流与合作,加速其在真实生活场景中的应用与发展。VitaBench 的发布不仅标志着智能体评测领域的重要里程碑,更预示着智能体技术将迎来新一轮的突破与创新。
项目主页:https://vitabench.github.io
论文链接:https://arxiv.org/abs/2509.26490
代码仓库:https://github.com/meituan-longcat/vitabench
数据集:https://huggingface.co/datasets/meituan- longcat/VitaBench
排行榜:https://vitabench.github.io/#Leaderboard