Meta新实验室REFRAG技术让大模型RAG推理速度提升30倍

近日,Meta 公司正式宣布成立全新的超级智能实验室(Meta Superintelligence Labs,MSL),并发布了首篇具有里程碑意义的重要论文。该研究成果显著提升了大语言模型在检索增强生成(RAG)任务中的推理速度,实现了高达30倍的惊人提升。这篇题为《REFRAG:Rethinking RAG based Decoding》的论文,深入探讨了如何让大型语言模型在执行 RAG 任务时,能够快速精准地提炼关键信息,从而大幅减少计算量并缩短响应时间,同时确保输出结果的准确性。

Meta 超级智能实验室的成立,标志着公司在人工智能领域的战略布局迈出了关键一步。在当前竞争日益激烈的科技环境下,Meta 董事长扎克伯格展现出对 AI 技术发展的迫切决心。该实验室于今年6月正式落户加利福尼亚州门洛帕克,专注于研发前沿的超级智能技术。据内部消息,扎克伯格在4月份对 Meta 最新发布的 Llama4 模型表现并不满意,甚至亲自要求员工加班加点进行改进。这一压力促使他迅速成立了新实验室,并引进了包括 Scale AI 创始人 Alexandr Wang 在内的大量顶尖人才。

实验室内部设立了四大核心研究小组,分别负责大语言模型的研发、人工智能基础理论探索、产品技术落地以及基础设施保障。REFRAG 框架的提出,正是该实验室在优化大语言模型性能方面的突破性成果。其核心理念是通过一个轻量级模型将冗长的上下文内容压缩成精简摘要,从而显著减少解码器需要处理的输入信息量。这种方法不仅大幅提升了处理速度,还有效降低了计算成本,实现了模型效率的飞跃。

Meta新实验室REFRAG技术让大模型RAG推理速度提升30倍插图1

研究团队还创新性地采用了“持续预训练”技术,通过重建任务训练模型,在压缩信息的同时最大限度地保留关键细节。经过全面的多任务测试,REFRAG 表现出卓越的性能,尤其在时间延迟和吞吐量方面实现了革命性提升。实验数据显示,在压缩比达到16倍的情况下,REFRAG 的处理速度不仅超越了此前最先进的 CEPE 模型,而且在准确性上几乎未受影响。

这一创新成果为 Meta 在人工智能领域的发展注入了强劲动力,同时也彰显了其在提升大模型推理效率方面的远见卓识。论文链接:https://arxiv.org/abs/2509.01092

划重点:
🌟 Meta 成立超级智能实验室,彰显其在 AI 领域的战略雄心。
⚡ 新论文《REFRAG》实现 RAG 推理速度30倍提升,开创效率革命。
🚀 REFRAG 框架通过智能信息压缩技术,同步提升大语言模型的处理速度与准确性。

最新快讯

2025年11月28日

18:28
全球人工智能领域最具影响力的顶级会议 NeurIPS 2025 的获奖名单于今晚重磅揭晓,阿里巴巴通义千问团队凭借其突破性研究成果《Attention Gating Makes Better Foundation Models》一举斩获最佳论文奖,成为本届大会四篇获奖论文中唯一代表中国科技力量的团队。这一成就不仅彰显了我国人工智能技术的领先水平,更在全球范围...
18:28
摩根士丹利最新发布的一份深度研报揭示了谷歌在人工智能芯片领域的重大战略布局:公司已制定出详细的TPU(张量处理单元)对外销售计划。根据这份报告,谷歌计划在2027年实现100万颗TPU的出货量,这一庞大数字中,仅50万颗即可为其云业务贡献约130亿美元的增量收入,相当于谷歌整体云收入的11%,同时有望将每股收益(EPS)提升约3个百分点。 这一消息一经传出,...
18:28
亚洲企业在人工智能领域的战略布局正在迎来历史性变革据 Diligent Institute 与新加坡董事协会(SID)及澳大利亚治理协会(GIA)联合发布的《亚太治理展望 2026》报告显示亚洲企业正将人工智能(AI)置于未来战略的核心位置面对日益严峻的经济与地缘政治挑战近48%的治理领导者将AI应用列为2026年首要战略任务这一比例甚至超过了对增长机会的追...
18:28
谷歌近期宣布对其最新 AI 工具 Gemini 3 Pro 及图像生成工具 Nano Banana Pro 的免费用户使用权限实施进一步调整。这一举措主要源于用户需求的急剧增长给谷歌系统带来了显著的压力。自这两款产品正式上线以来,用户们对其强大的功能表现出了前所未有的热情和高度关注。 最初,谷歌为免费用户设定的使用限额相对宽松。Gemini 3 Pro 的免...
18:28
阿里通义重磅推出全新生图模型 Z-Image,一经发布便引发广泛关注,首日下载量突破50万次,强势登顶Hugging Face趋势榜。这款创新模型以仅6亿参数的精巧规模,实现了令人惊叹的照片级真实感,能够精准捕捉皮肤细腻质感、发丝纤毫之末,以及自然光影与材质纹理的微妙变化,展现出卓越的美学表现力与构图氛围。 Z-Image特别推出优化版本Z-Image-Tu...
18:28
快手重磅发布新一代旗舰多模态模型Keye-VL-671B-A37B,并同步开源代码,标志着公司在人工智能领域的技术实力再攀新高峰。这款模型凭借其卓越的“善看会想”能力,在通用视觉理解、视频分析及数学推理等多项核心benchmark测试中表现惊艳,充分展现了快手在AI领域的深厚积累与创新实力。 Keye-VL-671B-A37B的设计理念聚焦于实现更高层次的多...
18:27
2025年11月28日,南网能源正式发布公告,宣布其全资子公司广州公司将通过北京产权交易所,公开挂牌转让位于海南省三沙市永兴岛的集中供冷项目资产。这一重要决策标志着南网能源在资产优化和运营效率提升方面迈出了关键一步。据悉,此次转让的底价将不低于经专业评估的标的资产价值,最终成交价格及交易对手方将由产权交易所的公开竞价结果决定。通过此次资产转让,南网能源有望进...
18:27
2025年11月28日,一项针对Windows 11预览版中“文件资源管理器后台预加载”功能的专项测试揭示了其在性能优化方面的双重影响。该功能旨在通过在系统启动前预先加载数据来缩短资源管理器的冷启动时间,从而提升整体使用效率。测试结果显示,该功能确实能够有效减少约数秒的启动延迟,但在高负载环境下,用户仍会遭遇右键菜单响应迟缓的困扰,未能完全解决这一长期存在的...
18:27
2025年11月28日,利君股份正式发布重要公告,宣布其全资子公司利君控股与全球知名企业GRANDWAY成功达成高压辊磨机买卖合同,交易金额高达5760.7728万美元,折合人民币约4.08亿元。这一重大合作项目不仅彰显了利君控股在重型工业设备领域的强大竞争力,更标志着公司业务版图迈向国际化新台阶。 此次交易中,利君控股将全面负责设备的供应、先进技术的输出以...
18:27
2025年11月28日,行业内部消息显示,中国汽车巨头一汽集团入股零跑汽车的战略合作已进入最后阶段,预计将在今年内正式完成签约仪式,初步持股比例约为5%。这一消息在汽车界引发广泛关注,尽管零跑汽车董事长朱江明此前公开否认了被一汽收购的传闻,但他同时也确认了双方正在积极探讨股权层面的合作可能性。朱江明强调,零跑汽车的创始团队将始终保持对公司的实际控制权,而一汽...
18:27
11月24日,清洁能源领域的领军企业Powertrust正式宣布与全球科技巨头微软达成战略合作,双方将携手在墨西哥和巴西这两个重要市场,共同推进270兆瓦分布式太阳能项目的建设与运营。根据协议,该项目将在未来四年内分阶段完成,为当地社区提供稳定可靠的绿色电力解决方案。 此次合作的核心亮点在于微软将系统性采购该项目产生的全部可再生能源证书(REC),这不仅...
18:27
2025年11月28日,专注于机器人数据管理技术的创新企业Neuracore成功斩获300万美元种子轮融资,其中Earlybird Venture Capital作为领投方展现了对其发展潜力的坚定信心。作为行业领先的云原生平台提供商,Neuracore致力于解决机器人研究领域长期存在的核心数据管理难题,通过构建智能化、自动化的数据管理解决方案,显著提升了科研...