Meta新实验室REFRAG技术让大模型RAG推理速度提升30倍

近日,Meta 公司正式宣布成立全新的超级智能实验室(Meta Superintelligence Labs,MSL),并发布了首篇具有里程碑意义的重要论文。该研究成果显著提升了大语言模型在检索增强生成(RAG)任务中的推理速度,实现了高达30倍的惊人提升。这篇题为《REFRAG:Rethinking RAG based Decoding》的论文,深入探讨了如何让大型语言模型在执行 RAG 任务时,能够快速精准地提炼关键信息,从而大幅减少计算量并缩短响应时间,同时确保输出结果的准确性。

Meta 超级智能实验室的成立,标志着公司在人工智能领域的战略布局迈出了关键一步。在当前竞争日益激烈的科技环境下,Meta 董事长扎克伯格展现出对 AI 技术发展的迫切决心。该实验室于今年6月正式落户加利福尼亚州门洛帕克,专注于研发前沿的超级智能技术。据内部消息,扎克伯格在4月份对 Meta 最新发布的 Llama4 模型表现并不满意,甚至亲自要求员工加班加点进行改进。这一压力促使他迅速成立了新实验室,并引进了包括 Scale AI 创始人 Alexandr Wang 在内的大量顶尖人才。

实验室内部设立了四大核心研究小组,分别负责大语言模型的研发、人工智能基础理论探索、产品技术落地以及基础设施保障。REFRAG 框架的提出,正是该实验室在优化大语言模型性能方面的突破性成果。其核心理念是通过一个轻量级模型将冗长的上下文内容压缩成精简摘要,从而显著减少解码器需要处理的输入信息量。这种方法不仅大幅提升了处理速度,还有效降低了计算成本,实现了模型效率的飞跃。

Meta新实验室REFRAG技术让大模型RAG推理速度提升30倍插图1

研究团队还创新性地采用了“持续预训练”技术,通过重建任务训练模型,在压缩信息的同时最大限度地保留关键细节。经过全面的多任务测试,REFRAG 表现出卓越的性能,尤其在时间延迟和吞吐量方面实现了革命性提升。实验数据显示,在压缩比达到16倍的情况下,REFRAG 的处理速度不仅超越了此前最先进的 CEPE 模型,而且在准确性上几乎未受影响。

这一创新成果为 Meta 在人工智能领域的发展注入了强劲动力,同时也彰显了其在提升大模型推理效率方面的远见卓识。论文链接:https://arxiv.org/abs/2509.01092

划重点:
🌟 Meta 成立超级智能实验室,彰显其在 AI 领域的战略雄心。
⚡ 新论文《REFRAG》实现 RAG 推理速度30倍提升,开创效率革命。
🚀 REFRAG 框架通过智能信息压缩技术,同步提升大语言模型的处理速度与准确性。

最新快讯

2025年11月28日

20:02
2025年11月28日,长安汽车宣布拟以自有资金2.25亿元参与设立长安机器人公司。该公司由长安汽车、中国长安、辰致科技及长安科技共同出资,注册资本4.5亿元,长安汽车持股50%。新公司将聚焦智能人形机器人技术,发展多机器人产业板块,定位为长安集团机器人战略承载主体。通过具身智能产品研发,推动汽车与机器人双向赋能,助力汽车产业升级,目标成为世界一流机器人服...
20:02
2025年11月28日,Meta旗下Instagram宣布推出本地化语音翻译及字体功能。该功能面向全球创作者,旨在帮助其内容更便捷地触达多语言用户群体。通过自动翻译语音内容并适配本地化字体显示,创作者可提升在非英语市场的传播效果。此举进一步强化了Instagram对全球化内容生态的支持,降低跨语言交流门槛,助力用户拓展国际影响力。
20:02
2025年11月28日,安世中国发布声明,要求安世荷兰就控制权问题与相关方展开真诚磋商。声明指出,当前供应链混乱主因在于荷方不当行为,安世荷兰应立即停止在马来西亚等地的海外扩产计划,尊重全球产业分工,摒弃替代中国产能意图。同时,要求其恢复向安世中国供应必需晶圆,支付拖欠款项,保障员工权益与企业正常运营。安世中国还要求终止对供应商的压迫行为,撤销阻止供应商供...
20:02
2025年11月28日,中国巨石公告称,股东振石集团计划增持公司股份。振石集团目前持股16.88%,拟通过自有及专项贷款资金,以不低于5.5亿元、不超过11亿元的金额逐步实施增持。本次增持旨在表达对公司未来发展的信心。具体实施将根据市场情况择机进行。
20:02
2025年11月28日,在北京举行的2025数据要素发展大会上,中国信通院发布《数据要素发展报告(2025年)》。报告指出,当前数据基础制度与现有体系衔接不畅,技术产业缺乏规模化突破。为激发数据要素活力,需加快细化容错免责实施办法,探索建立负面清单制度,明确禁止性数据范围,破除显性和隐性壁垒。报告建议聚焦数据基础设施建设,提升企业数据管理能力,推动数据要素...
19:01
2025年11月28日,胜科纳米正式宣布一项重大战略布局,其全资子公司青岛胜科计划投入约5亿元人民币,全力推进“青岛检测分析能力提升建设项目”。这一举措标志着胜科纳米在半导体检测与分析领域的深度拓展,旨在通过技术升级和产能扩张,进一步巩固其在第三方检测服务市场的领先地位。 该项目投资主体为青岛胜科或其关联企业,建设地点选址于青岛这一重要的科技创新中心。据...
19:01
2025年11月28日,中国创新药企贝达药业传来振奋人心的消息,其自主研发的盐酸恩沙替尼胶囊上市许可申请已成功获得欧洲药品管理局(EMA)的正式受理。这款备受瞩目的靶向药物,专为治疗间变性淋巴瘤激酶(ALK)阳性的非小细胞肺癌患者设计,此次获得EMA受理标志着其进军欧洲市场的关键一步,有望为欧洲患者带来全新的治疗希望。 该药物的申请材料基于一项全球多中心II...
19:01
2026年初,备受期待的M&M'S全新门店即将在上海迪士尼度假区迪士尼小镇盛大启幕。这家标志性门店坐落于迪士尼小镇入口附近黄金位置,将为游客提供集购物、餐饮与娱乐体验于一体的全方位休闲空间。玛氏中国官方宣布,此次新店开业将是品牌在中国市场战略布局的重要里程碑。据悉,新门店将精心打造沉浸式品牌体验空间,通过创新设计、互动装置和特色活动,让消费者深度感受...
19:01
2025年第三季度,美团核心本地商业分部遭遇了前所未有的经营困境,实现经营亏损高达141亿元人民币,较去年同期由盈转亏的局面形成鲜明对比。回顾去年同期,该分部曾实现经营溢利146亿元,经营利润率维持在令人羡慕的21.0%水平。然而,本季度这一数据急转直下,不仅扭亏为盈,反而跌至-20.9%的亏损区间,利润率大幅下滑41个百分点。 造成这一结果的主要原因是多方...
19:01
2025年11月28日,中国生物科技企业海特生物迎来重大突破,其参股公司研发的创新眼用注射液ZM-02正式获得美国食品药品监督管理局(FDA)的临床试验批准。这一里程碑事件不仅彰显了ZM-02的卓越研发潜力,更标志着该产品迈向国际化的关键一步。据悉,ZM-02将在美国境内开展严谨的临床试验,全面评估其在治疗各类眼部疾病方面的安全性与有效性。作为该项目的参股方...
19:01
2025年11月28日,医药企业泰恩康迎来重大突破,其全资子公司正式获得国家药品监督管理局颁发的巴瑞替尼片药品注册证书。这一里程碑事件不仅意味着该创新药物即将进入临床应用阶段,更标志着泰恩康在自身免疫疾病治疗领域迈出了关键一步。据悉,巴瑞替尼片作为一款口服JAK抑制剂,凭借其强大的抗炎特性,被批准用于治疗中重度斑秃及类风湿关节炎两大高发性自身免疫疾病。此次成...
19:01
首旅如家近日宣布与云迹科技达成战略合作,在上海等一线城市的多家门店成功引入煮面机器人,正式开启餐饮智能化升级新篇章。此次合作的核心目标在于全面升级旗下特色服务「如家这碗面」,通过引入自动化煮面机器人,显著提升早餐服务的餐饮效率与标准化水平,为消费者带来更稳定、更高效的用餐体验。 据悉,这款煮面机器人能够全流程自动化完成从取面、煮面到加汤等关键步骤,其卓越性能...