Meta正加速研发新一代大语言模型,目标直指GPT-4级别,预计明年正式推出。根据外媒《华尔街日报》报道,Meta的新模型规模将比Llama 2扩大数倍,且大概率会延续开源策略,支持免费商用。自年初LlaMA意外泄露事件后,到7月Llama 2的正式开源,Meta逐渐确立了自己在AI开源社区中的领导地位。
年初,在OpenAI以GPT-4引爆科技行业后,谷歌与微软也相继发布AI产品。5月,美国监管层召集AI行业头部企业CEO召开圆桌会议,讨论技术发展,但Meta并未受邀。官方回应称:”只邀请行业最顶尖的公司。”尽管Meta错失良机,却不断遭遇挑战。6月初,国会直接向小扎发出质询信,要求解释3月LlaMA泄露事件。此后数月,即便Llama 2发布后,Meta重金打造的AI团队仍持续分崩离析。Llama 2致谢中提及的4位核心研究人员中,已有三位离职,仅剩Edouard Grave留任。业界大牛何恺明也宣布回归学术界。The Information最新爆料显示,MetaAI团队因内部算力资源争夺矛盾重重,人员流失严重。
在技术差距方面,小扎显然清醒地认识到Meta的大语言模型与GPT-4存在显著差距。无论是基准测试还是用户反馈,Llama 2与GPT-4的差距依然明显。网友实测也反复强调GPT-4在性能上领先Llama 2不少。面对这一局面,小扎选择继续深化开源路线。其战略逻辑可能在于:闭源模型难以与行业巨头抗衡,开源反而能借助社区力量扩大影响力。小扎多次公开表示,开源社区的迭代将启发Meta团队,助力未来开发更具竞争力的产品。他在Fridman播客中强调,开源能帮助Meta从社区汲取灵感,并暗示未来可能推出闭源模型。
这一策略已被证明行之有效。尽管算力与技术实力不及谷歌、OpenAI,但Meta的Llama 2等开源模型对社区仍具有强大吸引力。随着Llama 2成为AI开源社区的技术底座,Meta成功占据行业生态位。最直观的体现是,9月即将召开的国会AI闭门会议中,小扎终于与谷歌、OpenAI等巨头CEO同列,参与行业监管讨论。若明年新模型能实现与GPT-4持平的能力,一方面将缩小开源与闭源巨头的差距,印证”开源社区与行业最先进水平差距一年左右”的说法;另一方面,小扎曾透露若技术突破,Meta可能推出闭源模型。若新模型持续逼近行业SOTA水平,推出闭源模型的时机或许已不远。
尽管Meta在AI浪潮中暂时落后,但小扎的野心远不止追随者角色。在”AI三巨头”Yann Lecun的指导下,Meta正筹备颠覆行业。关于MetaAI的未来,可从首席科学家LeCun的态度窥见端倪。这位批评GPT发展路线的AI专家曾直言:”大型语言模型是通往人类级别AI的歪路。”他认为这类自回归概率生成模型最多存活五年,因它们仅基于文本训练,无法理解现实世界,缺乏计划与推理能力,本质上只是上下文学习工具。LeCun更期待通向AGI的”世界模型”,这种模型能像人类一样从观察中学习规律,适应新环境并掌握技能,而非依赖海量预训练数据。
与OpenAI专注LLM的策略不同,Meta正推动多样化模型开发。6月发布的”类人”AI模型I-JEPA,基于LeCun世界模型愿景,能理解图像抽象表征并获取常识,无需人工知识辅助。突破性语音生成系统Voicebox采用新方法流匹配,可合成六种语言并执行音频编辑操作。通用具身AI agents通过语言引导技能协调,能在预设环境中自由移动拾取。多模态模型ImageBind能整合六种模态信息,赋予机器全面理解能力。RoboAgent则让机器人获得非平凡技能并推广至数百生活场景。
对于最新爆料的模型,网友呼吁继续开源,也有人关注其2024年初的训练计划。但Meta释放的信号显示,将继续坚持开源战略。参考资料:https://www.wsj.com/tech/ai/meta-is-developing-a-new-more-powerful-ai-system-as-technology-race-escalates-decf9451?mod=followamazon本文为专栏作者授权微新创想发表,版权归原作者所有。文章系作者个人观点,不代表微新创想立场,转载请联系原作者。如有任何疑问,请联系http://www.idea2003.com/。
