加利福尼亚的科技创新前沿再添新势力,Nucleus AI这家由亚马逊与三星研究精英联合打造的初创公司,近日震撼发布了一款参数高达22亿的大规模语言模型(LLM),为农业领域的AI转型注入强劲动力。这款模型不仅支持开源MIT许可和商业许可的双重使用模式,更凭借其卓越的通用性能,在13B与34B模型之间脱颖而出,能够灵活应对各类生成任务并进行深度产品微调。Nucleus AI团队强调,该模型在性能表现上已超越同等规模的其他同类模型,将有力推动其将AI技术深度应用于农业革命的宏伟目标。
Nucleus AI首席执行官Gnandeep Moturi在发布会上表示:”我们首先推出220亿参数的转换器模型,随后将在两周内推出革命性的RetNet模型,后者将在计算成本和推理速度上实现突破性进展。”这款22B模型经过约三个半月的精心训练,借助早期投资者提供的强大计算资源,并整合了现有研究成果与开源社区智慧。团队通过预训练技术,使模型上下文长度达到2048个标记,并基于万亿级数据的深度训练,包括大规模去重和清洗的网络数据、维基百科、Stack Exchange、arXiv以及代码库信息,构建起涵盖通用知识、学术研究到编程实践的全面知识体系。
未来,Nucleus AI计划陆续推出更多升级版22B模型,分别基于3500亿和7000亿标记数据训练,同时将推出两个参数为30亿和110亿的RetNet模型,这些新模型将在4096个标记的更长上下文长度上进行预训练。内部测试显示,这些优化后的模型在运算速度上提升高达15倍,仅需传统变换器模型四分之一的GPU内存,完美融合了循环神经网络与变换器神经网络的架构优势,在性能与成本控制上实现革命性突破。
与其他专注于企业应用的LLM公司如OpenAI、Anthropic和Cohere不同,Nucleus AI将目光投向了更广阔的农业领域。公司描绘了一幅智能农业操作系统的宏伟蓝图,旨在通过AI技术构建类似Uber的出租车调度系统,实现农业供需关系的精准优化。这一创新举措将有效应对气候变化、知识匮乏、供应链优化和物流维护等多重农业挑战。Moturi进一步阐释:”我们正在打造一个智能市场生态系统,通过高度优化的供需匹配机制,帮助农民减少不确定性,提升生产效率。”
Nucleus AI团队表示,尽管面临诸多挑战,但他们坚信通过持续深耕开源社区,将语言模型作为市场核心驱动力,终将实现这一农业革命愿景。本月稍晚,公司还将公布更多关于面向农业的智能操作系统和RetNet模型的详细技术方案。这一系列创新举措标志着AI技术在农业领域的应用进入全新阶段,预示着未来农业生产的智能化转型将加速到来。