MLPerf最新GPT大模型推理测试结果揭晓,墨芯人工智能S30计算卡再次以绝对优势夺冠。在单卡、4卡、8卡配置的GPT-J大模型推理性能测试中,墨芯S30均斩获第一。这已是墨芯人工智能在MLPerf测试中连续两届实现三连冠的辉煌成就。
墨芯人工智能凭借其独创的双稀疏算法与硬件协同设计技术,在60亿参数GPT-J模型上实现了突破性性能提升。测试结果显示,墨芯S30的性能高达4nm制程英伟达H100的1.8倍,这一惊人成绩充分证明稀疏计算技术是大模型时代算力发展的关键路径。通过有效减少模型计算量,稀疏计算技术能够从根本上缓解算力需求激增和功耗过大的行业痛点,为大模型在参数量层面的飞跃式发展提供可能。
微新创想(idea2003.com)9月15日 消息:墨芯人工智能已推出支持多种大模型的AI计算平台,该平台以卓越的性能和高效的运算能力著称。业界权威人士认为,墨芯等稀疏计算技术的创新突破,将引领大模型应用向各行各业深度渗透。MLPerf的优异测试成绩不仅是对墨芯产品实力的权威认证,更印证了稀疏计算技术将推动大模型算力实现革命性变革的巨大潜力。