微新创想8月22日讯 谷歌近日发布了一份备受瞩目的技术报告,详细披露了其Gemini大模型在处理每次查询时的能源消耗情况。这份报告不仅标志着大型人工智能公司透明度的一次重大突破,也满足了研究人员长期以来的期待。报告数据显示,Gemini模型在生成文字回答时,平均每次查询仅需0.24瓦特小时(Wh)的能量,这一数值大约相当于运行微波炉一秒钟所消耗的能量,同时产生的碳排放仅为0.03克二氧化碳当量。
值得关注的是,谷歌近期还推出了Gemini系列中最轻量级的版本——Gemma 3 270M。这款模型拥有2.7亿参数量,专为端侧部署设计,具备出色的指令遵循和文本结构化能力。Gemma 3系列目前包含五种不同规模的模型,分别为270M、1B、4B、12B和27B。在Q4_0量化格式下,这些模型的RAM内存需求分别为240MB、892MB、3.4GB、8.7GB和21GB,其中Gemma 3 270M在Pixel 9 Pro手机上运行25轮对话时,仅消耗了0.75%的电量,展现出极高的能效表现。
Gemma 3 270M特别适用于高频率、任务明确的场景,能够高效处理个人隐私信息,如情感分析、实体识别和人生规划等任务。此外,该模型还非常适合开发专用小型模型,为用户提供了更多灵活的选择。为了帮助开发者更好地利用这一模型,谷歌还同步提供了微调教学资源,包含基于Hugging Face Transformers的全模型训练流程,支持分类、信息抽取、情感分析等任务的定制化开发。这些资源将极大地方便开发者根据实际需求调整模型功能,推动人工智能技术的创新应用。