微新创想(Idea2003.com) 7月7日讯 日本电气株式会社，简称日电或NEC，作为一家总部位于东京港区的跨国信息技术巨头，自1983年从”Nippon Electric Company，Limited”更名为NEC以来，始终致力于为商业企业与通信服务领域提供尖端的信息技术及网络产品。作为住友集团的重要成员，NEC凭借其深厚的技术积累，在全球范围内建立了广泛的业务网络。
今年六月，日本NEC公司社长森田隆之公开表示，公司正在积极研发能够自动生成精巧文章与图像的生成式人工智能（AI），计划以创新服务形式推向市场。7月6日，NEC正式宣布将于本月启动面向日本市场的生成AI服务，该服务将提供高度定制化的解决方案。据悉，这项生成AI服务包含经过日语优化的超大规模语言模型（LLM），NEC将其命名为”NEC Generative AI Service”。
为全方位支持客户需求，NEC特别组建了专业的NEC Generative AI Hub团队，配备提示工程师、咨询顾问及数据科学家等多领域人才，旨在助力公司业务增长并为客户提供卓越的生成AI服务体验。此外，NEC还推出了”NEC Generative AI Framework”软件解决方案，内置提示模板、问答强化及模型切换等实用功能，可根据客户需求灵活选择”微软Azure OpenAI Service”或NEC自主研发的LLM。
在服务架构方面，NEC通过与微软的全球战略联盟，依托位于NEC印西数据中心的核心基础设施，通过”Microsoft Azure ExpressRoute”网络提供高效服务。结合NEC的LLM、NEC Generative AI Framework以及可在本地部署的”NEC Generative AI Appliance Server”硬件设施，能够构建低延迟且高安全性的LLM应用环境。
值得一提的是，NEC专门针对日本市场开发了日语优化的LLM。根据日本语言理解基准测试（JGLUE）的权威评估，该模型在知识问答环节表现优异，准确率达81.1%，在文档阅读理解方面更是达到84.3%，在全球范围内属于顶尖水平。相较于海外同类顶级LLM动辄1750亿参数的庞大规模，NEC的LLM经过创新性轻量化设计，参数规模仅为130亿，却展现出惊人的性能表现。过去需要8块GPU才能驱动的高性能LLM，在NEC的轻量化模型中，仅需单块GPU即可流畅运行，不仅显著提升了业务响应速度，更有效降低了电力消耗与服务器成本。这种高度灵活的本地部署方案，特别适合对机密性要求极高的业务场景，同时也为快速创建定制化LLM模型提供了可能。
在内部应用方面，NEC已将LLM技术广泛应用于文档创作、内部系统开发及源代码生成等核心业务流程，大幅提升了运营效率。未来，NEC将继续深化基于基础模型开发针对客户特定数据与行业的LLM定制方案，并持续优化基础模型的性能表现。
NEC数据科学实验室的研究员Masafumi Oyamada现场演示了基于LLM的聊天工具原型”NEC Generative AI Framework Chat”，该工具支持用户输入问题获取即时回答，并可进行多轮追问互动。此外，该LLM还可应用于编程辅助、文档自动生成及内容摘要等多种场景。据NEC公开规划，公司计划在未来三年内，将生成AI相关业务规模拓展至500亿日元，展现其在人工智能领域的雄心与决心。
