人工智能正以前所未有的速度渗透到医疗健康、交通运输等各个社会领域，成为引领未来的战略性技术。随着以预训练大模型为代表的人工智能创新浪潮不断演进，高昂的训练成本成为制约其发展的关键瓶颈。为应对这一挑战，AI开发计算平台应运而生，成为推动大模型技术落地的核心解决方案。10月24日，2023科大讯飞全球1024开发者节在合肥隆重举行，这场人工智能领域的盛会旨在引领AI迈向新征程，共同探索人工智能产业的未来方向与趋势。在24日下午的代码论坛主会场，京东云副总裁龚义成发表了题为”代码大模型”的主题演讲，全面介绍了京东云新上线的言犀AI计算平台。本次会议邀请了行业顶尖专家、京东云技术精英、科大讯飞业务骨干以及生态合作伙伴，共同擘画AI开发计算平台的发展蓝图。
龚义成：大模型开发效率提升迫在眉睫
京东云副总裁龚义成在主题演讲中指出，对于大模型开发者而言，缺乏AI开发计算平台意味着需要自行搭建底层GPU算力资源调度、存储网络、模型管控等一系列复杂体系，整个开发过程原始且门槛极高。当前，大模型的强大势能已成为众多行业重构竞争格局的关键力量。在近期的实践探索中，京东云发现产业大模型的挑战不仅在于技术本身，更在于如何将技术与行业应用场景深度融合，如何在成本、效率、体验之间找到最佳平衡点，这才是大模型行业落地的核心难题。对于希望提升大模型开发效率、助力大模型在行业中成功落地的企业而言，一套完善的基础设施已成为当务之急。
京东云：言犀AI开发计算平台让大模型触手可及
在2023科大讯飞全球1024开发者节展会现场，今年9月底刚上线的京东言犀AI开发计算平台震撼亮相，吸引了众多目光。随着大模型快速走进千行百业，京东言犀AI开发计算平台让产业大模型开发变得门槛更低，利用和改造大模型更加便捷。据测算，过去需要10余名科学家团队才能完成的工作，现在只需1-2名算法人员，不到一周时间，言犀即可实现从数据准备、模型训练到模型部署的全流程自动化。龚义成介绍，京东言犀AI开发计算平台覆盖了数据准备、模型开发、模型训练及模型部署的AI开发全流程能力，预置了主流开源大模型和部分商业化大模型，以及一百多种推理工具和框架，能够有效降低大模型开发门槛和成本。整体而言，言犀AI开发计算平台能够满足不同专业程度用户的使用需求。
对于大模型算法开发者，平台能够全流程支持从数据准备、选择模型、代码调优到部署发布等工作。对于应用层开发者，平台提供无代码可视化操作，只需点按选择模型、上传数据、配置参数，无需编写代码即可实现任务触发，开始模型任务的训练，极大降低了开发门槛。未来，言犀还将持续升级平台能力，在国产硬件覆盖、模型生态合作、插件开发、应用评测服务、一体机交付、Agent开发服务等方面不断完善，体系化地解决产业大模型的开发和实施困难、大模型应用开发困难、模型训练推理成本昂贵、模型和应用获取困难、高性能计算和高性能文件使用适配困难等问题。
科大讯飞：巧用大数据发力在”云端”
作为一家领先的AI企业，科大讯飞拥有超过500万的生态合作伙伴和海量数据资源，自有媒体月活用户达2亿，其营销业务已实现从零到百亿级日交易量的跨越式发展。背后强大的AI和大数据能力，是基于京东云助力构建的科大讯飞AI营销平台混合多云体系，实现了多云差异的屏蔽，做到了客户视角”一朵云”的统一体验。2019年上云用云之前，科大讯飞AI营销平台采用自建单机房架构，一旦机房或网络出现故障，业务可用性就无法保证，同时业务飞速增长也导致基础设施维护成本逐年攀升。
上京东云后最大的改善就是”极大的弹性”。作为国内首家提供多云多活多芯的云厂商，京东云通过其有效、稳定、多入口的公有云平台，为AI营销构建了整套广告投放公有云平台，实现全国不同区域的流量就近访问，大大提高了业务效率，全链路体验得到显著提升。据悉，通过京东公有云的快速部署和按需付费模式，可以帮助科大讯飞AI营销业务降低成本20%以上。在618、11.11等高峰期，如需弹性资源支持，降低成本甚至能达到40%以上。
龚义成表示，大模型竞争已经进入落地应用的战场。京东云正提供从硬件基础设施、到智算集群，再到MaaS服务的一站式大模型服务能力，从更强算力、更大存力、更加易用和更低门槛等方向发力，推动大模型在产业中的落地应用。