生成式AI行业正经历爆发式增长,但算力瓶颈成为制约发展的关键因素。红杉美国在《生成式AI的第二幕》中指出,GPU资源紧张已成为许多AI公司的”天花板”。由于GPU等待时间居高不下,一种新的商业模式应运而生——通过支付订阅费优先使用高性能模型。大模型训练中参数规模的指数级增长,导致训练成本急剧上升,如何高效利用GPU资源成为行业核心议题。

AI开发计算平台应运而生,为大模型开发者提供一站式解决方案。京东云言犀AI开发计算平台可在一周内完成数据准备、模型训练到部署的全流程,将原本需要10余人的团队工作简化为1-2名算法人员即可完成,并通过模型加速工具将推理成本降低90%。该平台同时赋能算法开发者和应用开发者,支持低代码开发模式,使产业大模型开发门槛大幅降低。

大模型时代需要全新的数字基础设施。缺乏AI开发计算平台的企业,需要自行搭建GPU算力调度、存储网络等复杂系统,开发过程原始且门槛极高。对于正在推进大模型行业应用的公司而言,这意味着成本飙升和训练效率难以保证。金融、营销、汽车等百行千业正加速与大模型融合,谁能更快找到业务结合点并高效落地,谁就能在重构竞争格局中占据先机。

产业大模型发展面临多重挑战:数据准备周期长、多模态数据高效加载、训练环境稳定性、算力调度效率等。京东云实践表明,技术本身并非最大障碍,如何平衡成本、效率与体验才是行业落地的关键。大模型时代对开发基础设施提出全新要求:高成本GPU(如A100、A800)成为必需,但如何极致压榨性能至关重要;大模型训练需要千万级IOPS、百微秒级延迟的高性能存储;千亿级参数模型需要千卡规模并行训练,对开发经验提出极高要求。

京东云言犀AI开发计算平台全面解决上述痛点。平台覆盖数据管理、分布式训练、无代码开发等全链路能力,内置主流开源及商业化大模型,并提供100多种推理工具和框架。在性能方面,平台通过GPU算力统筹调度、RDMA网络优化、云海分布式存储等技术突破,实现算力最大支持数十万GPU节点,网络带宽达3.2Tbps,延迟低至2us,存储IOPS达千万级,延迟百微秒级。

言犀平台在数据管理环节提供智能标注、数据增强等工具,解决数据分散、格式不一等问题;分布式训练环节支持国产硬件适配,简化任务管理;无代码开发支持直接选择模型、上传数据、配置参数,一键部署。平台内置言犀、星火等商业模型及开源模型,并补充中文、数学等增强能力,同时提供问答、文档分析等场景的专有模型。

言犀平台提供三种交付方式:MaaS按量付费、公有云SaaS及私有化交付,满足不同客户需求。未来将进一步完善国产硬件覆盖、模型生态合作等功能,体系化解决大模型开发实施中的各类难题。京东云技术委员会主席曹鹏表示,高性能易用的AI开发平台将降低行业参与门槛,加速大模型在千行百业的普及。

以名创优品为例,京东言犀系列产品上线后,日均咨询服务量达近1万次,在线客服机器人应答准确率超97%,降低服务成本40%。类似案例将加速涌现,随着新型数字基础设施的普及,大模型应用将呈现爆发式增长,成本效率与创新空间将迎来更广阔的发展前景。

最新快讯

2025年12月20日

17:11
12月19日,NASA传来振奋人心的消息,宣布其火星车“毅力号”在2025年6月19日创下了单日行驶距离的新纪录,自主行驶了约412米。这一壮举不仅展现了人类科技的进步,更彰显了深空探测的无限可能。此次行驶任务历时4小时24分钟,其中超过九成的路程由“毅力号”的增强型自主导航系统ENav独立完成。该系统能够精准识别前方约15米范围内的潜在危险,并自动进行避障...
17:11
2025年12月20日,备受瞩目的沪渝蓉高铁武汉至宜昌段即将正式投入运营,标志着我国“八纵八横”高铁网沿江通道建设迈出关键一步。这条现代化铁路全长314公里,设计时速高达350公里,沿途设8座车站,包括汉口站和荆门西站这两座既有车站,以及汉川西站、天门南站、潜江站、荆州站、枝江站、宜昌东站等6座新建车站,极大完善了区域高铁网络布局。 作为连接长三角与成渝地区...
17:11
12月20日,备受瞩目的「Alpha峰会」在中欧国际工商学院与华尔街见闻联合举办,知名经济学家付鹏在会上发表深度演讲,为在场嘉宾描绘了AI行业发展的最新图景。他指出,经过多年的高速发展,AI基础设施已基本完成构建,整个行业正从早期的投入积累期迈入关键的应用兑现期。这一转变标志着AI技术从实验室走向市场的关键节点,未来将更加注重实际价值的落地。 付鹏用生动比喻...
17:11
12月18日,成都演唱会迎来一场颠覆性的视听盛宴,王力宏在舞台上首次引入宇树科技G1人形机器人,实现了全球首创的机器人与歌手同台演出的壮举。六台银色亮片服装的机器人,如同精准的舞者,在《火力全开》的激昂节奏中翩翩起舞,动作与王力宏及人类伴舞者高度同步,展现出令人惊叹的协调性。演出高潮时,机器人集体完成“韦伯斯特”空翻动作,瞬间引爆全场,观众掌声雷动。这场融合...
17:11
2025年12月19日,微软正式向PowerPoint用户推出一项名为Explainer的创新功能,旨在彻底解决演示文稿中复杂术语与专业缩略语带来的理解障碍。这项智能辅助工具深度集成微软前沿的Copilot技术,通过自然语言处理能力,为用户提供精准的语境化解释。用户在使用过程中,只需简单选中目标文本或右键点击文本框,选择"Explain this"选项,即可...
17:11
2024年12月18日,谷歌正式发布了革命性的FunctionGemma模型,这款基于Gemma 3 270M微调的先进AI系统专为手机等边缘设备量身打造。FunctionGemma的核心突破在于其强大的本地函数调用能力,使其能够在完全脱离云端连接的环境下,精准理解指令并高效执行各类任务。无论是灵活添加日历事件,还是即时发送照片分享,FunctionGemm...
17:11
2025年12月20日,备受关注的北京同仁堂集团“南极磷虾油”事件迎来重要进展。上海市消费者权益保护委员会就此问题正式发表立场声明,引发社会广泛关注。面对此次风波,北京同仁堂集团迅速作出反应,公开发布致歉声明,明确承诺将依法对受影响的消费者进行赔偿,并宣布将全面启动品牌严管行动,加强内部监管体系。这一积极回应获得了市消保委的初步认可。 市消保委在声明中肯定了...
16:13
微新创想12月20日重磅报道,国民茶饮品牌蜜雪冰城正式宣告进军美国市场,其首店择址洛杉矶好莱坞大道6922号盛大启幕。这家备受瞩目的门店不仅延续了品牌一贯的亲民风格,更精心准备了冰淇淋、纯茶、果茶、奶茶、现磨咖啡等丰富产品线,充分满足当地消费者的多元需求。为更好地适应当地口味,蜜雪冰城特别研发了多样化的小料搭配方案,并提供了灵活的糖度选择,让每一位顾客都能定...
16:10
2025年12月20日,微软正式宣布将全面移除Windows 11中“手机连接”应用的“照片”功能,这意味着用户将无法再通过该应用直接访问和同步Android手机中的照片与视频。对于iPhone用户而言,这一变化并不影响其使用体验。微软此举的核心目标在于整合媒体同步方案,进一步优化系统整体的一致性和用户体验。 此前,“手机连接”应用凭借其便捷的即时查看和集中...
16:10
罗永浩近日在社交媒体上掀起了一场关于大金中央空调售后服务的讨论热潮。这位知名科技博主在微博公开表示,他在上海租赁的住宅内安装了7台大金空调内机,却遭遇了令人咋舌的售后服务费用。据官方客服透露,每年清洗及更换滤网的费用高达15000元,而单次上门"安装"的收费更是达到了283元。更让罗永浩无法接受的是,服务人员态度冷漠敷衍,完全无法满足用户的基本期待。 这一系...
16:10
备受瞩目的央视《鸿蒙星光盛典》将于2025年12月20日晚7点30分盛大启幕,通过CCTV-2、CCTV-3及央视频等超过200个主流平台同步呈现精彩视听盛宴。作为鸿蒙系统发展历程的权威记录者,本届盛典以"在一起"为核心主题,以创新科技为笔、以发展历程为纸,通过四大篇章的精心编排,全方位展现鸿蒙系统从诞生到壮大的辉煌历程,深刻诠释科技共创理念的时代价值。 本...
16:10
2025年12月19日,华擎正式推出RX 9070 XT Taichi高端显卡,专为追求极致体验的游戏玩家量身打造。这款显卡最引人注目的设计便是其通体纯白的优雅外观,搭配2英寸彩色显示屏,用户可根据个人喜好自定义显示内容,彰显独特个性。 在性能方面,RX 9070 XT Taichi搭载了经过超频优化的核心,加速频率高达3100MHz,确保流畅运行各类大...