生成式AI行业正经历爆发式增长,但算力瓶颈成为制约发展的关键因素。红杉美国在《生成式AI的第二幕》中指出,GPU资源紧张已成为许多AI公司的”天花板”。由于GPU等待时间居高不下,一种新的商业模式应运而生——通过支付订阅费优先使用高性能模型。大模型训练中参数规模的指数级增长,导致训练成本急剧上升,如何高效利用GPU资源成为行业核心议题。

AI开发计算平台应运而生,为大模型开发者提供一站式解决方案。京东云言犀AI开发计算平台可在一周内完成数据准备、模型训练到部署的全流程,将原本需要10余人的团队工作简化为1-2名算法人员即可完成,并通过模型加速工具将推理成本降低90%。该平台同时赋能算法开发者和应用开发者,支持低代码开发模式,使产业大模型开发门槛大幅降低。

大模型时代需要全新的数字基础设施。缺乏AI开发计算平台的企业,需要自行搭建GPU算力调度、存储网络等复杂系统,开发过程原始且门槛极高。对于正在推进大模型行业应用的公司而言,这意味着成本飙升和训练效率难以保证。金融、营销、汽车等百行千业正加速与大模型融合,谁能更快找到业务结合点并高效落地,谁就能在重构竞争格局中占据先机。

产业大模型发展面临多重挑战:数据准备周期长、多模态数据高效加载、训练环境稳定性、算力调度效率等。京东云实践表明,技术本身并非最大障碍,如何平衡成本、效率与体验才是行业落地的关键。大模型时代对开发基础设施提出全新要求:高成本GPU(如A100、A800)成为必需,但如何极致压榨性能至关重要;大模型训练需要千万级IOPS、百微秒级延迟的高性能存储;千亿级参数模型需要千卡规模并行训练,对开发经验提出极高要求。

京东云言犀AI开发计算平台全面解决上述痛点。平台覆盖数据管理、分布式训练、无代码开发等全链路能力,内置主流开源及商业化大模型,并提供100多种推理工具和框架。在性能方面,平台通过GPU算力统筹调度、RDMA网络优化、云海分布式存储等技术突破,实现算力最大支持数十万GPU节点,网络带宽达3.2Tbps,延迟低至2us,存储IOPS达千万级,延迟百微秒级。

言犀平台在数据管理环节提供智能标注、数据增强等工具,解决数据分散、格式不一等问题;分布式训练环节支持国产硬件适配,简化任务管理;无代码开发支持直接选择模型、上传数据、配置参数,一键部署。平台内置言犀、星火等商业模型及开源模型,并补充中文、数学等增强能力,同时提供问答、文档分析等场景的专有模型。

言犀平台提供三种交付方式:MaaS按量付费、公有云SaaS及私有化交付,满足不同客户需求。未来将进一步完善国产硬件覆盖、模型生态合作等功能,体系化解决大模型开发实施中的各类难题。京东云技术委员会主席曹鹏表示,高性能易用的AI开发平台将降低行业参与门槛,加速大模型在千行百业的普及。

以名创优品为例,京东言犀系列产品上线后,日均咨询服务量达近1万次,在线客服机器人应答准确率超97%,降低服务成本40%。类似案例将加速涌现,随着新型数字基础设施的普及,大模型应用将呈现爆发式增长,成本效率与创新空间将迎来更广阔的发展前景。

最新快讯

2025年10月29日

14:57
最新研究表明,穿高领衣服感到不适并非简单的个人偏好问题,而可能是一种需要重视的医学现象,这一发现挑战了我们对"高领不适"的传统理解。据医学专家介绍,穿高领衣物引发的不适主要源于两种机制:"衣领综合征"和感官过载反应。 "衣领综合征"在医学上被称为颈动脉窦综合征。当高领衣物过度压迫颈部动脉窦时,会引发迷走神经反射性过度反应,导致心率减慢、血压骤降,进而出现头晕...
14:57
在AI搜索时代,用户提问的方式已从输入关键词转变为自然语言对话,而搜索引擎的回应也不再是传统的“10个蓝色链接”,而是直接生成的对话式答案。这种变革正在重塑着品牌与用户的连接方式——当AI直接给出答案时,品牌是否能被引用、如何被描述,决定了它在数字世界中的可见度。这就是为什么GEO(生成式引擎优化)正在成为企业数字战略的核心。 与传统SEO追求网页排名不同,...
14:55
2025年10月29日,生态环境部在例行新闻发布会上正式宣布,将全面加速电力产品碳足迹系列国家标准的制定工作。这一重要举措标志着我国在绿色低碳发展道路上迈出了坚实一步,为全球气候治理贡献中国智慧。应对气候变化司司长夏应显在发布会上详细阐述了相关工作计划,他指出,相关部门将重点深化电力碳足迹因子的研究工作,通过科学严谨的测算方法,为标准制定提供精准数据支撑。同...
14:55
Pinetree生物科技近日传来振奋人心的消息,成功完成总额高达4700万美元的B轮融资,投资方阵容强大,包括SGI风险投资、Atinum投资等多家业内知名机构联合领投。作为肿瘤治疗领域的创新先锋,Pinettree始终聚焦于攻克癌症耐药性这一世界性难题,其核心战略是通过开发下一代靶向蛋白降解剂(TPD)实现突破。 该公司自主研发的AbReptor平台堪...
14:55
截至2025年9月,滴滴出行精心打造的“长辈版”服务已累计为全国老年人提供超过2.65亿次的出行服务。这一专为老年群体量身定制的服务,最初以“助老打车”的名称面世,其核心目标在于帮助老年人轻松便捷地完成打车需求。通过持续优化产品体验,滴滴不仅大幅简化了操作界面,更对呼叫流程进行了深度改造,致力于为老年用户提供更加流畅、直观的出行体验。目前,该服务已成功覆盖全...
14:55
2025年10月29日,亚马逊云科技正式发布革命性多模态嵌入模型Amazon Nova,标志着AI技术迈向全新维度。这款创新模型已率先在Amazon Bedrock平台上架运行,成为业界首款同时支持文本、文档、图像、视频及音频五种数据模态的统一嵌入解决方案。Amazon Nova专为Agentic RAG(检索增强生成)与语义搜索场景量身打造,通过先进的语义...
14:55
科技媒体Android Authority最新报道,谷歌正在积极研发车载系统Android Auto的主屏幕小组件功能,为用户带来更丰富的车载交互体验。通过深入拆解最新测试版应用,我们发现用户现在可以在车机主界面灵活添加各类小组件,包括天气、秒表等实用工具,而左侧小组件区域占据了屏幕约35%-40%的显著位置。 目前Pixel天气组件在测试中表现稳定,为用户...
14:55
2025日本移动出行展今日盛大开幕,大发品牌携重磅力作K-Open概念车震撼登场,正式宣告停产经典车型Copen的传奇延续。这款备受瞩目的新车不仅传承了Copen灵动的设计基因,更以全新后驱平台和纯正手动变速箱,重新定义了紧凑型车的驾驶体验。丰田集团社长佐藤恒治在揭幕仪式上特别强调,董事长丰田章男将深度参与车辆的路试评估,彰显对这款创新力作的高度重视。 在研...
14:55
2025年10月29日,中国领先的工业品电商平台京东工业与全球知名测试测量仪器品牌福禄克中国正式达成战略合作,双方共同签署了全面合作框架协议。此次合作将聚焦于工业品采购、智慧物流、金融服务、后市场服务以及公益事业五大核心领域,通过深度协同实现资源共享与优势互补。作为仪器仪表行业供应链数字化转型的关键举措,双方将携手推动行业整体升级,显著提升产业链运行效率与协...
14:55
近日IBM正式宣布完成对软件开发商Txture的收购交易。这一战略性举措标志着IBM在云转型及信息技术架构管理领域的重大布局。Txture作为行业领先的技术平台,长期专注于云就绪应用评估、目标架构生成及迁移路径规划等核心业务,其自主研发的数据采集技术和自动化评估系统在业界享有盛誉。 此次收购将显著增强IBM在企业数字化转型中的技术实力。随着企业IT环境日益复...
14:55
维基百科创始人吉米・威尔士近日在CNBC科技峰会上对埃隆・马斯克新推出的"Grokipedia"项目表达了公开质疑。这一事件源于马斯克对维基百科存在"觉醒偏见"的尖锐指控,威尔士在回应中坚定维护了维基百科的核心原则——坚持采用主流信源以确保内容质量。他指出,这一原则是维基百科25年来赖以生存和发展的基石,也是区别于其他信息平台的关键所在。 威尔士着重强调,大...
14:54
2025年日本移动出行展上,本田汽车携旗下全新纯电概念车Super-ONE震撼登场。这款备受瞩目的原型车以"超越传统规范、提供独一无二驾驶体验"为核心设计理念,向世界展示了本田在电动化领域的创新探索。Super-ONE最引人注目的亮点在于其搭载的Boost模式,该系统通过精密模拟7速变速器的换挡逻辑,并配合主动声音控制系统,能够真实还原传统燃油车的引擎声浪与...