京东开源国产芯片xLLM推理引擎 助力AI高效部署

京东近日重磅发布了一项突破性的技术成果——基于国产芯片自主研发的大模型推理引擎 xLLM 开源计划。这一创新举措标志着国内 AI 技术生态迈入新阶段,将为企业部署 AI 应用提供前所未有的性能与成本优势,有力加速产业智能化升级进程。

xLLM 引擎凭借多项核心功能亮点脱颖而出。其自主研发的请求优先级动态调度器能够智能匹配任务权重与计算资源,确保高优先级任务优先执行。更为突出的是,引擎采用的动态自适应 PD 分离架构可根据实时负载自动调节处理实例比例,实现资源利用率最大化。针对多模态场景的复杂需求,xLLM 配备了 EPD 混合分离调度器,为 AI 应用的灵活部署提供强大支持。

在技术架构层面,xLLM 创新性地设计了基于硬件特性的多级流水线执行引擎,显著提升任务处理效率。开发者团队还构建了包含图融合、投机推理和动态负载均衡的计算优化套件,进一步突破 AI 推理性能瓶颈。通过 Mooncake 构建的多级 KV 缓存全局管理系统,数据处理流程得到全面优化,为复杂场景提供极致流畅的体验。

京东开源国产芯片xLLM推理引擎 助力AI高效部署插图1

京东方面透露,xLLM 技术源于零售核心业务实践,已成功应用于京东 AI 助手、智能客服、风控系统及供应链管理等多个关键场景。实测数据显示,该系统可将处理效率提升5倍以上,同时将机器成本降低90%,充分验证了其技术领先性。

“我们坚信 AI 基础设施生态建设需要全行业共同参与。”京东零售 AI 基础设施团队表示,”开源只是起点,未来将持续根据社区反馈开放更多高级功能,并与清华、北大、中科大等顶尖产学研伙伴深化合作,共同推动国产 AI 基础设施技术突破。”

随着 xLLM 开源计划的正式启动,全球开发者将获得体验这一前沿技术的宝贵机会。这一举措不仅将加速中国 AI 技术生态建设,更将激发更多创新应用场景的涌现,为全球 AI 技术发展注入中国力量。

最新快讯

2025年10月02日

04:49
2025年10月2日,《福布斯》杂志发布最新财富榜单,特斯拉CEO埃隆·马斯克的个人资产首次突破5000亿美元大关,这一历史性成就使他成为人类历史上第一位跻身这一财富门槛的个体。这一惊人的财富增长主要源于其持有的特斯拉股份以及多家关联企业股份的持续飙升。尽管面临诸多挑战,马斯克依然稳坐全球富豪榜榜首,其财富规模不仅刷新了个人纪录,更在全球范围内引发了广泛关注...
03:43
2025年10月2日,谷歌云计算部门迎来了一次重大的人事调整,宣布裁减超过100个设计相关职位。根据内部文件披露的信息,此次被解雇的员工主要集中在“定量用户体验研究”和“平台服务体验”两大核心团队,同时部分相邻团队也受到波及。值得注意的是,这些被裁岗位的核心职责是通过数据分析、用户调查等科学方法深入研究用户行为,并以此为基础为产品设计提供决策支持。此次裁员行...
02:42
2025年10月2日,人工智能领域迎来重要里程碑——Anthropic正式宣布将旗下强大的大模型Claude无缝集成至Slack工作平台。这一创新功能使企业团队能够在熟悉的Slack环境中直接与Claude进行实时互动,通过简单的消息指令即可触发AI辅助,从而显著提升跨部门协作效率。Anthropic此次战略布局的核心目标,是为现代企业打造更加智能化的工作流...
01:39
2025年10月2日,一则重磅市场消息引发广泛关注:全球工业自动化与数字化领域的领军企业西门子,正积极酝酿剥离其旗下医疗业务巨头——西门子医疗(Siemens Healthineers)的部分股权。这一战略调整的核心目标,在于进一步优化集团整体业务结构,将资源与精力更精准地聚焦于工业自动化、数字化等核心优势领域,从而提升集团整体竞争力与市场价值。 据悉,西门...
01:39
2025年10月2日,丰田汽车公司正式宣布在美国市场启动一项大规模召回行动,涉及约39.4万辆Tundra、Tundra混合动力版以及Sequoia车型。此次召回范围涵盖2022年至2025年款的部分车辆,核心问题指向燃油系统部件的潜在制造缺陷。据丰田官方说明,该缺陷可能导致发动机意外熄火,存在一定的安全隐患。 此次召回事件迅速引发广泛关注,原因在于受影响车...
01:06
2025年10月2日,美国纽约市交通管理局正式宣布,将谷歌母公司Alphabet旗下自动驾驶巨头Waymo的测试运营许可期限延长至2025年12月31日。这一重要决策不仅为Waymo在纽约市的无人驾驶测试项目提供了持续的法律保障,更彰显了当地监管机构对Waymo自动驾驶技术安全性和运营能力的充分信任与高度认可。根据官方公告,此次许可延期意味着Waymo可以继...
01:06
Apple Music重磅推出全新限时优惠活动“wave 4”,为符合条件的iOS用户带来专属福利。活动面向两类用户群体:一是近期首次使用iPhone的新用户,二是已中断订阅超过90天的沉默用户。只需在指定市场使用合格设备完成兑换,即可免费领取长达3个月的Apple Music个人会员资格。 此次优惠活动具有明确的参与条件,用户需通过iPhone设备进行兑换...
00:33
2025年10月1日,国际知名投资银行汇丰银行正式发布研究报告,将运动巨头耐克公司的股票目标价从88美元上调至90美元,涨幅达2.27%。这一调整不仅彰显了汇丰对耐克未来市场表现的坚定信心,更预示着其看好品牌长期增长潜力。据汇丰分析师透露,此次目标价上调主要基于耐克在运动消费品领域的持续创新能力和强大的全球品牌影响力。近年来,耐克凭借其在产品研发、营销策略及...
00:33
微软今日正式发布Xbox Game Pass服务的重大升级计划,全新推出Essential、Premium和Ultimate三档会员方案,为玩家带来更丰富的游戏选择和更灵活的订阅体验。这一系列改革旨在满足不同玩家的需求,从休闲玩家到硬核游戏爱好者,都能找到最适合自己的选择。 现有Game Pass Core用户将无缝过渡至Essential档,享受每月9.9...

2025年10月01日

23:25
2025年10月1日,全球知名投资大师比尔·格罗斯发表了一份引人关注的警示声明,直指当前科技股市场估值过高的风险。这位在金融界享有盛誉的投资家指出,随着人工智能领域众多高科技公司如雨后春笋般涌现,市场的繁荣背后潜藏着巨大的不确定性。格罗斯强调,当前科技股的估值泡沫已经到了令人担忧的程度,投资者必须保持高度警惕。 在分析当前市场状况时,格罗斯特别指出,问题的关...
23:25
2025年10月1日,安徽合肥的紧凑型聚变能实验装置BEST项目传来重大喜讯,项目建设取得关键性突破。经过科研团队的不懈努力,装置的主机核心部件——杜瓦底座研制成功,并顺利完成了精准安装。这一里程碑式的进展标志着BEST项目的主体工程正式迈入新阶段,为后续的聚变能研究奠定了坚实的基础。此次成功不仅彰显了我国在聚变能领域的研发实力,更为未来能源探索开辟了新的道...
23:25
2025年10月1日,科技巨头谷歌公司正式宣布对其云计算部门进行组织调整,涉及部分员工裁减。此次优化措施主要针对美国总部及部分海外团队,具体裁减人数尚未公布。谷歌在官方声明中强调,此举旨在通过优化资源配置,全面提升云业务的运营效率,从而在激烈的市场竞争中保持领先地位。对于受影响的员工,公司将提供全面的遣散补偿方案,并配备专业的再就业支持服务,帮助他们顺利过渡...