美团开源LongCat-AudioDiT模型 音色克隆性能刷新行业SOTA

微新创想:音频生成技术正迎来从级连架构向端到端生成的范式转移。针对传统TTS系统因“梅尔频谱”中间表征带来的信息损耗与误差累积,美团LongCat团队于今日正式发布并开源了LongCat-AudioDiT(提供1B/3.5B两个版本)。该模型通过在波形潜空间直接建模,成功刷新了零样本语音克隆的性能上限。

核心架构:彻底告别梅尔频谱。LongCat-AudioDiT抛弃了传统的“预测声学特征+神经声码器”的多阶段流程,构建了由Wav-VAE(波形变分自编码器)与DiT(扩散Transformer)组成的极简架构。高效Wav-VAE:采用全卷积设计,将24kHz波形压缩2000倍至11.7Hz帧率。通过非参数捷径分支与多目标对抗训练,确保了重建波形在保持精确时频结构的同时,拥有极佳的自然听感。

语义增强DiT:模型创新性地将UMT5文本编码器的原始词嵌入与顶层隐藏状态融合,补齐了高层语义中丢失的音素细节,大幅提升了生成语音的可懂度。推理优化:精准解决音色漂移。为了进一步优化生成质量,团队引入了两项关键技术改进。

美团开源LongCat-AudioDiT模型 音色克隆性能刷新行业SOTA插图1

双重约束机制:识别并纠正了流匹配TTS长期存在的“训练-推理不匹配”问题。通过在推理中强制重置提示区域(Prompt)隐变量,彻底解决了说话人音色漂移及稳定性不足的痛点。自适应投影引导(APG):取代传统的无分类器引导(CFG)。APG能够精准筛选引导信号中的有益分量,抑制导致音质劣化的信号,在不产生频谱“过饱和”的前提下,显著提升了语音的自然度。

性能表现:SOTA级的克隆精度。在Seed基准测试中,LongCat-AudioDiT展现了统治级的性能。相似度(SIM):3.5B模型在Seed-ZH测试集达到0.818,在Seed-Hard难句测试集达到0.797,均超越了Seed-TTS、CosyVoice3.5及MiniMax-Speech等知名模型。准确率:在英文WER(1.50%)及中文难句CER(6.04%)等指标上均处于行业第一梯队。

值得关注的是,LongCat-AudioDiT仅通过ASR转写的预训练数据进行单阶段训练,便实现了优于多阶段训练模型的表现。目前,相关论文、代码及模型权重已在GitHub与HuggingFace全面开放。

最新快讯

2026年04月02日

12:33
微新创想:2026年4月1日,YouTube频道WhizzDumbPlayz发布了一段视频,通过逐帧比对的方式对英伟达DLSS 5技术进行了深入分析。该视频旨在澄清关于DLSS 5引入新画面瑕疵的传言,结果显示DLSS 5并未带来新的视觉问题。 分析覆盖了多款热门游戏,包括《星空》《遗忘之都重制版》《EA Sports FC 26》以及《生化危机:安魂曲》。...
12:33
微新创想:2026年4月2日,eBay面向全球商业卖家推出多项后台升级。此次更新涵盖了多个重要功能,旨在优化卖家的运营体验并提高整体效率。 新功能包括Seller Cockpit Pro中的‘问题解决’合规管理模块。该模块集中处理合规任务,帮助卖家更高效地管理商品合规性。此功能自3月起开始分批上线,预计在4月底前完成全面覆盖,确保所有商业卖家都能享受到这一改...
12:33
微新创想:DHL全球货运于4月2日正式开通上海至德国莱比锡、香港至比利时列日两条亚欧货运航线。这两条新航线将由波音777F货机执飞,每周定期运行。此次开通标志着DHL在全球物流网络布局上的重要进展,进一步加强了其在亚欧主要物流枢纽之间的运输能力。 微新创想:随着跨境贸易的持续增长,DHL全球货运此举意在更好地满足市场对高效物流服务的需求。通过增加自有运力,D...
12:33
微新创想:2026年4月2日,全球私募股权机构KKR宣布对其旗下非上市私募信贷零售基金实施赎回限制。此举适用于所有持有该类基金的零售投资者,即日起暂停常规赎回申请,具体恢复时间未公布。 微新创想:限制的原因是近期市场流动性趋紧及底层资产估值波动加剧。KKR表示,这一措施旨在保护基金持有人的整体利益,并确保基金的稳定运作。 微新创想:KKR承诺将按照监管要求持...
12:33
微新创想:4月1日,杭州滨江区市场监管局对杭州索象营销策划有限公司立案调查。经查,该公司在2023年5月至2024年3月期间为广州雅拉源公司提供品牌营销策划服务。执法人员已调取合同、聊天记录、服务内容及资金往来等相关材料,并对企业负责人进行了问询。 此次调查的起因是央视曝光的“进口”保健品市场乱象。曝光内容引发了公众对保健品行业广告宣传合规性的广泛关注。监管...
12:33
微新创想:4月2日11时23分 印尼马鲁古海峡发生5.8级地震 4月2日11时23分,印尼马鲁古海峡(北纬1.35度、东经126.60度)发生5.8级地震 震源深度为40千米。此次地震由中方地震台网正式测定。 此次地震的震中位于印尼马鲁古海峡区域 该地区处于环太平洋地震带内 地震活动较为频繁。根据初步信息 震中距离最近的陆地约数十公里 周边岛屿的人口密度相对...
12:33
微新创想:2026年4月2日,北京,兆易创新正式发布GD5F4GM7/GD5F8GM8系列大容量SPI NAND Flash新品。该系列产品面向高密度代码存储与数据缓存应用,支持标准SPI接口及高速读写性能。目前产品已完成研发并进入样品供应阶段,面向重点客户开展验证。此举旨在填补国内高端SPI NAND市场空白,强化公司在嵌入式存储领域的全栈布局。
12:33
微新创想:4月1日,小度在上海国际酒店及商业空间博览会发布AI酒店解决方案4.0。该方案实现从语音交互到多模态感知理解的升级,可主动感知温湿度、理解住客意图并响应。同步推出智能屏X8 Plus(酒店版)、4英寸无屏音箱(酒店版)及智能投影仪(酒店版)三款新品。 小度AI酒店解决方案4.0不仅提升了酒店服务的智能化水平,还通过更精准的用户感知能力,为住客带来更...
12:33
微新创想:2026年4月1日,京东工业向承授人(含三名独立非执行董事)授出388.72万股新股份,占当日已发行总股本的0.14%。此次授予依据公司首次公开发售后首个股份奖励计划实施,旨在强化长期激励与人才绑定。 微新创想:授出不涉及新股发行及现金支出,股份来源为公司新发行股份。此举系京东工业上市后首次开展股份奖励,反映其对核心管理团队及独立董事价值的认可。 ...
12:33
微新创想:微软于4月1日为Windows 11 24H2和25H2版本用户紧急推送了带外更新KB5086672。此次更新的目的是修复3月26日发布的可选更新KB5079391所引发的安装错误(错误代码0x80073712)。然而,该补丁上线后不久,便引发了大量用户的反馈。 用户普遍报告了网络控制器失灵以及USB接口异常的问题。许多用户在系统更新后发现无法正常...
12:33
微新创想:2026年4月2日,国内3D打印医疗解决方案提供商黑焰医疗宣布完成B+轮融资,金额达数千万元人民币。本轮融资由东证资本领投,探针资本担任独家财务顾问。公司总部位于中国,专注于自主研发医疗级3D打印软件、平台、设备及专用材料,致力于推动个性化精准医疗落地。 融资将主要用于加速核心技术迭代、产线扩建及CFDA认证产品临床推广。黑焰医疗通过持续的技术创新...
12:33
微新创想:2026年4月2日,台媒报道联发科已减少在代工厂的4nm工艺晶圆投片量。此举反映智能手机市场降温已传导至SoC供应商。天玑8500/8400系列采用该制程。 当前存储器价格达去年同期4倍,12GB+256GB模组贵约648元人民币,致整机成本攀升。低端机型中存储器成本占比高达43%,超过主SoC,购机意愿减弱。 高端机型需求亦趋疲软。行业普遍承压。...