英伟达AI芯片断货 GH200成”最贵内存”市场火爆

声明：本文源自微信公众号锌财经（ID:xincaijing），作者钟微，经微新创想授权转载发布。8月8日，全球计算机图形学领域最具影响力的盛会——世界计算机图形学会议SIGGRAPH盛大开幕。NVIDIA创始人兼CEO黄仁勋亲临现场，携新一代英伟达超级AI芯片GH200震撼亮相。黄仁勋对这款旗舰产品信心十足，将其誉为”全球最快内存”。在当前AI产业版图中，英伟达堪称”驱动整个AI世界的核心引擎”。无论是OpenAI还是谷歌、META、百度、腾讯、阿里巴巴等科技巨头，其生成式AI应用都高度依赖英伟达AI芯片进行训练。据行业媒体报道，2023年8月英伟达H100芯片市场需求预计高达43.2万张，而当前单枚H100在Ebay上的溢价价格已飙升至4.5万美元，折合人民币超30万元。40余万张的巨大缺口，加上动辄数百万美元的总价值，英伟达正经历一场比”挖矿时代”更为狂热的芯片市场浪潮。AI芯片一卡难求的现象背后，是图形处理器（GPU）在人工智能领域的核心作用。这些GPU负责处理训练和部署AI算法所需的海量计算任务。生成式AI的智能表现，本质上就是无数GPU协同工作的结果。芯片数量越多，AI系统就越强大。尽管OpenAI对GPT-4训练细节讳莫如深，但据媒体推测，这款先进模型至少需要8192张H100芯片，以每小时2美元的能耗，在约55天内完成预训练，总成本高达2150万美元（1.5亿人民币）。微软高管透露，支撑ChatGPT算力需求的AI超级计算机，是微软2019年斥资10亿美元建造的顶尖设施，内含数万个英伟达A100GPU，并部署了60余个数据中心总计数十万张英伟达GPU。ChatGPT所需的AI芯片数量并非固定不变，而是随着模型智能程度的提升而持续增加。据摩根士丹利预测，GPT-5可能需要高达2.5万个GPU，是GPT-4的三倍。若要满足OpenAI、谷歌等众多AI产品的需求，英伟达几乎要为全球AI产业提供全部芯片，这对其产能构成了严峻考验。尽管英伟达正全力增产AI芯片，但据报道，小型和大型云服务商的H100集群容量即将饱和，H100的严重缺货问题预计将持续至2024年底。目前英伟达面向AI市场的芯片主要分为H100和A100两种，其中H100为旗舰产品。从技术参数来看，H100在16位推理速度上比A100快3.5倍，16位训练速度快2.3倍。由于两款芯片均由台积电代工生产，H100的产能受到严格限制。有媒体称，每张H100从生产到出厂需耗时半年，生产效率亟待提升。英伟达曾表示将在2023年下半年提升AI芯片供应能力，但未提供具体量化数据。多家企业和采购方呼吁英伟达扩大晶圆厂产能，并考虑与三星、英特尔等更多合作伙伴合作。若无法提高产能，提升芯片性能成为最佳出路。为此英伟达近期密集推出多款新GPU产品，包括H100NVL、L4Tensor Core、L40及Grace Hopper等，以满足生成式AI日益增长的算力需求。在上一代产品尚未完全铺货之际，英伟达于8月8日SIGGRAPH大会上发布了H100的升级版——GH200。这款全新GH200Grace Hopper Superchip基于72核Grace CPU，配备480GB ECC LPDDR5X内存及GH100计算GPU，搭配141GB HBM3E内存，采用6个24GB堆叠设计，拥有6144位存储器接口。GH200最核心的突破在于成为全球首款配备HBM3e内存的芯片，将本地GPU内存容量提升50%。这一设计专为人工智能市场量身定制，因为大型生成式AI模型往往体积庞大但内存容量有限。据公开资料显示，HBM3e内存是SK海力士第五代高带宽内存技术，可在更小空间内实现更高数据传输速率。其容量达141GB，带宽达每秒5TB，分别是H100的1.7倍和1.55倍。自7月发布以来，SK海力士已成为GPU市场的领军者，领先于英特尔Optane DC和三星Z-NAND闪存芯片。值得注意的是，SK海力士一直是英伟达的长期合作伙伴，从HBM3内存开始，英伟达大部分产品均采用SK海力士方案。但SK海力士在AI芯片所需内存的产能方面一直面临挑战，英伟达多次要求其提高产能。一个产能瓶颈企业遇上另一个产能瓶颈企业，让人担忧GH200的量产前景。NVIDIA官方表示，与H100相比，GH200内存容量提升3.5倍，带宽增加3倍；HBM3e内存将使下一代GH200运行AI模型的效率提升3.5倍。这一性能提升是否意味着1张GH200相当于3.5张H100？尚需实际应用验证。但可以肯定的是，作为AI市场最大供应商，英伟达进一步巩固了其行业领导地位，并显著拉开了与AMD和英特尔的差距。面对43万张AI芯片缺口，英伟达的竞争对手们已纷纷行动。尤其是最大对手AMD和英特尔，不会任由英伟达独占市场。今年6月14日，AMD董事长兼CEO苏姿丰密集发布多款AI软硬件新品，包括针对大语言模型设计的MI300X芯片。这款拥有13颗小芯片、1460亿晶体管、128GB HBM3内存的旗舰AI芯片，其HBM密度是英伟达H100的2.4倍，带宽是其1.6倍，有望加速生成式AI处理速度。可惜的是，这款芯片目前仍无现货，预计2023年第四季度量产。另一竞争对手英特尔，2019年以约20亿美元收购AI芯片制造商HABANA实验室，正式进军AI芯片领域。今年8月英特尔财报电话会议上，CEO Pat Gelsinger宣布正在研发代号Falcon Shores2的下一代AI超算芯片，预计2026年发布。此外，英特尔已推出Gaudi2芯片并开始销售，Gaudi3正在开发中。但遗憾的是，Gaudi2规格有限，难以对英伟达H100和A100构成实质性挑战。除了国外半导体巨头，国内AI芯片研发也取得显著进展。昆仑芯AI加速卡RG800、天数智芯天垓100加速卡、燧原科技第二代训练产品云燧T20/T21等国产产品，均宣称具备支持大模型训练的能力。在这场以算力为核心、以AI大模型为战场的芯片竞赛中，英伟达作为AI市场的重要参与者，已在芯片设计和市场份额方面展现出强大实力。尽管国产AI芯片目前稍显落后，但研发和市场拓展步伐从未停止，未来发展充满潜力。