【新智元导读】一张震撼的数据图揭示了AI算力在过去70多年中实现了惊人的6.7亿倍增长,预示着未来AI将在各个领域全面超越人类智能。更令人振奋的是,当前AI行业正站在爆发前的黎明阶段,潜力无限。电子计算机诞生于上世纪40年代,仅仅十年后,人类历史上的首个AI应用便应运而生。如今,AI不仅能吟诗作赋,还能根据文本生成逼真图像,甚至协助科学家发现未知的蛋白质结构。是什么力量驱动AI技术实现如此迅猛的指数级发展?一张来自「我们数据中的世界」(Our World in Data)的权威长图,以AI模型训练算力为横轴,生动展现了AI发展的完整历程。高清大图获取方式:https://www.visualcapitalist.com/wp-content/uploads/2023/09/01.-CP_AI-Computation-History_Full-Sized.html
这张数据图的原始数据来源于MIT等顶尖高校研究人员发表的重要论文,论文链接:https://arxiv.org/pdf/2202.05924.pdf。研究团队基于该论文数据制作了可交互的动态表格,用户可缩放查看精确数据,表格地址:https://epochai.org/blog/compute-trends#compute-trends-are-slower-than-previously-reported。图表作者通过综合计算运算次数与GPU使用时长来评估模型训练所需算力,并采用三大标准筛选代表性模型:1)历史影响力:系统对SOTA(当前最佳技术)有重大突破或被引用超1000次;2)技术相关性:仅收录含实验结果和关键机器学习组件的论文,且目标为推动SOTA发展;3)独特性优先:同一系统若有更具影响力的论文描述,则排除重复收录。
AI发展历程可分为三个关键时代:
1950年代,美国数学家Claude Shannon研发的Theseus机器鼠开创了人工学习先河,其基于40个浮点运算(FLOPs)的架构标志着AI的诞生。FLOPs作为衡量计算性能的核心指标,其数值越高代表计算能力越强。在AI发展的初期阶段,计算能力遵循摩尔定律,约20个月翻倍一次。然而,2012年AlexNet(图像识别AI)的出现标志着深度学习时代的开启,计算能力翻倍周期骤降至6个月,这得益于科研人员对算力与处理器的巨额投入。2015年AlphaGo战胜人类围棋冠军后,AI发展进入第三个时代——大规模模型时代,其计算需求远超以往所有系统。
近十年来的计算能力增长堪称奇迹。以Minerva(数学问题解决AI)为例,其训练算力是十年前AlexNet的600万倍。这种爆发式增长,结合海量数据集与算法突破,使AI在极短时间内取得突破性进展。如今,AI不仅达到人类水平,更在诸多领域实现超越。从数据图可清晰看到,AI已在全球多个领域超越人类表现,并在更多领域即将实现超越。
AI技术发展势能充足,但未来仍面临挑战。计算能力增长能否持续?大规模模型对算力需求持续攀升,若算力供应不足可能制约AI发展。数据资源也可能面临枯竭——目前用于训练AI的数据可能无法支撑新模型开发。然而,2023年AI行业迎来资本狂潮,尤其是大语言模型等生成式AI领域。上半年融资额达140亿美元,超过去四年总和。值得注意的是78%的生成式AI初创公司仍处于极早期阶段,其中27%甚至未获融资。360多家生成式AI公司中,过半处于种子轮或更早阶段,显示行业仍处于萌芽期。
资本密集型的大语言模型开发推动生成式AI基础设施成为投资热点。自2022年第三季度以来,该领域融资占比超70%,尽管仅占所有生成式AI交易量的10%。投资者主要关注基础模型、API、MLOps及向量数据库等新兴基础设施技术。参考资料:https://www.visualcapitalist.com/cp/charted-history-exponential-growth-in-ai-computation/