奥特曼呼吁全球重视AI灭绝风险

2023-06-17 08:41:22 互联网 21 次阅读

当人们开始怀疑阴谋论时，整个世界似乎都充满了隐秘的布局。编者按：本文源自微信公众号刘润（ID：runliu-pub），由二蔓撰写，李桑编辑，经微新创想授权发布。2023年，每一天都上演着重大新闻，其中大部分都与人工智能息息相关。年初，ChatGPT突然崛起，随后AI领域接连爆发重磅消息。GPT-4、Microsoft 365 Copilot、Midjourney V5、Google PaLM API等创新相继问世，铺天盖地的消息席卷了每个人的视野。就在5月31日，AI界再传重大事件——包括OpenAI CEO山姆·奥特曼在内的众多AI领域领袖联名发布公开信，呼吁全球共同降低人工智能带来的灭绝风险。这封公开信篇幅极短，仅22个词，却字字千钧：”Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.”（缓解人工智能导致的灭绝风险，应与流行病和核战争等社会规模风险同等视之，作为全球优先事项）。短小精悍的文字背后，隐藏着怎样的深意？

记得不久前也曾有过类似的公开信。人工智能的飞速发展本应是提升效率的福音，为何会与流行病、核战争相提并论？他们究竟在担忧什么？这与我何干？这些问题至关重要。我试图梳理这封公开信的来龙去脉，探究AI领域的忧虑如何逐步累积，以及我们该如何应对。越梳理越发现，山姆·奥特曼的格局可能远超我们的想象。

### 灭绝风险

还记得3月30日那封著名的”AI公开信”吗？由埃隆·马斯克等一千多名业界、学界人士联名呼吁，要求所有AI实验室暂停训练比GPT-4更强大的系统，至少6个月。距离年初GPT-3.5爆火才119天，GPT-4推出仅两周，为何众多大咖集体发声？核心原因在于AI发展速度过快，监管和法律未能及时跟进，甚至发明者自身也缺乏有效控制手段。无节制使用AI可能带来深远风险：数据泄露、隐私侵犯、社会不公等。更令人担忧的是”超级人工智能”的出现——这种远超人类智能的存在可能对人类构成灭绝威胁。

“这么夸张？”AI本应是提升效率的工具，为何会被如此描绘？因为从业者未曾预料到”连接主义”的强大。

### 连接主义

长期以来，AI发展遵循”逻辑主义”路线，通过公理和逻辑体系构建系统。学习语言时，需要掌握语法规则：”主语+谓语+宾语”。但语言充满微妙情感，一个”嗯”字背后可能隐藏八万四千种情绪，规则永远无法穷尽。人类学习语言却截然不同——在环境中自然习得，而非死记硬背。大脑神经元通过不断连接外界刺激，最终涌现出知识和智慧。这种模式被AI领域称为”连接主义”，如今已成为主流。

今天的AI之所以越来越强大，是因为它们越来越像人类，拥有上万亿个”神经元”。明天呢？上万亿个神经元接触海量数据后，会涌现出怎样的智慧？埃隆·马斯克警告：”人工智能远比核武器更危险。”必须有人呼吁、干预、大声疾呼。

### 纳什均衡

收到3月30日公开信的从业者会立即暂停AI训练吗？大概率不会。这源于”坏的纳什均衡”：剧场中第一排观众站起来看戏，导致后排所有人不得不起身，最终所有人都站着看完，但观看体验与坐着时相同。每个人都选择”不遵守规则”是最优策略，但集体不遵守只会导致最差结果。一纸公开信往往沦为废纸——提议者不遵守，暂停开发沦为秘密开发。就像所有对手都举枪时，放下武器就是死路一条；若别人都在研究，自己不参与就会损失惨重。

### 行政手段

如何打破这种困境？行政手段是关键。禁止站起，站起者罚款；禁止校外辅导课，参加者罚款；禁止不合规广告，使用者罚款。当”不遵守规则”面临严厉惩罚时，人们才会选择遵守。当规则被普遍遵守，或许会发现坐着反而更好。5月16日，山姆·奥特曼在美国参议院听证会上表示：”政府监管对行业未来至关重要”，甚至主动请求”戴上手铐”。他提出三点建议：建立政府机构发放许可证，制定安全标准并强制测试，引入第三方专家独立评估。这些措施将限制AI发展，但奥特曼认为这是必要的。

### 非营利机构

许多人低估了奥特曼的格局。OpenAI是一家非营利机构，其运作并非为盈利，而是通过收益支撑活动，盈余必须再投入”造福人类”的事业，不能分红。就像收费高昂的私立学校，学费用于改善教学条件而非个人所得。若收入不足，只能接受捐赠。OpenAI的梦想是用通用人工智能造福全人类，而非赚钱。即使意外获利，也必须继续投入公益事业。听证会上，奥特曼坦言：”我在开放人工智能中没有股权，赚的钱只够买食物和保险。”听证会人员震惊：”你需要律师，我怀疑你被骗了。”