OpenAI创始人：追求真理的AI使命与未来愿景

2023-08-04 18:17:26 互联网 53 次阅读

编者按：本文源自微信公众号中国企业家杂志（ID：ciweigongshe），经吴莹整理，微新创想获授权发布。7月24日，OpenAI首席执行官山姆·阿尔特曼（Sam Altman）正式推出历经多年研发的加密货币项目世界币（WorldCoin），再次引发全球瞩目。阿尔特曼正以实际行动践行其承诺，致力于为人类在人工智能时代创造更美好的生活。三个月前，山姆·阿尔特曼与OpenAI联合创始人格雷格·布罗克曼（Greg Brockman）共同接受美国知名播客采访。访谈中，这两位OpenAI的核心人物深入探讨了各自的AI理念，并就AI对各行各业的深远影响、潜在安全风险以及跨领域投资策略进行了全面交流。在阐述OpenAI的宏伟愿景时，两人不约而同地强调，他们致力于开发对全人类有益且安全的通用人工智能（AGI）。对于备受关注的AI安全问题，他们坦诚承认存在风险，并表示正积极寻求解决方案。此外，两人还分享了在其他领域的投资兴趣，阿尔特曼对清洁能源产业表现出浓厚关注，而布罗克曼则对医疗和教育行业展现出强烈热情。以下是访谈中的核心观点：

1. 我们正全力打造对全人类有益且安全的通用人工智能。
2. 根本目标是为每个人提供这项技术，消除创造与完成新任务的障碍，助力人类解决真正感兴趣的问题。
3. 我们已从单纯的知识存储阶段迈向更高层次——引导机器执行人类指令，并确保其行为符合社会价值观。
4. OpenAI已形成独特文化，注重细节与精准，吸引顶尖人才进行严谨的工程设计与科学研究。
5. 丰富清洁能源不仅能应对气候危机，还能带来多重效益，投资能源是比任何单一投入更重要的举措。
6. AI作为生产力工具，将赋能科学家，加速科研进程。未来3-10年，AI将如何重塑行业格局？

**主持人：** 首先，能否简要介绍OpenAI的使命？你们所有决策的出发点和核心目标是什么？

**阿尔特曼：** 我们的目标是为全人类开发有益且安全的通用人工智能。这是一项前所未有的挑战，我们深知前路漫长且充满未知，但始终坚守这一方向。我坚信AI将是人类历史上最具变革性的技术，它将推动未来所有技术的发展，前景无限光明。

**布罗克曼：** 2015年创立OpenAI时，我就坚信人工智能终将到来，并清楚实现这一目标需要漫长岁月。但能有机会影响这项技术的走向，让我倍感兴奋。我们的愿景是让AGI对全人类产生积极影响，并探索实现这一目标的方法。起初，我们虽有理想，却不知如何落地。经过多年努力，我们终于找到构建真正实用系统的路径，并将价值观融入其中。近年来，我们的技术逐渐走向主流，人们开始从中受益，这让我们备受鼓舞。尽管技术仍处早期阶段，仍需完善，但我们坚信，应让每个人参与其中，享有发言权。如何实现有效的全球治理，与技术开发同等重要。

**主持人：** 全球约10亿中产阶级已自由使用AI提升工作与学习效率，那么AI如何帮助剩下的70亿人？

**布罗克曼：** 我们开发的AI具有开放性，不设访问门槛，每个人都能接触和使用。通过收集用户偏好与反馈，持续优化技术，这正是我们研发的初衷。作为非营利组织，OpenAI的成果不会归股东所有，而是归公司所有，最终向全球分配。未来或可考虑全民基本收入（UBI）模式，以更公平的方式分配资源。我们的目标是为每个人提供技术支持，消除创造新任务的障碍，推动人类解决真正感兴趣的问题。

**阿尔特曼：** 真正可持续的经济增长源于技术进步，而社会政治管理与文化氛围能助力技术发展。我们正积极思考如何帮助剩下的70亿人，未来技术将更加智能，我相信技术是提升生活质量的关键。

**主持人：** AI在教育领域能发挥哪些作用？

**布罗克曼：** 如果我没创办AI公司，或许会开一家编程教育机构。想象一下，如果每个孩子都能得到一位真正懂他们的老师，全天候免费提供个性化指导，这该多好。像可汗学院已开始运用GPT-4辅助教学，并成功将其转化为实用导师。当学生请求“帮我做作业”时，AI会拒绝，并尝试了解其兴趣点，提供激励。我们正进入充分挖掘AI潜力的阶段。

**主持人：** 有些人质疑可汗学院等线上课程已足够，你们的新方案是否只是设想？未受教育的人群是否需要你们的AI产品？

**布罗克曼：** 传统教育依赖聪明人传授知识，若机器能超越人类智慧，将更高效。目前虚拟助手如Alexa和Siri在复杂思考方面仍显不足，我们需要更先进的AI增强人类能力。GPT-4的功能已让所有人看到，我们正从知识存储阶段迈向更高层次——引导机器执行任务，并遵循社会价值观。这些技术正是我们研究的重点。未来几年，我们将扩大技术使用规模，进行更多产品测试。

**主持人：** 未来3-10年，AI将如何影响行业？

**布罗克曼：** AI可应用于法律行业，例如Augrented工具帮助租户理解驱逐通知中的合同问题。这类服务能有效帮助弱势群体，这是AI极具价值的场景之一。

**主持人：** 市场认为AI能放大人类智力，如用GPT-4写书，你们如何看待？

**阿尔特曼：** 我完全认同这一观点，这也是我们努力的方向。一条推文让我印象深刻：有人从未想过会与GPT-4这样的智能共存。我们已进入AGI领域，证明构建能放大人类意志的AI是完全可能的。这将提升工作效率与质量，更重要的是，人们喜爱并从中获益。OpenAI最欣慰的是，产品深受用户欢迎，并带来诸多意外惊喜。

**“我们是一个追求真理的组织”**

**主持人：** OpenAI团队在研发ChatGPT时，有哪些惊喜时刻？

**布罗克曼：** 2017年，我们发布《无监督情感神经元》论文，虽未获广泛关注，但却是真正的突破。我们训练模型预测亚马逊评论中的下一个字符，意外学会了情感分析。机器从未被明确告知语言意义，而是通过任务执行自行领悟。机器学习虽不完美，但已能解决问题。让更多人体验编程乐趣意义重大，从未编程的人也能进入领域，优秀程序员能完成更多创造性工作。

**主持人：** 能否详细说明AI如何加速编码？

**布罗克曼：** 编码时，程序员需准确记忆库函数、参数等，而传统Copilot仅提供样板文件。如今AI能理解特定语言和库，甚至指出错误并解释原因，极大提升效率。

**主持人：** 阿尔特曼，你的惊喜是什么？

**阿尔特曼：** Noam Shazeer曾说：“我们未解释架构为何有效，将成果归功于神的恩赐。”这让我反复思考。作为经验主义者，我相信有效的方法越用越好。格雷格提到的“无监督情感神经元”是重大突破，GPT-4的成就也印证了AI的潜力。我坚信AI将走得更远。

**“推动OpenAI的力量”**

**主持人：** 你们仅凭数百人便超越大型科技公司，是什么力量驱动你们？OpenAI内部有核心领导者吗？

**阿尔特曼：** 我们的成功源于有意为之与幸运。关键因素是建立注重细节的文化，吸引顶尖人才进行严谨研究。OpenAI是一个追求真理的组织，我们专注于找到有效方法并持续改进。创立之初，我们与其他机构不同，采用高度集中的冒险策略，将资源投入核心项目。虽然风险重重，但我们深入研究并充满信心。

**布罗克曼：** 我从“第一原则”出发。早期，Ilya每天与我辩论一小时，讨论是否聘用传统博士或跨界人才。我们通过实践学习，无法预知一切，但能从经验中成长。OpenAI-Five在Dota2比赛中不落下风，这是首个规模化系统，随着算力投入，每周都会进步。我们的目标是耗尽现有算法空间，为新技术腾出空间。

**阿尔特曼：** 扩大OpenAI-Five规模时，无人认为能成功。但事实证明，增加算力能提升AI智能，这像惊人的科学发现。

**布罗克曼：** 我们还研究了算法融合，GPT-4等系统由此诞生。意识到GPU算力需整合到新算法中，这需要全人类协作。

**“AI作为生产力工具”**

**主持人：** 阿尔特曼，有人认为AI发展太快，应加强监管。你们如何看待？在监管、全球治理或人才吸纳方面有何建议？

**阿尔特曼：** 我理解焦虑，但暂停研究无益。我们需要制定有效监管方法，保持科技发展节奏稳定。机构应逐步融入科技，提供反馈，帮助识别风险与机遇。

**布罗克曼：** 我们正努力解决技术与社会安全问题。创办OpenAI时，就聚焦安全AGI。技术安全与社会安全同等重要，我专注前者。过去四五年，我们通过过滤器、非模型干预措施修复GPT-3问题，如今能进行模型级干预，安全过滤效果显著。

**主持人：** AI批评者质疑能源消耗，你认为未来AI与能源如何发展？你在Helion Energy的投资有何期待？

**阿尔特曼：** AI未来不会无限智能或能源，而是成本下降、产品丰富。能源批评是低俗的。清洁能源能解决气候危机，投资能源比任何单一投入更重要。Helion正推动能源革命，期待明年传来好消息。

**主持人：** 布罗克曼，你在医疗、药物开发等领域投资有何思考？

**布罗克曼：** OpenAI内部基金投资Ambience Healthcare等医疗AI公司。医生面临大量行政工作，AI能减轻负担。Nuance等公司已将AI应用于医疗，未来医生能更专注患者护理。ChatGPT甚至帮助用户诊断宠物疾病，这展示了AI的介入方式。但需确保人类监督，避免错误决策。

**主持人：** OpenAI投资使用其平台的公司，会带来改变吗？其他公司会使用API吗？如何让AI赋能所有行业？

**阿尔特曼：** 人们正全球范围内调用OpenAI API，随着模型升级，产品能力将持续提升。