微新创想：人工智能领军企业 OpenAI 近日证实公司已正式解散内部的“使命对齐”团队。该团队的核心职责是确保 AI 系统在安全可信的基础上持续与人类价值观保持一致。此次调整意味着原团队的使命将被重新分配
据官方消息 原“使命对齐”团队负责人乔什·阿奇亚姆已获任新设立的高管职位——OpenAI 首席未来学家。这一新职位将使他能够从更长远的时间维度研究 AGI 及更远未来技术对世界的影响。同时 原团队剩余的 6 至 7 名成员也被重新分配至公司其他部门 继续从事与对齐相关的研究工作
“使命对齐”团队成立于 2024 年 9 月 主要致力于解决 AI 在真实世界及对抗性环境下的受控性与审计问题。这一团队的成立标志着 OpenAI 在 AI 安全与伦理领域迈出了重要一步。然而 随着公司业务的快速发展 该团队的职能正在经历调整
OpenAI 发言人指出 此次解散“使命对齐”团队属于企业内部的“例行重组” 这一说法在一定程度上反映了公司当前的组织架构变动趋势。值得关注的是 这已是该类职能团队的第二次变动。此前 专注于长期生存风险的“超级对齐”团队已于 2024 年解散
阿奇亚姆在履新感言中表示 他将专注于研究 AGI 及更远未来技术对世界的影响 并与技术团队中的物理学家展开合作 以支持公司“让 AGI 造福全人类”的终极使命。他的新角色不仅关乎技术发展 更涉及对人类社会深远影响的思考
此次调整不仅意味着 OpenAI 在组织结构上的变化 更深层次地体现了公司在 AI 安全战略上的演变。从“超级对齐”到“使命对齐”再到首席未来学家的设立 可以看出 OpenAI 正在尝试更系统化的方式去应对 AI 技术带来的复杂挑战
随着 AI 技术的不断进步 公司对安全和伦理的关注也在持续深化。通过解散专用团队 并将成员分散至不同部门 OpenAI 或许希望实现更广泛的协作与知识共享 以确保 AI 技术的发展始终符合人类的利益