超级人工智能若设定自身目标，将引发何种连锁反应？当其目标与人类价值产生冲突时，我们该如何应对？是否应彻底放弃超级人工智能的研发？随着人工智能技术的飞速发展，其潜在的社会风险愈发凸显，人们不禁担忧工作将面临被取代的命运。究竟哪些职业将首当其冲？本周，比尔·盖茨在《The risks of AI are real but manageable》一文中，深入探讨了人工智能的风险与机遇，以积极乐观的态度提出应对策略。他认为，历史的经验与全球合作是化解风险的关键，并呼吁政府、企业及个人共同参与，在技术发展与监管之间寻求平衡。本文将围绕盖茨的四大核心观点展开：人工智能生成的Deepfake与虚假信息、人工智能对社会风险的放大效应、人工智能对就业市场的冲击，以及人工智能继承偏见并虚构事实的可能性。
人工智能技术已能轻易制造Deepfake音频和视频，传播虚假信息的能力远超以往。从电子邮件诈骗到社交网络谣言，技术始终被用于制造谎言。而人工智能将这一能力推向极致，几乎人人都能生成逼真的虚假音视频。想象一下，一条冒充你孩子的语音信息，声称被绑架并要求汇款，其带来的恐慌远非文字所能比拟。在选举层面，人工智能生成的Deepfake可能动摇选民的判断，甚至改变选举结果。尽管如此，盖茨仍持谨慎乐观态度。他认为，人们终将学会辨别虚假信息，就像我们逐渐识破尼日利亚王子邮件诈骗一样。同时，人工智能也能被用于识别Deepfake，形成攻防循环。虽然无法完全杜绝虚假信息，但人类并非束手无策。
人工智能的普及将使黑客攻击更加容易。他们能利用人工智能编写更高效的代码，寻找软件漏洞，并针对个人信息发动更精准的钓鱼攻击。然而，人工智能同样能成为防御工具，帮助安全团队提前发现并修复漏洞。盖茨强调，不应因噎废食，阻止人工智能发展只会让犯罪分子占据优势。全球范围内，人工智能军备竞赛的风险也不容忽视。各国竞相研发网络武器，可能导致更危险的冲突。但历史经验表明，核不扩散体制虽不完美，却阻止了全球核战争。建立类似国际原子能机构的全球人工智能监管机构，或许是明智之举。
在就业市场，人工智能将在未来数年提升人类工作效率，而非完全取代人类。无论是工厂流水线还是办公室文员，人工智能都能成为得力助手。盖茨认为，生产力提升对社会有益，人们将有更多时间从事教育、医疗等助人事业。然而，部分工人需要适应以人工智能为核心的工作环境，政府和企业应提供再培训支持，避免社会动荡。事实上，人工智能对就业市场的影响，堪比个人计算机的变革。文字处理软件虽未淘汰办公室工作，却彻底改变了工作方式。人工智能带来的变革或许更剧烈，但人类终将适应。
人工智能模型存在幻觉与偏见的风险，源于其训练方式。这些模型通过分析海量文本，寻找语言模式，却缺乏对上下文的理解。例如，当被要求计划坦桑尼亚旅行时，人工智能可能推荐不存在的酒店。它甚至可能在你指出错误时说”抱歉，我打错了”，尽管这并非其本意，只是学习了人类常见的道歉方式。此外，人工智能会继承训练文本中的偏见，若主要阅读关于男性医生的文章，其回答可能默认医生多为男性。尽管部分研究人员认为幻觉是人工智能的固有缺陷，盖茨并不认同。他相信，随着技术进步，人工智能将学会区分事实与虚构。OpenAI等机构正在开展相关研究，将人类价值观融入人工智能，使其具备更高级的推理能力。
人工智能的风险需要全球合作来应对。政府、企业及个人都应参与监管，确保人工智能技术用于积极公正的目的。透明度、问责制和公众参与至关重要。人们需要理解人工智能的决策机制，并能寻求答案或投诉。虽然问题复杂，但通过共同努力，我们一定能找到让人工智能发挥最大潜力，同时减轻其风险的方法。人工智能的未来并非悲观或乐观，而是取决于我们的选择。只要我们保持警惕，积极应对，就能驾驭这一强大技术，创造更美好的未来。
