微新创想(idea2003.com) 10 月 27 日消息：英国首相 Rishi Sunak 近期就人工智能（AI）技术的潜在风险发出强烈警告，强调政府在其中扮演着不可或缺的监管角色。他明确指出，AI 技术的滥用可能使制造化学或生物武器的过程变得前所未有的简单，进而引发社会恐慌，甚至在极端情况下，可能导致 AI 完全脱离人类控制。这一表态正值 Sunak 准备召集一场全球性 AI 安全会议前夕，他希望通过此次会议凝聚共识，就 AI 风险的性质达成一致，并组建一个专门的风险评估小组。
为了更深入地理解和应对 AI 带来的挑战，英国政府计划设立人工智能安全研究院。Sunak 在相关声明中表示，该研究院将承担起“检查、评估和测试新型 AI”的核心任务，旨在全面掌握各类 AI 模型的能力边界，并系统性地探讨从社会层面的偏见与误信息，到最极端风险的各种可能性。这一举措标志着英国在 AI 安全领域迈出了关键一步，展现了其作为全球科技领导者的高度责任感。
此次全球会议将于 11 月 1 日至 2 日在英国南部的布莱切利公园（Bletchley Park）举行。这个承载着二战密码破译传奇的历史地点，如今将成为全球 AI 安全合作的新起点。Sunak 在讲话中特别强调：“如果处理不当，AI 可能会使制造化学或生物武器变得更加容易。在极不可能但极端的情况下，甚至存在人类完全失去对 AI 控制的风险。” 他希望通过这次会议，确立英国在 AI 安全领域的全球领导地位，并在美国、中国和欧盟等主要经济体之间，为脱欧后的英国找到独特的战略定位。
根据会议议程，约 100 名来自全球的专家学者将齐聚一堂，共同探讨 AI 不可预知的进步、人类可能失去对其控制的潜在可能性等关键议题。美国副总统卡马拉·哈里斯（Kamala Harris）和 Google DeepMind 首席执行官德米斯·哈萨比斯（Demis Hassabis）等重量级嘉宾的出席，无疑将提升会议的全球影响力。值得一提的是，今年 5 月，由加拿大、法国、德国、意大利、日本、英国、美国和欧盟组成的七国集团（G7）领导人已率先呼吁建立 AI 标准体系，并成立了名为“广岛 AI 进程”的部长级论坛，旨在推动全球 AI 安全合作进程。