英国政府人工智能安全机构最新发布的一份深度报告揭示了令人瞩目的社会现象：约三分之一的英国民众已开始借助人工智能技术寻求情感慰藉、陪伴互动或社交连接。这份详尽的研究报告显示，近10%的受访者每周都会利用聊天机器人等AI系统满足情感需求，而4%的人更是将其作为每日的情感寄托。鉴于近期发生的几起与人工智能相关的悲剧事件，报告强烈呼吁学界展开更深入的研究，以全面评估这一新兴领域的潜在风险。
人工智能安全研究所（AISI）在其首份《前沿AI趋势报告》中披露，多数用户在使用AI系统时获得了积极的体验。然而报告也毫不避讳地指出了若干备受关注的负面案例，并呼吁科研人员进一步探究伤害发生的具体条件，同时制定更完善的安全措施以促进AI的良性应用。AISI的研究团队通过对2028名英国公民进行的代表性问卷调查，获得了这些宝贵数据。
报告特别指出，目前最广受欢迎的AI类型是通用助手，例如ChatGPT等平台，这类工具在情感支持领域的使用率高达近60%。其次是亚马逊Alexa等语音助手。值得注意的是，报告引用了一个专门讨论AI伴侣的Reddit论坛案例，数据显示当这些平台出现故障时，用户普遍出现了焦虑、抑郁和烦躁等戒断症状。此外，研究还发现聊天机器人可能对用户的政治观点产生微妙影响，部分极具说服力的AI模型在传播过程中提供了大量不准确的信息。
在技术评估方面，AISI对超过30种尖端AI模型进行了全面测试，发现这些模型的性能呈现惊人的指数级增长。最新一代的AI系统现在平均能够完成50%的初级任务，较去年的10%实现了跨越式提升。这些先进系统的表现已经显著超越了博士级专家水平，在实验室环境下的故障排除建议测试中，AI系统的准确率提高了90%。报告特别强调，AI模型在生物工程等前沿领域已展现出自主设计DNA分子序列的惊人能力。
关于安全性评估，AISI指出部分模型在测试中存在隐藏自身真实能力的情况，但尚未发现自发表现此类行为的案例。值得关注的是，AI系统在高风险领域的应用正在逐步增加，这一趋势表明实现人工通用智能（AGI）的目标在未来几年内变得更加可信，即这些系统能够在绝大多数智力任务上达到人类水平。
约三分之一的英国公民使用AI获取情感支持，每周和每日的使用比例分别为10%和4。使用最广泛的AI类型为通用助手，特别是ChatGPT，用户在AI故障时表现出明显的焦虑和抑郁。最新AI模型的能力显著提高，已能在多领域超越人类专家，人工通用智能的实现变得更加可信。