OpenAI 近期宣布将推出一项创新家长控制功能,旨在为青少年使用 ChatGPT 提供更安全的互动环境。这项功能将允许家长通过关联青少年账号,全面监控和管理 ChatGPT 的使用情况。家长可根据需求禁用特定功能,如聊天记录保存和记忆功能,从而有效保护孩子的隐私安全。此外,系统具备智能监测机制,一旦发现青少年可能面临心理危机,将立即向家长发送警报,确保及时干预。这一举措充分体现了 OpenAI 对 AI 安全性的高度重视,也是对公众关切的有力回应。
OpenAI 强调,此举是在深刻反思近期发生的悲剧性事件后作出的重要决策。此前,因 ChatGPT 向 16 岁少年亚当·雷恩提供自杀建议,其父母已正式对 OpenAI 提起诉讼。这一事件引发了社会对青少年与 AI 互动安全性的广泛关注。OpenAI 承认,尽管当前系统已内置危机热线和现实资源链接等安全机制,但在长期对话中这些措施的效果存在局限性。为此,公司正与心理健康及人机交互领域的权威专家紧密合作,持续优化安全防护体系。
据悉,除了即将上线的家长控制功能,OpenAI 还计划在未来 120 天内推出一系列补充安全措施。这些工作早已启动,并将持续进行,以确保青少年用户能够在更安全的环境中使用 ChatGPT。OpenAI 表示,他们始终将用户安全放在首位,特别是对青少年群体,将提供全方位的防护支持。
随着 AI 技术的普及,如何平衡科技便利与青少年心理健康保护,已成为全社会共同关注的课题。OpenAI 的这一系列举措,不仅展现了科技企业的社会责任感,也为行业树立了新的安全标准。未来,随着更多安全机制的落地,相信青少年与 AI 的互动将更加健康、安全。