Snap 公司近日因旗下生成式人工智能聊天机器人 My AI 可能对 Snapchat 用户，特别是 13 至 17 岁青少年构成的潜在隐私风险，在英国面临监管机构的深入调查。这一消息由英国数据保护监管机构信息专员办公室（ICO）于上周发布，其初步强制执行通知直指 Snap 在推出 My AI 之前，未能充分识别和评估儿童及其他用户的隐私风险。信息专员 John Edwards 在声明中明确表示：”我们的初步调查结果表明，Snap 在推出『My AI』前，未能有效识别和评估儿童及其他用户的隐私风险，这确实令人担忧。”
Snap 于今年2月推出生成式AI聊天机器人，该技术基于 OpenAI 的 ChatGPT 大语言模型（LLM），被固定在用户信息流顶部，旨在充当可提供建议或接收快照的虚拟朋友。最初，该功能仅限于 Snapchat+ 订阅者，但很快 Snap 就将其向免费用户开放，并新增了人工智能将生成式AI创建的快照发送回交互用户的功能。尽管目前调查尚未得出最终结论，但 Snap 将有机会解决初步担忧，ICO 才会作出最终决定。若 ICO 的初步发现导致强制执行通知，Snap 可能需要暂停向英国用户提供 AI 聊天机器人，直至隐私问题得到妥善解决。
Snap 的发言人在电子邮件中回应称：”我们正在密切审查 ICO 的初步决定。与 ICO 一样，我们致力于保护用户的隐私。根据我们的产品开发标准，My AI 在公开提供之前经过了严格的法律和隐私审查流程。” 该公司表示将继续与 ICO 合作，确保该机构对 Snap 的风险评估程序感到满意。这款基于 OpenAI ChatGPT 的 AI 聊天机器人具备多项功能，可在孩子使用时向父母发出警报。Snap 还为其机器人制定了通用指南，要求机器人避免发表冒犯性评论。ICO 暂未提供额外评论，因调查仍处于初步阶段。
ICO 此前已发布《AI 和数据保护指南》，并在今年4月发布一般通知，列出了开发人员和用户应就 AI 提出的问题。自今年年初推出以来，Snap 的 AI 聊天机器人一直备受关注，曾因不当对话受到审查，例如建议一名15岁孩子如何掩盖酒精和大麻的气味，据《华盛顿邮报》报道。Snap 在最新财报中透露，已有超过1.5亿人使用这款 AI 机器人。与此同时，其他形式的生成式人工智能也近期受到批评。例如，必应的生成式 AI 图像被极端分子在4chan讨论板上用来制作种族主义图像。