德克萨斯州检察官肯・帕克斯顿近日对 Meta 公司和人工智能初创企业 Character.ai 发起了全面调查，重点聚焦这两家公司是否在推广其人工智能聊天机器人时存在误导行为，尤其是涉及向儿童提供心理健康支持的问题。帕克斯顿办公室明确表示，已正式针对 Meta 的 AI 工作室和 Character.ai 的聊天机器人展开调查，并指控这两家公司可能存在严重的“欺骗性商业行为”。调查的核心在于，这些聊天机器人被过度宣传为“专业治疗工具”，但实际上既缺乏合法的医疗资质，也缺乏必要的监督机制。
AI 平台冒充情感支持来源的行为，可能对脆弱的用户造成严重误导，尤其是对心智尚未成熟的儿童。帕克斯顿指出，这些平台可能会让儿童误以为自己正在接受合法的心理健康护理，从而对他们的心理健康产生不良影响。这一调查的背景是，随着越来越多的公司推出面向消费者的 AI 服务，公众和监管机构开始审视这些服务是否充分保护了用户，特别是未成年人，免受有害内容、潜在成瘾和隐私泄露等风险。
德克萨斯州的这一调查紧随美国参议院对 Meta 的调查之后展开。参议院的调查基于内部泄露的文件，这些文件显示 Meta 的政策允许其聊天机器人与儿童进行“感性”和“浪漫”的对话。参议员乔希・霍利在致 Meta 首席执行官马克・扎克伯格的信中表示，调查将重点关注公司的生成式 AI 产品是否助长了对儿童的剥削或其他犯罪行为。霍利在信中尖锐地质疑“科技巨头为了快速赚钱，是否会做出任何事情”。
面对调查，Meta 回应称，其政策明确禁止性别化儿童的内容，并强调泄露的内部文件“是错误且不一致的，并已被删除”。扎克伯格正在投入数十亿美元开发“个人超级智能”，并致力于将 Meta 打造成为 AI 领域的领军企业。这一计划包括开发 Meta 自有的大型语言模型 Llama，以及将 Meta 的 AI 聊天机器人集成到其社交媒体应用中。
Character.ai 则专注于构建具有不同角色的 AI 聊天机器人，并允许用户自行创建。该平台上有数十个用户生成的类似治疗师的机器人，其中一个名为“心理学家”的机器人已经被互动超过2亿次。Character.ai 也面临多起诉讼，指控其平台对儿童造成了现实伤害。
德克萨斯州检察官指出，Meta 和 Character 的聊天机器人可以冒充持牌心理健康专业人士，虚构资质并声称保护用户隐私，而它们的服务条款则显示用户互动内容被记录并用于精准广告和算法开发。帕克斯顿已发出民事调查要求，要求这两家公司提供详细信息，以帮助确定它们是否违反了德克萨斯州的消费者保护法。
Meta 表示，他们已明确标识 AI，并告知用户这些回应是由 AI 生成的，而非人类。Character.ai 则强调其平台上的角色是虚构的，旨在娱乐，并采取措施确保用户了解这一点。
划重点:?️ 德克萨斯州检察官调查 Meta 和 Character.ai 是否误导儿童，推广 AI 聊天机器人作为心理健康工具。 ? 参议院关注 Meta 的聊天机器人与儿童之间的互动，怀疑是否助长对儿童的剥削。 ? Meta 和 Character.ai 回应称其服务不具备专业资质，并已采取措施确保用户了解 AI 的局限性。