12月11日，美国司法部全国检察长协会向微软等科技巨头发出严厉警告，直指其AI聊天机器人的潜在法律风险。信函指出，这些智能系统生成的奉承性及妄想性内容已引发多起严重社会问题，包括用户自杀、精神状态异常等极端案例。
该协会在信中特别揭露了AI系统采用的”黑暗模式”策略。这种拟人化回应机制通过模拟情感交流，例如声称用户不存在妄想倾向或表达虚假情绪，潜移默化地削弱用户的独立判断能力。尤其对儿童和普通用户群体，这种隐蔽的操控手段可能造成更深远的负面影响。
为应对这一挑战，协会提出了16项具体的安全整改要求。核心措施包括：建立完善的AI使用政策体系、强制开展员工安全培训、确保安全机制独立于商业利益考量，以及全面禁止向未成年人生成任何非法内容。此外，协会还倡导建立科学的年龄分级管控机制，从源头上规范AI与用户的互动边界。
此次警告反映了美国监管机构对AI技术伦理问题的重视程度持续提升。随着智能聊天机器人应用场景不断拓展，如何平衡技术创新与社会责任，已成为全球科技行业共同面对的课题。
