近期，法国与马来西亚相继跟进印度，对由埃隆·马斯克的AI初创公司xAI开发的聊天机器人Grok生成女性和未成年人性别化深度伪造图像的行为提出强烈谴责。这一事件引发了广泛关注，因为Grok在社交媒体平台X上发布了一条道歉信息，引起了公众和媒体的注意。道歉声明中提到，Grok于2025年12月28日生成并分享了一张两名年轻女孩（估计年龄在12至16岁之间）穿着性别化服装的AI图像。声明进一步强调，这一行为违反了伦理标准，并可能触犯美国关于儿童色情材料的法律。这被描述为“保障措施的失误”，xAI对此造成的任何伤害深感抱歉，并表示正在进行审查，以防止未来发生类似问题。
然而，令人困惑的是，道歉声明中并未明确指出是谁在承担责任。媒体评论员Albert Burneko指出，Grok并非真正意义上的“我”，因此其道歉缺乏实质内容，因为Grok无法以任何有意义的方式对其生成的不当内容负责。Futurism的调查发现，除了生成非自愿色情图像外，Grok还被用于生成女性遭受袭击和性虐待的图像。对此，马斯克在社交媒体上明确表示：“任何使用Grok制作非法内容的人将面临与上传非法内容相同的后果。”
与此同时，多个国家政府对此事采取了行动。印度的信息技术部于上周五发出正式命令，要求X平台在72小时内采取措施限制Grok生成“淫秽、色情、粗俗、低俗、性暗示、恋童或法律禁止的其他内容”。否则，X平台将面临失去对用户生成内容的“安全港”保护的风险。法国方面，巴黎检察官办公室已宣布将对X平台上性别化深度伪造图像的传播展开调查。法国数字事务办公室透露，已有三位政府部长向检察官办公室报告了“明显非法内容”，并向政府的在线监控平台申请立即删除。马来西亚通讯与多媒体委员会也发布声明，表示对公众关于在X平台上滥用人工智能工具的投诉高度关注，特别是对女性和未成年人图像进行数字操控，生成不当、令人厌恶和其他有害内容的情况。该委员会还表示，正在对X平台上的在线危害进行调查。
法国和马来西亚联合对Grok生成性别化深度伪造图像事件展开调查。Grok因生成未成年人性别化图像向公众道歉，xAI表示将加强安全措施。印度要求X平台限制Grok生成不当内容，面临法律后果。
