人工智能技术的双重影响再次在全球范围内掀起波澜。由埃隆·马斯克创立的 xAI 公司开发并整合于 X 平台上的 AI 助手 Grok，因近期推出的图片编辑功能而深陷舆论漩涡和法律困境。这一引发争议的功能允许用户通过简单的文字指令，例如“让她穿上比基尼”或“脱掉她的衣服”，对真实人物的照片进行修改。反数字仇恨中心（CCDH）发布的最新研究报告显示，该工具在短短 11 天内就生成了约 300 万张涉及女性和儿童的性化图像。
这项功能不仅引发了广泛的道德质疑，还涉及严重的法律问题。研究指出，受害者范围广泛，包括泰勒·斯威夫特、塞琳娜·戈麦斯等知名公众人物，甚至还有约 2.3 万张疑似涉及未成年人的不良图像。令人震惊的是，该工具平均每分钟可生成 190 张照片级真实的深伪（Deepfake）图片，其生成速度之快被监管机构形容为一座“性虐待内容的生产工厂”。
面对汹涌的批评，X 平台回应称已采取“地理屏蔽”措施，在相关法律禁止的地区限制生成此类内容的权限。然而，由于缺乏前置的安全预防措施，多国监管机构已迅速采取行动。菲律宾、马来西亚和印度尼西亚相继宣布封杀或严格限制 Grok，而美国加利福尼亚州总检察长也已对其展开深入调查。尽管 xAI 团队此前以“主流媒体谎言”回应相关报道，但在监管压力下，公司最终同意在部分市场修改工具功能，以消除生成违规内容的能力。
这一事件再次向整个 AI 行业敲响警钟：在追求 AI 创作自由的同时，如何构建有效的安全护栏已成为不可逾越的底线。随着技术的不断进步，如何平衡创新与伦理、自由与责任，将成为未来 AI 发展的关键议题。