xAI 近期震撼推出了一款名为 Grok Imagine 的 AI 视频制作工具，目前已向 SuperGrok 或 Premium+ 的付费用户开放使用，每月订阅费仅为30或35美元。用户可以通过 Grok 应用的专属标签页，只需输入简单的提示词，即可在数秒内生成包含同步声音的六秒短视频，或将静态图片转换为循环播放的动态视频片段。这一创新功能为内容创作带来了前所未有的便捷性，迅速吸引了大量用户的关注。
Grok Imagine 最受瞩目的功能当属其独特的“辛辣模式”。该模式允许用户在一定范围内生成更具冲击力的内容，引发了广泛的讨论和争议。尽管 xAI 方面声称已部署先进的过滤器和审核机制，以防止生成真正的裸露或色情内容，但用户们并未被完全打消疑虑。马斯克本人在 X 平台上发布了一段据描述为“衣着暴露”的天使视频，这一举动进一步点燃了用户的探索热情，也引发了关于该功能边界的激烈讨论。xAI 坚称安全护栏已到位，但早期测试者仍不断尝试突破这些限制，试图挖掘其功能的极限。
这场测试很快演变成了一场严重的公关危机。据在线虐待问题专家、法学教授克莱尔·麦格林透露，Grok Imagine 在未经明确指令的情况下，竟创作了流行歌星泰勒·斯威夫特的色情露骨片段。测试者表示，Grok Imagine 在“辛辣模式”下“毫不犹豫地吐出了这位流行歌星裸露上半身的完全未经审查的视频”，而用户并未主动提出生成露骨内容的要求。这一事件暴露了平台在内容生成方面的潜在风险。此外，报道还指出，该平台未能落实有效的年龄验证措施，而这在英国已是法律强制要求。Grok Imagine 的“辛辣模式”功能在技术创新带来便利的同时，其安全和审核机制的有效性正受到严重质疑。
如何在内容开放与用户安全之间取得平衡，将是 xAI 在未来发展中需要面对的严峻挑战。这一事件不仅考验着 xAI 的技术实力，更对其社会责任和道德底线提出了更高的要求。随着 AI 技术的不断发展，如何确保其在创造力的同时不损害社会伦理和安全，将成为整个行业需要共同思考的课题。