近日,一家名为“Woman Shot AI”的YouTube频道因其发布令人震惊的AI生成视频内容而遭到平台封禁。该频道自2025年6月20日上线以来,迅速积累了超过17.5万次观看,发布了27个视频,并吸引了近1200名订阅者。然而,这些视频的内容却引发了广泛的争议和不安。
这些AI生成的视频以极其血腥的场景为主题,主要展示女性在枪击下乞求生存的画面。根据404媒体深入调查发现,频道中的视频内容都遵循着相似的格式,其中不乏一些知名游戏角色,例如“古墓丽影”中的劳拉·克劳馥。在这些视频中,女性角色往往遭受暴力的对待,甚至有一则视频令人发指地展示了俄国士兵枪杀流泪的乌克兰女性,画面中女性的胸前还贴有国旗,极具挑衅和侮辱性。
更令人担忧的是,频道的创作者还在视频中设置了带有种族歧视色彩的投票选项,让观众选择下一部“受害者”的视频,这种极端的厌女情绪和扭曲的喜好令人不寒而栗。这种极具争议性的内容在社交媒体平台上引发了轩然大波,许多用户表示强烈的不满和担忧。
面对公众的强烈反应,404媒体向YouTube提出了质疑并请求评论。最终,YouTube官方宣布删除了该频道,并指出其违反了平台的服务条款。YouTube的一位发言人表示,该频道之前曾因类似内容遭到过禁令,此次封禁是经过慎重考虑的。
据了解,该频道使用了谷歌新推出的文本到视频生成工具Veo 3。尽管这款工具具有一定的生成限制,但频道创作者通过采用多重账户的方式,成功规避了这些限制,继续发布不当内容。发言人强调,谷歌对其生成AI工具的使用有明确的政策,并一直在不断改进其管理机制,以防止类似事件再次发生。
这一事件再次引发了人们对AI生成内容的广泛关注,尤其是那些不当使用AI技术的案例。虽然AI技术具有广泛的应用前景,但也存在潜在的道德和法律风险。如何更好地监管和引导AI技术的发展,成为了亟待解决的问题。
划重点:
– 📺 YouTube删除了一家名为“Woman Shot AI”的频道,该频道发布了涉及女性被杀害的AI生成视频。
– 🔍 频道创作者利用多个账户规避视频生成限制,显示出其极端的厌女情绪和不当内容。
– ⚖️ 此事件引发了对AI生成内容的讨论,突显了对AI技术使用的监管需求。