微新创想：抖音近期针对AI生成的色情低俗类违规内容展开严厉打击。平台今年以来已处置相关内容4.2万条 对1.4万个账号采取限制推荐、禁言、封禁等不同梯度的处罚措施 坚决维护健康的网络环境。平台巡查发现 部分违规用户借助AI技术生成各类低俗擦边内容 还通过多种方式进行色情导流 相关行为均违反了平台自律公约。
其中有黑产团伙利用AI生成内容塑造特定人设 发布性感擦边视频并搭配性暗示文案 诱导用户跳转至第三方平台下载色情低俗应用 该团伙4人已被依法刑事拘留。还有部分账号将AI生成的美女图片设为直播间封面 引导观众查看主页收藏 进而为色情网站导流 平台已对339个相关账号无限期回收直播权限。
同时 8421个持续发布AI生成的着装暴露擦边内容的账号 也被平台采取梯度处罚并清理违规内容。抖音表示 此类色情低俗导流行为已触犯相关法律法规 涉嫌非法利用信息网络罪、传播淫秽物品罪 平台会主动将相关违法线索上报公安机关。
后续抖音还将持续升级治理技术和手段 提升对AI生成不良内容的识别处置能力。平台致力于构建更加清朗的网络空间 保障用户合法权益。通过不断优化算法和加强人工审核 抖音努力减少不良信息的传播 提高内容质量。