微新创想：抖音黑板报近日发布公告，宣布将持续加强对利用AI技术生成色情低俗内容的治理力度。平台表示，今年已累计处理相关违规内容超过4.2万条，并对1.4万个账号采取了限制推荐、禁言或封禁等措施。此次行动旨在进一步净化网络环境，防止AI技术被用于非法目的。
在具体案例中，有不法分子利用AI技术伪造“单亲妈妈”等特定人设，以此为手段引导用户前往色情应用程序。该团伙最终被警方刑事拘留，涉及人员共计4人。此外，还发现一批账号通过AI生成的美女图片吸引用户点击，进而诱导其跳转至收藏页面，实现流量导流。这些账号已被平台处理，数量达到339个。
另外，有8421个账号因长期发布AI生成的暴露类内容，被平台实施了梯度处罚。这些内容不仅违反了平台的内容规范，也对社会风气造成了不良影响。抖音黑板报强调，将不断优化技术识别手段，加强人工巡查，确保AI技术的合理使用，杜绝其被滥用的可能性。
平台还表示，未来将继续加大对AI生成内容的监管力度，提升审核效率，同时鼓励用户积极举报违规行为，共同维护健康、安全的网络环境。此次治理行动体现了抖音在内容安全方面的持续投入和坚定态度。