【AIbase 报道】近期，网络直播和电商平台中出现了一种令人担忧的新型黑灰产乱象——利用人工智能技术，仿冒知名人士于东来的语音和形象进行违规营销带货。这种行为不仅严重侵犯了于东来的个人权益，更对消费者造成了极大的误导，引发了社会广泛关注。针对这一突出问题，抖音平台在今年第一季度迅速响应，采取了强有力的治理措施，成功封禁了超过1000个涉嫌违规的黑灰产团伙账号及相关内容，有效遏制了乱象的蔓延。
技术滥用与严厉打击这些黑灰产团伙通过非法手段获取并复制了于东来的个人肖像和声音，利用AI技术制作大量虚假营销内容进行诈骗。他们的行为不仅严重侵犯了相关企业的合法权益，更扰乱了正常的市场秩序，让消费者陷入真假难辨的困境。抖音平台在封禁违规账号的同时，还将相关线索举报给了监管部门。经过深入调查，泉州市丰泽区市场监督管理局已对涉事企业进行了法律制裁，没收其违法所得并处以15万元的罚款，以此警示其他潜在的违法者，维护市场公平正义。
AI治理面临新挑战随着AI技术的飞速发展，其应用边界不断拓宽，但技术滥用问题也日益突出。此次“AI仿冒”事件，再次凸显了平台在技术进步背景下所面临的内容治理新挑战。抖音平台表示，将持续加大对滥用AI行为的打击力度，并呼吁广大用户共同监督。平台鼓励用户一旦发现相关违法违规内容，可立即举报，共同维护一个健康、清朗的网络环境。通过多方协作，我们才能有效应对AI技术带来的新挑战，构建更加安全、可信的网络空间。