微新创想（idea2003.com）7月21日 消息：随着人工智能技术的迅猛发展，AI音乐人如“AI孙燕姿”、“AI王菲”等迅速走红，成为现象级话题。然而，技术进步的浪潮中暗藏风险，不法分子开始利用AI换脸拟声技术进行伪造、诈骗等违法犯罪活动，引发社会广泛关注。北京市通州区人民法院近期披露的多起案件，揭示了这一新兴技术滥用带来的严峻挑战。
通州法院发现，部分不法分子通过AI技术合成不雅视频、进行电信诈骗等行为，严重侵犯他人合法权益，破坏社会秩序。针对此类问题，法院通过典型案例向社会发出警示，提醒公众提高维权意识和防范能力。其中一起典型案例显示，某公司未经当事人陈某许可，擅自将其社交平台上的唯美视频作为模板，供用户进行面部替换。陈某发现后提起诉讼，法院最终认定该公司的行为侵犯了陈某的肖像权，判令其删除侵权视频并赔偿1000元。
法院调研发现，AI换脸拟声技术在商业应用中极易引发人格权纠纷。部分商家在未经当事人同意的情况下，利用AI技术进行换脸、换声操作以谋取利益，这种行为不仅违法，更严重损害个人权益。法官提醒，公众在遭遇类似情况时，应主动收集证据，积极运用法律手段维护自身合法权益。
人格权是民事主体享有的基本权利，包括生命权、身体权、健康权、姓名权、名称权、肖像权、名誉权、荣誉权、隐私权等。自然人依法享有肖像权，有权制作、使用、公开或许可他人使用自己的肖像。肖像是指通过影像、雕塑、绘画等方式在一定载体上反映的可识别的特定自然人外部形象。任何组织或个人不得以丑化、污损或利用信息技术手段伪造等方式侵害他人肖像权。未经肖像权人同意，不得制作、使用、公开其肖像，但法律另有规定的除外。肖像作品权利人未经肖像权人同意，不得以发表、复制、发行、出租、展览等方式使用或公开其肖像。