微新创想：根据德国民调机构迪麦颇公司最新发布的调查结果，超过 90% 的德国成年人对人工智能（AI）被用于深度伪造感到忧虑。此次调查由德国电视一台委托进行，时间为 3 月 30 日至 31 日，共涉及 1316 名受访者。调查结果显示，有 53% 的受访者认为 AI 生成深度伪造内容的风险 “非常高”，而 38% 的人则认为风险 “高”。
受访者对 AI 的担忧主要集中在几个方面，包括难以辨别 AI 生成的假新闻以及工作岗位被 AI 取代的问题。在对未来五年的展望中，38% 的受访者认为 AI 将改善他们的生活，而 45% 的人则持相反观点，认为 AI 会使生活变糟。特别是在 18 岁至 34 岁的年轻群体中，有 51% 的人认为 AI 有可能改善生活。
深度伪造是指利用人工智能技术对视频、图片或音频进行合成和篡改，以制造出极具真实感的虚假内容。近年来，随着大模型技术的快速发展，利用 AI 进行换脸、换声以及生成深度伪造内容的案例频频出现，给社会带来了诸多挑战。
当前，许多国家在人工智能监管法规方面仍存在不足。早些时候，有调查显示，在美国、英国、加拿大、法国、德国和西班牙的消费者中，四分之一的美国人过去 12 个月内接到过深度伪造的语音电话。另有 24% 的人表示，难以可靠区分电话中的 AI 语音和真人声音。
平均每周，六个市场的消费者会接到 7.4 通骚扰电话，其中法国的骚扰电话数量最多，而英国的受害者面临的经济损失最为严重。随着技术的进步，诈骗分子模仿他人声音的成本和难度显著降低，这使得深度伪造的诈骗行为愈发猖獗。受害者一旦信以为真，可能会遭遇金融诈骗或身份盗窃。