最新调查显示，62% 的网络安全负责人在过去一年中遭遇了利用人工智能（AI）进行的攻击，其中提示注入攻击和深度伪造音频视频内容成为主要威胁。深度伪造音频电话攻击尤为突出，44% 的企业报告至少发生过一次此类事件，6% 的事件更导致了业务中断、财务损失或知识产权泄露。值得注意的是，当企业采用音频筛查服务时，此类损失比例可降至2%。视频深度伪造虽然稍显少见，但仍有36% 的企业遭遇过，其中5% 的事件造成了严重后果。
安全公司 Sophos 的全球首席信息安全官切斯特・维斯涅夫斯基指出，深度伪造音频技术已高度成熟且成本极低。他强调：”当前音频伪造可实现实时生成，即使是与你配偶对话，也可能难以察觉；但对于仅偶尔交流的同事，几乎可以毫无破绽地实时伪造，这对企业安全构成重大挑战。”他同时认为，音频深度伪造的实际情况可能被低估，而视频伪造的比例则超出预期。他透露，实时伪造特定个体视频的成本极高，可能需要数百万美元，但已有诈骗者通过 WhatsApp 通话展示伪造的 CEO 或 CFO 视频后，以网络连接问题为由删除视频并转为文本沟通实施社交工程攻击。此外，使用普通视频伪造隐藏身份的案例更为普遍。以朝鲜为例，该国利用 AI 伪造技术为西方公司提供服务，年赚数百万美元，其伪造技术连专业人士都难以辨别。
另一种日益严峻的 AI 生成攻击是提示注入攻击。攻击者通过将恶意指令嵌入 AI 系统处理的内容中，诱使其泄露敏感信息或滥用连接工具，甚至可能导致代码执行。根据 Gartner 调查，32% 的受访者表示其应用程序遭受过此类攻击。
划重点：62% 的企业遭遇 AI 攻击，其中44% 报告深度伪造音频电话事件。实时音频伪造技术成熟，给员工安全带来新挑战。提示注入攻击频发，32% 的企业应用受到影响。