微新创想(idea2003.com) 7月31日讯：美国联邦调查局（FBI）近日发布警告，指出犯罪分子正大规模利用开源生成式人工智能技术从事各类网络犯罪活动。据FBI内部消息，这些非法行为已从传统的网络钓鱼攻击升级至更危险的恶意软件开发，甚至包括恐怖组织咨询AI技术以策划新型化学袭击。
FBI高级官员在最新声明中强调：”随着AI模型的普及率持续攀升，我们预计相关犯罪趋势将呈现指数级增长。”该官员并未透露具体涉及哪些AI模型，但透露黑客群体普遍倾向于使用两类工具：一是免费可定制的开源模型，二是地下黑客社区开发的付费AI程序。这些工具被用于开发新型恶意软件，并改进攻击手法，例如通过AI生成钓鱼网站传播病毒代码，或制造多态恶意软件以规避杀毒软件检测。
更令人担忧的是，FBI监测到犯罪分子正利用AI图像生成器制作性主题的深度伪造视频，以此实施勒索。上个月该机构还披露，诈骗团伙已开始使用AI语音克隆技术，通过模仿亲友声音实施精准电话诈骗，尤其针对老年人群体。据FBI技术部门负责人介绍，目前绝大多数案件显示犯罪分子将AI作为传统诈骗手段的”增强器”。
为应对这一威胁，FBI已与多家AI企业展开深度合作，共同研发解决方案。其中一项关键措施是引入”数字水印”技术，通过特殊标记使AI生成内容易于识别。高级官员在总结时表示：”AI安全已成为国家安全的重要组成部分，这项威胁正直接影响FBI所有业务领域。”