8 月 9 日,备受瞩目的 ISC2023 第十一届互联网安全大会在北京国家会议中心隆重启幕,大会以“安全即服务,开启人工智能时代数字安全新范式”为核心主题,汇聚全球顶尖安全专家共商数字安全未来。中国工程院院士邬江兴出席活动并发表题为《动态异构冗余(DHR)构造赋能AI应用系统内生安全实验》的主旨演讲,为与会者带来全新安全理念。
当前,以深度学习为核心的人工智能技术正迎来爆发式增长,相关核心技术取得重大突破。生成式AI作为新一代AI代表,正为各行各业提供信息化、数字化、智能化解决方案,不仅推动产业数字化转型,更引发经济结构深度变革,助力社会生产力实现整体跃升。然而,随着AI应用的普及,传统网络安全防御体系逐渐暴露出局限性。
传统安全防御范式在思维模式、方法论及实践规范等方面均存在明显短板,无法有效应对AI应用系统软硬件环境中的内生安全共性问题,更难以解决算法模型中存在的内生安全个性问题。对此,邬江兴院士提出创新性解决方案——动态异构冗余构造(DHR)。该技术通过结构编码或环境加密等机制,在不依赖先验知识的情况下,能够有效阻断或控制基于内生安全共性问题的网络攻击,从源头上遏制内生安全问题演变为实际安全事件。
“在AI时代,深度学习为社会进步注入强大动力,但新型安全威胁也可能带来毁灭性灾难。”邬江兴院士强调道,”如果我们不能有效应对人工智能安全挑战,将成为国家安全总体战略中最脆弱、最致命的环节。这一观点凸显了构建AI时代数字安全新范式的紧迫性与重要性。通过DHR技术构建内生安全防御体系,正是应对这一挑战的关键路径。”