2025中国互联网大会现场报道
在备受瞩目的2025中国互联网大会上，360集团创始人周鸿祎就大模型落地应用中的风险问题发表了深度见解。他着重指出，人工智能时代下网络安全正面临前所未有的挑战，并特别强调大模型存在的三大核心安全风险，这些风险远比传统IT系统漏洞和数据隐私泄露更为复杂和隐蔽。
核心风险一：大模型的”幻觉”效应与错误输出
周鸿祎首先剖析了大模型固有的”幻觉”问题。他解释道，当AI系统面对无法理解的信息时，会倾向于编造看似合理却完全虚构的内容。虽然这种现象在娱乐场景中尚可接受，但一旦这些智能系统深入工业生产、政府办公等关键领域，其错误判断可能引发灾难性后果。他特别警示，随着智能体逐渐获得操控各类工具的能力，其错误决策的危害会被指数级放大，对国家安全和经济发展构成严重威胁。
核心风险二：攻击门槛降低与”注入攻击”威胁
周鸿祎提出的第二个关键风险是大模型显著降低了网络攻击的技术门槛。他指出，大模型使非专业编程人员也能通过自然语言交互编写复杂程序，这一特性同样被恶意攻击者利用。通过精心设计的指令，攻击者可以诱导大模型泄露企业机密，这种攻击方式被称为”注入攻击”。周鸿祎形象地比喻道，未来即使是不具备任何编程知识的前台员工，也可能因不满情绪而对公司大模型系统发动攻击，这将对企业网络安全构成全新威胁。
核心风险三：国家级高级威胁的智能化升级
从更宏观的视角来看，周鸿祎预见到大模型将推动国家级高级威胁攻击的智能化升级。他指出，当前针对我国的网络黑客数量虽相对有限，但黑客正尝试将自身攻击经验嵌入大模型，打造”黑客智能体”。在强大算力支持下，单个黑客可以同时操控数十甚至数百个智能攻击体，这将彻底颠覆传统网络攻防模式，使安全对抗从”人与人”的较量升级为”人与算法、人与机器、人与算力”的立体化对抗。由于机器人数字黑客无需休息，这种新型攻击将使网络安全防御面临前所未有的压力。
360的应对策略：”以算法对抗算法”
面对这些严峻挑战，周鸿祎透露360已制定两项关键应对措施。首先，360正在积极研发智能体安全专家系统，这些专家能够实现攻击的实时检测与实时防御，真正践行”以算法对抗算法”的安全理念。其次，针对大模型的安全漏洞与易受攻击特性，360特别开发了专业级”大模型卫士”系统。该系统具备三大核心功能：实时监控输入指令、评估输出内容的合理性与准确性，并结合强大搜索能力与企业知识库，有效降低大模型的”幻觉”问题，为关键领域AI应用提供安全保障。