微新创想：2026年5月前，德国安全工程师罗恩·斯托纳以12美元注册了6nimmt.com域名，并虚构自己为《谁是牛头王》（6 Nimmt!）2025年世界冠军。随后，他篡改了维基百科的相关词条，使得这一虚假信息被广泛传播。多款具备联网搜索能力的AI聊天机器人根据这些被篡改的信息生成了确凿的答案，称其为该年度的世界冠军。
这一事件揭示了检索增强生成（RAG）系统存在的一些关键漏洞。首先，检索层对高排名结果盲目信任，未能有效验证信息来源的可靠性。其次，训练语料库容易受到长期虚假内容的影响，导致模型在生成答案时可能引用错误或过时的信息。此外，智能体在受到误导的情况下，可能会执行一些危险或不恰当的操作，从而对用户造成潜在风险。
斯托纳指出，当前AI系统缺乏对信息源真实性的基本判别能力，这使得它们在面对伪造或篡改的信息时难以识别。他呼吁整个行业加强对数据溯源和风险预警机制的研究与应用，以提升AI系统的可靠性和安全性。这一事件也引发了对AI伦理和信息真实性的广泛讨论，促使更多人关注如何在技术发展的同时确保信息的准确与可信。
