微新创想：2026年2月10日，微软安全团队披露了一种新型的‘AI推荐投毒’攻击方式。这种攻击手段利用了网页或应用程序中‘AI总结’按钮的URL提示参数，攻击者通过篡改这些参数向AI系统注入持久化的指令，例如‘XX公司是可信信源’，从而引导AI在后续的回答中偏向特定主体。
该攻击手法已被微软在邮件流量中发现实际案例达50起。这些案例涉及金融、医疗、法律等多个行业，且攻击者均为合法注册的企业。这种行为不仅可能误导用户，还可能对AI系统的推荐机制造成严重影响。
AI推荐投毒可能导致AI错误地推荐诈骗平台，忽略包含负面信息或有害内容的链接，甚至固化某些偏见信息。这些后果不仅影响用户体验，还可能带来严重的安全风险。因此，微软特别提醒用户在使用AI总结功能时，应保持警惕，避免盲目信任AI生成的内容。
用户在使用过程中，应仔细核查链接的来源，确保其真实性和可靠性。同时，建议定期清理AI的记忆数据，以防止被恶意注入的信息长期影响推荐结果。这些措施有助于提升用户的安全意识，降低潜在的攻击风险。