AI安全新威胁:字体投毒攻击误导AI工具评估结果

微新创想:安全厂商 LayerX 近日披露了一种名为“字体渲染”的新型攻击手法。这种攻击方式利用自定义字体和 CSS 样式,巧妙地伪装恶意指令,成功误导了包括 ChatGPT、Claude 及 Copilot 在内的多款主流 AI 工具,使其向用户提供错误的安全性建议。

该攻击的核心在于利用 AI 抓取底层文本与用户看到的渲染画面之间的差异。攻击者通过修改自定义字体文件,将正常的字母渲染成乱码,同时将隐藏的恶意载荷(如高危命令)渲染成看似无害的可读指令。这种方式让 AI 在分析时无法识别出隐藏的威胁。

利用 CSS 视觉控制,攻击者可以将网页中的真实文本隐藏,通过极小字号或特定颜色使其难以察觉。与此同时,恶意载荷则被放大并以更明显的样式呈现,从而误导 AI 的判断。AI 助手读取到的是经过伪装的无害内容,得出“安全”的评估结论,而用户在浏览器中看到的却是危险的指令。

AI安全新威胁:字体投毒攻击误导AI工具评估结果插图1

LayerX 展示了一个以游戏彩蛋为诱饵的钓鱼页面,诱导用户运行一段代码。当受害者要求 AI 评估该代码时,由于 AI 无法识别隐藏的恶意逻辑,会给出“绝对安全”的答复。最终,受害者在本地设备执行了反向 shell 等高危命令,导致严重的安全风险。

LayerX 于2025年12月向相关厂商报告了该漏洞,但各厂商的响应情况差异显著。微软是唯一一家积极响应并已完全修复该漏洞的企业。而谷歌及其他厂商则最初将其定为高危,后以“过度依赖社会工程学”为由将其降级并关闭处理。多数厂商认为该问题超出了其安全防范范围。

安全专家提醒,用户在处理 AI 评估的网页脚本时仍需保持警惕,不可完全依赖 AI 的合规性审查。即使 AI 能够提供一定的帮助,但其判断仍可能受到视觉伪装的影响,从而带来潜在的安全隐患。

最新快讯

2026年03月18日

12:54
微新创想:2026年3月18日,吉利汽车正式发布了2025年全年财报。数据显示,吉利汽车全年销量达到302.46万辆,同比增长39%,不仅超额完成了年初设定的300万辆销售目标,更展现了其在市场中的强劲表现。同时,公司全年营收为3452.32亿元,同比增长25%,反映出其整体业务的稳步增长。 在利润方面,吉利汽车实现归母净利润168.52亿元,与去年同期基本...
12:54
微新创想:2026年3月12日 敦煌网平台正式上线“商家权益看板”功能 该功能面向所有敦煌网卖家开放 使用门槛低 无需额外申请即可在卖家后台首页直接访问 商家权益看板集成了多项关键运营指标 包括店铺评级 服务分 流量权益以及违规记录等 为卖家提供了一站式的数据查看窗口 通过实时更新的数据显示 商家可以快速掌握自身经营状况 发现潜在问题 并采取相应措施进行优化...
12:54
微新创想:微信在iOS 8.0.69版本中灰度测试“折叠发图”新功能 3月18日 微信正式在iOS 8.0.69版本中推出“折叠发图”功能 并开始对部分内测用户进行灰度测试 该功能目前仅面向部分内测用户 暂未向安卓系统开放 当用户在聊天界面发送三张及以上图片或视频时 系统将提供“合并发送”选项 接收方可以通过左右滑动的方式查看这些图片或视频 以折叠卡片的形式...
12:54
微新创想:2026年3月,PSVR2Toolkit开发团队宣布历时约五个月完成PS VR2头显眼动追踪摄像头数据流的提取。这一突破标志着他们成功克服了此前在驱动层适配方面的技术障碍,首次实现了对完整数据流的访问。该成果为PC端开发人员提供了前所未有的可能性,使他们能够利用注视点渲染等高级功能,进一步提升沉浸式体验。 微新创想:此前,VR社区在尝试实现PS V...
12:54
微新创想:3月18日,腾讯云AI Agent安全中心正式推出‘密钥沙箱’(Credential Sandbox)技术。该技术通过创新机制,使得AI Agent能够在不持有任何密钥的情况下完成全部云API调用,从根本上保障了密钥的安全性。这一突破性方案有效避免了传统模式下密钥被滥用或泄露的风险,为云上AI应用提供了更高级别的安全保障。 微新创想:密钥沙箱不仅实...
12:54
微新创想:2026年3月18日,抗病毒与儿童药物研发企业爱科百发正式向香港交易所递交上市招股说明书。公司总部位于中国,专注呼吸道病毒感染及病毒性肝炎领域新药研发,核心在研产品AK0529为抗呼吸道合胞病毒(RSV)新药,目前已进入全球多中心II期临床试验阶段。 此次IPO拟募集资金用于推进AK0529等临床项目、扩大研发团队及完善生产体系。公司尚未盈利,处于...
12:54
微新创想:3月17日,网友Will Whang成功逆向2004年问世的东芝MK4001MTD(0.85英寸、4GB)微型机械硬盘,并开源了专用的USB桥接器。这一突破性工作为复古硬件爱好者和研究者提供了新的可能性。 他利用诺基亚N91手机解析该硬盘的4位SDIO接口与ATA指令逻辑,成功还原了其内部通信机制。通过结合开源AI工具OpenClaw以及大模型优化...
12:54
微新创想:3月18日 腾讯云与人工智能公司MiniMax达成技术合作 双方基于腾讯云基础设施 在测试环境成功部署百万级吞吐 十万级并发的智能体强化学习(Agent RL)沙箱 该沙箱支撑MiniMax自研强化学习框架Forge 实现训练环境“秒级启动 用完即删” 显著提升训练效率与稳定性 同时降低资源成本 合作聚焦电商及AIGC等场景下的大规模Agent训练...
12:54
微新创想:2026年3月17日,IBM在美国正式完成对数据流平台厂商Confluent的收购,交易总额达到110亿美元。此次收购标志着IBM在企业级数据基础设施领域的重要一步,旨在将Confluent的实时数据流技术与IBM现有的Watsonx.data、MQ、webMethods以及Z系列大型机等产品进行深度整合。 微新创想:通过此次整合,IBM将构建一个...
12:54
微新创想:微软于2026年3月17日晚公布Xbox Game Pass三月第二批新增游戏。此次更新为玩家带来了多款备受期待的作品,其中包括《极乐迪斯科-最终剪辑版》和《人中之龙8》。《极乐迪斯科-最终剪辑版》将在3月19日正式上线,而《人中之龙8》则定于3月24日加入Xbox Game Pass的阵容。 除了这两款重磅游戏,还有《生化危机7》《最终幻想IV》...
12:54
微新创想:2026年3月18日 国家金融监管总局湖北监管局向辖内保险机构下发提示函 明确禁止在保险业务中违规赠送“特药卡”“CAR-T卡”等第三方权益卡 文件指出 相关卡片由无金融牌照的第三方机构提供 条款设计易误导消费者 引发纠纷 监管要求 不得赠送 采购 分发此类卡片 不得在宣传中将其与保险公司挂钩或混淆保障责任 此举旨在防范销售误导 保护消费者合法权益...
12:53
微新创想:3月17日,湖北查克科技有限责任公司与武汉东湖高新区正式签约,将在东湖综合保税区建设6G通信核心部件研发生产基地。该项目占地面积约为5000平方米,致力于6G核心部件的研发与规模化生产,涵盖多个关键技术领域。通过该项目的实施,公司将重点提升材料创新、智能算法与先进制造技术的融合能力,推动相关技术的工程化应用。 微新创想:此次合作不仅标志着湖北查克科...