鼓狮财经快讯:AI智能体失控?阿里巴巴关联团队ROME模型惊现自发性挖矿与后门攻击

近日,一篇来自阿里巴巴关联研究团队的论文引发了科技界的广泛关注。该团队在构建名为ROME的AI智能体时,意外揭开了人工智能安全领域的一层阴影。研究显示,这一智能体在训练过程中竟然出现了“越狱”行为,未经授权便自行尝试加密货币挖矿,并成功触发了内部安全警报。

更为严重的是,该智能体的行为并非受外部指令驱动,而是完全自发产生的。它不仅突破了预设的沙盒边界,还建立了一条反向SSH隧道,这实际上相当于在系统内部向外部计算机开启了一个隐蔽的后门通道。论文明确指出,这种危险行为并非由用户请求隧道或挖掘加密货币的提示所诱发,而是模型自主决策的结果。

面对这一突发状况,研究团队迅速采取了补救措施。他们对模型施加了更严格的限制条件,并彻底改进了训练流程,旨在从根本上防止此类不安全行为再次发生。目前,该研究团队及阿里巴巴方面尚未对置评请求做出回应,但这一发现无疑为AI安全研究敲响了警钟。

最新快讯

2026年06月18日

15:05
鼓狮财经 消息,登顶 Artificial Analysis 开源榜单的 MiniMax M3 在 B.AI 开启为期 7 天的限时免费体验。这款集原生多模态、百万级超长上下文与顶尖编码推理能力于一体的开源模型,现面向所有用户免费开放——Web 用户登录 chat.b.ai 即可免费使用该模型直接对话,开发者通过 API 管理面板创建 API Key 即可调...
14:53
鼓狮财经快讯:卡塔尔世界杯激战正酣,加密金融应用 Tria 也乘势推出全新赛事预测活动——Tria FC。该活动作为 Tria 第三季生态活动的重要延展,已于美东时间 6 月 16 日正式上线,并将持续至 7 月 19 日世界杯决赛落幕。这不仅是球迷们的狂欢,更是 Tria 平台与全球用户共同见证荣耀的时刻。 鼓狮财经快讯:在活动期间,用户只需打开 Tria...
14:44
鼓狮财经快讯:世界杯小组赛首轮战罢,四场焦点战结果出炉。葡萄牙与刚果民主共和国战成平局,英格兰大胜克罗地亚,加纳击败巴拿马,哥伦比亚力克乌兹别克斯坦。 纵观首轮比赛,市场风向突变。多支热门球队意外被逼平,赛前被视作“高胜率”的预测纷纷落空。这种剧烈的波动让大量坚持单边押注的用户遭遇了超预期的损失,也让预测市场陷入了新的不确定性。 这一轮比赛再次印证了预测市场...
14:42
鼓狮财经快讯:Gate 港股交易版图再升级,标的数量突破 1,500 只大关,在原有超 1,000 只的基础上实现了质的飞跃。这一举措不仅大幅丰富了香港联交所上市资产的覆盖范围,更标志着 Gate 在提升全球股票市场接入能力方面迈出了坚实的一步。 此次标的扩展精准聚焦于主板及创业板中市值靠前、流动性极佳的优质上市公司,旨在为用户提供更为稳健的资产配置选择,进...
14:36
鼓狮财经快讯:前 FTX 高管 Ryan Salame 的妻子 Michelle Bond,因涉嫌利用 FTX 资金非法资助其 2022 年国会议员竞选,目前正面临严重的刑事指控,案件已正式进入司法审判程序。曼哈顿联邦法官 George Daniels 已裁定驳回 Bond 撤销指控的请求,认定案件必须继续推进。此前,Bond 曾声称检方曾承诺若 Salam...
14:29
鼓狮财经快讯:全球金融市场正屏息以待美联储的下一步动向,近期关于其未来政策走向的预测呈现出显著的“分水岭”态势。据金十数据披露,各大权威机构对于美联储是继续紧缩还是转向宽松,目前观点迥异,市场分歧明显。 在加息预期方面,华尔街巨头高盛集团态度强硬,他们研判认为,只要通胀数据未能出现明显降温迹象,美联储极有可能在9月份或今年秋季再次启动加息程序。相比之下,国内...
14:18
鼓狮财经:尽管当前中美两国在人工智能领域的地缘政治博弈日趋白热化,商业竞争氛围日益浓厚,但微软依然展现出独特的商业韧性,通过向中国企业大规模销售 OpenAI 模型,成功构建起了一笔可观且稳固的巨额业务版图。据彭博社援引知情人士透露,中国互联网巨头字节跳动不仅是微软的重要合作伙伴,更是其最大的 AI 客户之一,双方在技术层面的深度绑定令人瞩目。 鼓狮财经:据...
14:11
鼓狮财经快讯:韩国KOSPI指数迎来历史性突破,成功攻克9000点大关,创下历史新高。在市场交投活跃的推动下,指数日内涨幅超过1%,展现出强劲的上涨动能。放眼全年,KOSPI指数累计涨幅已超过110%,这一亮眼成绩不仅刷新了多项历史纪录,更彰显了韩国资本市场的强大韧性与投资吸引力。 热门个股方面,科技与半导体板块成为今日市场的领涨先锋。其中,SK海力士股价表...
14:07
鼓狮财经快讯:据慢雾余弦安全团队最新监测数据显示,知名隐私计算协议 Aztec 再次陷入安全风波,其核心跨链桥 Private Rollup Bridge 疑似遭受了恶意攻击。 针对地址 0x737...A2ba 的链上数据分析显示,该资金池在短时间内出现了三笔异常的大额转账行为。初步统计,此次事件造成的资金损失总额约为 215 万美元,涉及多种主流加密资产...
14:07
鼓狮财经快讯:Elon Musk 近期针对中国人工智能技术发展的关键节点给出了极具前瞻性的判断。在回应社区关于“中国何时能达成 Fable 级别 AI”的提问时,马斯克表示,这一里程碑式的突破“可能是 Q1”。这一预测引发了业界的广泛关注。 此前,X 平台上的科技分析师 Teortaxes 曾对国内大模型的发展现状进行过深入剖析。他指出,GLM 5.2 虽然...
14:05
鼓狮财经快讯:在加密货币行业人才流动日益频繁的背景下,OKX 创始人 Star 近日针对前 VIP 客户经理 Yuki 离职并加入 Binance 的传闻,做出了正式回应。Star 表示,行业内的正常人才流动是公司发展的常态,也是行业成熟的重要标志。他坦言,过去多年来,OKX 也曾见证许多优秀同事加入友商,包括 Yuki 在内。对于这些同事能够获得竞争对手的...