人工智能崛起带来恶意 AI 机器人:人与机器的界限变得模糊

站长之家(ChinaZ.com) 6月26日消息:黑客将利用人工智能增强恶意机器人,用于欺诈性攻击,创建「能够有效冒充家人以欺诈性地获取利益」的高级角色,一位知名风险投资创始人指出。

在 The Crypto Mile 的最新一期节目中,雅虎财经与 Outlier Ventures 创始人 Jamie Burke 进行了交流,Outlier Ventures 是全球最大的 Web3 加速器(以投资规模衡量)。

Burke 讨论了人工智能(AI)的演变和影响,以及它可能成为网络犯罪分子特别有效的工具。Burke 警告说:「如果我们只看统计数据,在一次黑客攻击中,你只需要欺骗十万分之一的人,这需要大量尝试,因此恶意行为者将提升他们的机器人的复杂程度,使其变得更加智能,利用人工智能。」

他强调了对恶意 AI 机器人被用于恶意目的的日益关注,改变了互联网的格局,或者如他所说的「代理人世界」。Burke 说:「网络上的大多数流量都是机器人,而且恶意机器人所占比例越来越高。黑客通常不会手动操作,黑客的技巧是尽可能自动化。」

随着这些恶意机器人的复杂性提升,人类和 AI 之间的界线可能变得几乎无法区分。

一个由 AI 驱动的机器人可以模仿一个真实的人,以至于他们可以参与视频通话而不引起怀疑。

这种技术的影响是深远的。它可能为诈骗和欺诈打开新的途径,黑客利用 AI 的能力来欺骗毫不怀疑的个人或公司分享敏感信息或转账。

Burke 说:「接收到的不再是一封要求转账的电子邮件,一个人可能会在日程表中收到一次 Zoom 通话预约,来自一个看起来像朋友的数字复制品,声音和他们一样,并说与他们一样的话,通过说他们缺钱了,请求对方转账来欺骗联系人。」在这种情况下,人类身份的验证系统将成为验证数字互动中个人真实身份的关键。

Burke 表示,这可能引发一场虚拟军备竞赛,各种 AI 平台争夺对互联网用户的影响力。「在这场 AI 战争中,你将拥有拥有自己的 AI 的平台,它们主要存在是为了以某种回报为代价帮助你,但你也将面临恶意 AI 的攻击,它们试图利用你与朋友和同事之间的互动中的漏洞来获取利益。」

他表示,确保人们拥有一个「主权代理人」将变得至关重要,这个代理人在虚拟环境中代表人们,保护他们免受潜在威胁,并确保他们在数字世界中的存在得到保障。

Burke 说,人工智能可能成为一种自主的行动者,影响决策和行动,确保我们在「代理人世界」中的安全和完整性将成为一个日益紧迫的挑战。

您可能还喜欢...

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注