凤凰网科技讯 《AI前哨》北京时间6月29日消息,网络安全公司Surfshark发布的报告显示,随着人工智能(AI)的快速发展,AI的“翻车事故”(AI incident)数量在十年时间内(按阶段)增长了15倍,三家主要AI公司占据了其中的四分之一。

所谓AI翻车事故指的是AI引发的故障、错误、欺诈、用于影响政治的深度伪造等欺骗行为、聊天机器人提供的不良健康信息,以及危及行人的自动驾驶汽车。Surfshark数据显示,人类历史上第一次AI翻车事故差点造成了核战争。1983年,苏联的一个自动化系统误认为它探测到了来自美国的核导弹,险些酿成全球冲突。

报告统计了自2010年5月8日至2023年5月29日的AI翻车事故数量。2010年时,报告只记录了一次AI翻车事故。但是到2023年5月29日时,数量已增至55起。按阶段划分,在AI发展初期(2010年至2013年),AI翻车事故的数量为18起,只占据总量的3.5%。但是在2020年至2023年,数量已增加至293起,占据总量的56.6%,较2010年至2013年增长了大约15倍。截至今年5月,2023年发生的AI翻车事故已超过去年的一半,预计将成为翻车事故最多的一年。

2023年预计将成为AI翻车事故最多的一年

虽然AI翻车事故快速增长,但是考虑到过去一年的AI投资和使用量大幅增加,这并不令人感到震惊。根据软件评论服务公司G2的数据,从2022年2月到2023年2月,聊天机器人的搜索流量增长了261%。而且,G2整个数据库中增长最快的三个软件产品都是AI产品。

Surfshark发言人埃琳娜巴巴斯凯特(Elena Babarskaite)表示:“最近的一个著名案例就是教皇方济各穿着白色羽绒夹克的深度伪造图像,这表明AI图像生成器可以实现超逼真的视觉效果。”

然而,鉴于AI增强的假新闻可能会在未来继续误导公众,它的影响将不仅仅是娱乐领域。其他更严重的AI事件可能会导致种族主义、暴力或犯罪。

“罪魁祸首”

在这些事故中,有三家公司“贡献不小”。数据显示,特斯拉、脸书以及OpenAI的AI技术所造成的翻车事故占据了目前所有已知事故的24.5%。

三巨头占据了AI翻车事故的四分之一

特斯拉的AI问题主要集中在自动辅助驾驶系统(Autopilot)和全自动驾驶系统(FSD),这些问题会导致汽车意外刹车,或者汽车无法识别前方的汽车和行人。2022年底,特斯拉“幽灵刹车”问题导致旧金山发生了一起8车相撞的事故。

脸书面临的挑战则是,其算法无法发现暴力内容,骗子利用脸书上深度伪造的图像和视频来欺骗人们。

OpenAI的麻烦通常是AI训练所产生的数据侵权问题、用户的隐私问题。最新报道称,由于OpenAI在训练ChatGPT时大规模从互联网上抓住数据,涉嫌侵犯了数据版权和无数人的隐私,该公司在美国被提起集体诉讼。

尽管大多数人对AI系统抱有怀疑态度,但是那些购买AI软件的商业高管们似乎相信这项技术。G2最近对1700名软件买家进行了调查,结果发现,“尽管人们对AI的使用普遍持怀疑态度,但78%的受访者表示,他们相信AI解决方案的准确性和可靠性”。

最新快讯

2025年08月13日

16:05
微新创想8月13日快讯 广东近日上演惊心动魄的一幕 一名男孩在乡间小路遭遇牛犊疯狂追击 眼看就要被追上 男孩急中生智纵身一跃跳入附近水田试图躲避 然而令人意想不到的是 这头异常亢奋的牛犊竟也毫不犹豫地跃入水中紧追不舍 目击者称 或许是连日高温导致牛犊情绪失控 男孩虽惊无险 但这起事件令人瞠目结舌 这起惊险事件迅速引发关注 视频画面中 牛犊如饿狼般紧追男孩 而...
16:05
微新创想8月13日重磅消息,知名数码博主数码闲聊站率先揭露了备受期待的小米16系列的影像配置细节,引发业界广泛关注。据博主透露,小米16系列在影像系统上实现了全面突破,前置摄像头升级至5000万像素,暗光拍摄能力得到显著提升,同时支持AF自动对焦、广视角拍摄以及4K 60fps高清视频录制,为用户带来更出色的自拍和视频创作体验。 在核心后置摄像头方面,小米1...
16:05
微新创想8月13日独家消息,知名博主定焦数码率先透露,华为即将推出的全新三折叠屏旗舰Mate XTs非凡大师,计划于9月10日正式亮相。这一时间点与德国运营商泄露的iPhone17系列发布会日期不谋而合,后者同样定于北京时间9月10日凌晨举行,两大科技巨头的新品发布会再度上演激烈撞期。回顾去年,iPhone16系列于9月10日凌晨1点震撼发布,而华为则紧随其...
16:05
近日,江苏无锡一家水果店推出的标价2999元的日本进口方形西瓜,迅速成为网络热议焦点。这款被网友戏称为"西瓜界爱马仕"的奢侈品级水果,在社交平台上掀起了轩然大波。部分网友直呼"天价西瓜令人咋舌",也有消费者好奇"近三千元的西瓜是否别有洞天",更有幽默网友调侃"切开后是不是要配金叉子享用"。 8月11日,记者实地探访涉事水果店,店员证实店内售卖的方形西瓜确为日...
16:05
抖音再推重磅扶持政策,MCN机构迎来新机遇与挑战 近日,抖音面向MCN机构推出全新激励计划——新芽计划,旨在通过流量与现金双重激励,扶持优质内容创作者与机构。据悉,创作者完成指定任务最高可获得25000元流量券,而MCN机构更有机会斩获高达10万元的现金奖励。这是继"抖音精选计划"之后,抖音再次释放出对优质内容的强烈扶持信号,为MCN机构带来发展新机遇的同时...
16:05
腾讯音乐娱乐集团于8月12日发布2025年第二季度财报,交出一份亮眼的成绩单。总收入达84.4亿元,同比增长17.9%;调整后净利润为26.4亿元,同比增长33.0%。在多元化的网络娱乐方式和日益分散的用户注意力背景下,腾讯音乐能取得如此成绩实属不易。然而数据背后更值得探究的是其增长逻辑——如何在内容供给与平台功能、产品体验与用户关系之间架设桥梁,构建稳健的...
16:05
开源AI领域近日迎来重大突破,一款名为Jan-v1的深度研究模型正式问世,凭借卓越性能和独特优势迅速引发广泛关注。该模型基于阿里云Qwen3-4B-Thinking模型进行深度微调,直接对标商业化产品Perplexity Pro,却以仅4亿参数的精巧身姿展现出惊人的实力。 Jan-v1在性能表现上超越预期,其91%的SimpleQA准确率与商业产品不相上下,...
16:05
2025年8月13日,江丰电子正式发布重大战略举措,宣布将与日本株式会社爱发科携手整合双方在平板显示靶材领域的核心业务。此举标志着两家企业在半导体材料领域的深度合作迈入新阶段。江丰电子方面表示,其平板显示靶材产品已成功获得国内主流显示面板厂商的全面认证,并已实现规模化批量供货,市场表现优异。与此同时,爱发科作为OLED靶材技术的全球领导者,拥有业界领先的技术...
16:05
2025年8月13日,奥来德(股票代码688378)正式发布其2025年上半年度业绩预告,数据显示公司归属于母公司所有者的净利润预计在2500万元至2900万元之间,与去年同期相比出现了显著的下滑,降幅介于68.41%至72.77%之间。这一业绩波动背后,主要原因是公司业务结构的显著变化。尽管在材料销售收入方面,奥来德实现了约20%的同比增长,显示出其在相关...
16:05
自8月20日起,理想汽车正式在全国范围内启动理想i8的首批交付工作,标志着这款备受瞩目的旗舰车型终于走入消费者视野。根据公司最新披露的计划,理想汽车将在9月底前完成超过8000台理想i8的交付任务,并携手供应链合作伙伴共同冲击10000台的年度交付里程碑。这一雄心勃勃的目标旨在确保广大用户能够在国庆黄金周前顺利提车,共享节日的喜悦。 理想汽车创始人李想也在社...
16:05
华兰生物2025年8月13日发布重要公告,宣布其自主研发的冻干b型流感嗜血杆菌结合疫苗(Hib疫苗)已成功获得国家药品监督管理局(NMPA)核准签发的《药物临床试验批准通知书》。这一关键性突破意味着该疫苗已完全符合药品注册要求,即将正式启动针对预防b型流感嗜血杆菌所致侵袭性感染的临床试验。 此次获批不仅标志着华兰生物在疫苗研发领域迈入全新阶段,更彰显了该公司...
16:05
2025年8月13日,小米集团股价迎来强劲反弹,单日涨幅持续扩大至3%,展现出市场对其发展前景的高度认可。这一积极表现的背后,是投资者信心的显著增强,他们正密切关注着这家科技巨头在多个领域的战略动向。市场分析人士普遍指出,小米近期在智能硬件产品线拓展和生态链企业布局方面取得的突破性进展,是支撑股价走高的核心动力。从智能家电到可穿戴设备,再到不断完善的物联网生...