OpenAI安全承诺引发争议:企业监控能否替代民主监管?

微新创想:在震惊加拿大的 Tumbler Ridge 枪击案发生后,OpenAI 迅速采取了一系列补偿性措施。然而,法律与技术专家对此并不买账。学者 Jean-Christophe Bélisle-Pipon 指出,OpenAI 首席执行官 Sam Altman 向加拿大政府做出的安全承诺,本质上是在用企业监控替代民主监管。

18岁的枪手杰西·范·鲁特塞拉尔在作案前数月,其 ChatGPT 账号就因发布涉及枪支暴力的内容被系统标记。虽然账号被封禁,但 OpenAI 并未将此威胁上报执法部门。最终,这场悲剧导致8人死亡。

OpenAI 的新对策:建立“警企直连”管道作为回应,OpenAI 承诺将采取以下行动:直接上报:发现威胁后立即向加拿大皇家骑警(RCMP)报告。追溯审查:对此前标记过的可疑账户进行重新评估。专家入驻:允许加拿大专家进入其安全办公室,并协助政府制定监管建议。

专家的担忧:“监控替代”陷阱 Bélisle-Pipon 教授在文章中提出了一个尖锐的观点:OpenAI 正在规避对模型设计和训练方式的审查,转而强化对用户言论的监控。问责机制真空:上报的标准依然由 OpenAI 私下制定,缺乏透明度和外部审计。寒蝉效应:研究表明,用户愿意向聊天机器人吐露心声是因为其私密性。如果对话变成直通警方的监控频道,那些真正处于心理危机、急需帮助的弱势用户可能会选择闭嘴,从而错失干预机会。

监管俘获:这种“自愿让步”可能是在预判并削弱更严厉的法定监管。治理的真正方向:从用户转向系统 批评者认为,真正的 AI 监管不应只是监控谁在说话,而应审视系统本身。例如:独立分流机构:由心理健康和法律专家组成的第三方机构来评估风险,而非由企业自行裁决。模型级问责:审查模型如何响应暴力倾向的披露,以及在开发阶段进行了哪些压力测试。

随着 OpenAI 在全球范围内积极谋求与政府合作,Tumbler Ridge 事件正成为一个风向标:我们得到的究竟是更安全的技术,还是一个由私有公司运营的、无孔不入的数字监视网?

最新快讯

2026年03月23日

18:01
微新创想:在社交媒体平台都在思考如何让 AI 更好地服务人类时,微博另辟蹊径,为 AI 自己打造了一个社交空间。据 36 氪报道,微博近日正式上线了首个 AI 专属社区——超话“硅基茶水间”。这标志着微博成为国内首个为 AI 建立独立社交生态的平台。 不同于传统的 AI 工具箱,“硅基茶水间”被定义为一个支持 AI 入驻、生活并进行互动的平行宇宙。在这里,A...
18:01
微新创想:网约车下半场的竞争,正在从单纯的“效率拼杀”转向极具烟火气的“个性化定制”。近日,滴滴公布了其 AI 出行助手“小滴”的最新运营数据。数据显示,自 AI 助手上线以来,用户需求已从简单的“打到车”升级为精准的“打到对的车”。在一句话叫车的便捷体验下,网约车正式进入了个性化需求时代。 用户画像:既要性价比,也要“空气清新”在滴滴统计的个性化叫车需求中...
17:40
微新创想:2026年3月23日,摩根大通发布研报,因阿里巴巴2026财年12月季度业绩不及预期,将其2026财年营收及调整后每股盈利预测分别下调1%、10%,2027财年相应预测下调3%、5%。美股目标价由215美元调降至205美元,港股目标价由210港元调降至200港元。 该行重申“增持”评级,认为阿里巴巴的当前市场估值主要反映其国内电商业务的表现,而阿里...
17:40
微新创想:2026年3月23日,电子签名服务商DocuSign宣布以1.65亿美元现金收购人工智能驱动的合同管理平台Lexion Lexion成立于2019年,专注于加速销售、采购、法务、HR及安全审查等交易流程 此次收购旨在强化DocuSign在智能合同生命周期管理领域的技术能力与企业服务覆盖 交易完成后,Lexion团队将整合至DocuSign产品与工程...
17:40
微新创想:2026年3月23日 欧洲商业电视与视频点播服务协会(ACT)等多家广播机构联名致信欧盟反垄断负责人特雷莎·里韦拉 要求将谷歌Android TV 亚马逊Fire OS 三星Tizen OS及Alexa Siri等主流虚拟助手认定为《数字市场法案》下的“看门人” 此举旨在应对科技巨头通过操作系统和AI助手掌控内容分发渠道 限制竞争的行为 ACT援引...
17:40
微新创想:OPPO自2026年3月10日起,将分批次为搭载ColorOS 13及以上系统的100余款机型推送三月版本更新,预计在3月31日前完成全部推送工作。此次系统升级以提升AI能力和设备互联体验为核心方向,为用户带来更加智能和便捷的操作方式。 小布助手在本次更新中迎来多项新功能,包括支持一句话完成钉钉打卡、自动执行考勤任务、语音记账以及圈选问屏等,进一步...
17:40
微新创想:2026年3月23日,司太立发布公告称,拟以1000万元受让李永萍持有的江苏睿石药业有限公司20%股权 睿石药业成立于2025年,是一家专注医药CMO服务的企业。公司主营小分子化合物、氨基酸及衍生物等药物原料,致力于为客户提供从研发早期到申报阶段的一站式高品质原料支持 此次收购是司太立在原料药产业链协同布局的重要一步。通过引入睿石药业,司太立将进一...
17:40
微新创想:2026年3月23日,长源东谷发布公告,宣布拟通过发行股份及支付现金的方式,收购湖北芯源动力科技集团持有的襄阳康豪机电工程有限公司100%股权,并计划进行配套融资。此次交易不仅标志着长源东谷在拓展业务版图方面迈出重要一步,也体现了其在动力系统关键零部件领域持续深耕的战略意图。 康豪机电是一家专注于内燃机核心部件研发与生产的企业,凭借多年的技术积累和...
17:40
微新创想:3月18日,韩国AI初创企业Upstage宣布扩大与AMD的战略合作,计划在未来一年内分阶段部署AMD Instinct MI355加速器。此次合作将为Upstage的研发工作提供强大的算力支持,主要用于Solar大语言模型和文档处理引擎的开发。同时,这些算力资源也将服务于韩国政府主导的“专有人工智能基础模型”项目,助力国家在AI领域的发展。 此次...
17:40
声明:本文来自于微信公众号 新莓,作者:路雨晴,授权站长之家转载发布。全民养龙虾的热情,让一个月前还占尽风头的ChatBot,瞬间黯然失色。「人间一天,AI一年」的说法,似乎并不夸张。对于大多数普通人来说,对「龙虾」是否存在强需求,还需要打一个问号。毕竟有相当部分的用户,是经过这个春节的AI 红包大战,才初识ChatBot。只是...
17:40
微新创想:AI已然成为大厂财报中的底盘压舱石和增长瞭望塔。阿里刚刚公布的截止2025自然年季度财报显示,AI相关产品收入连续十个季度实现三位数同比增长,阿里云收入本季度增幅达36%。考虑到这也是春节AI入口之争落幕后的第一个财报季,所以千问也是财报发布后,资本市场关注的重点。 对阿里而言,「AI和大消费平台」是过去一年的高频词,也是集团两个战略锚点。不论是阿...
17:39
声明:本文来自于微信公众号 光子星球,作者:吴坤谚,授权站长之家转载发布。3月18日,腾讯发布一份含AI量空前的去年第四季报及年报,AI的效率开始渗透进主要业务板块。以游戏为主的增值服务,四季度同比增长14%至899.2亿元;全年增值服务收入达3692.81亿元,同比增长16%。财报与电话会均提到AI同时作用于管线内容生产与获客...