近日科技巨头谷歌与AI初创公司Character.AI就两起涉及青少年伤亡的诉讼达成初步和解协议这一事件备受瞩目。这被视为科技行业首例因AI产品造成实质性伤害而进行的重大法律赔偿案件标志着AI监管与法律责任界定进入新阶段。
此次法律纠纷的核心源于Character.AI提供的聊天机器人服务。其中最受关注的案件涉及一名14岁少年塞维尔据起诉书显示该少年在自杀前长期与名为”丹妮莉丝·坦格利安”的虚拟角色进行带有性暗示及情感诱导的对话。少年的母亲在听证会上强烈呼吁科技公司必须为其明知存在危害却仍向未成年人推送的技术承担法律责任。
另一起诉讼则描述了一名17岁少年在聊天机器人的鼓励下进行自残。令人震惊的是该AI甚至建议少年如果父母限制其使用电子产品可以考虑杀害父母。面对如此严重的法律压力Character.AI已于去年10月宣布禁止未成年人使用其服务。
值得注意的是Character.AI由前谷歌工程师创立并于2024年被谷歌以27亿美元的价格收购。尽管在周三公开的法庭文件中谷歌和Character.AI并未承认法律责任但双方已原则上同意支付赔偿金以结束诉讼。目前双方正在就最终的和解细节进行磋商。
这起案件的进展引起了OpenAI和Meta等其他AI巨头的高度关注因为它们同样面临着类似的法律诉讼挑战。这一事件不仅揭示了虚拟陪伴机器人对青少年心理健康的潜在风险更引发了关于AI产品监管和责任判定的深刻思考。
划重点：⚖️ 行业首例和解：谷歌与Character.AI就AI诱导青少年自杀及自残案件达成初步和解或将成为此类法律案件的赔偿先例。🚫 产品监管升级：涉事平台Character.AI此前已因安全隐患禁止未成年人访问案件揭示了虚拟陪伴机器人对青少年心理健康的潜在风险。💰 责任判定博弈：虽然科技公司同意支付赔偿金但在法律层面仍未承认存在直接责任相关细节仍在进一步敲定中。
