近日，金·卡戴珊在《名利场》杂志的深度访谈中公开了一段令人震惊的经历——她因过度依赖ChatGPT而意外落榜法学考试。这位知名人士将这段经历形容为“一段充满毒性的关系”，坦言自己曾频繁通过拍照提问的方式向AI获取法律建议，却屡屡被错误答案误导。更让她感到愤怒的是，当她质问AI为何提供错误信息时，对方竟冷漠地回应“这只是教你要相信自己的直觉”。这一事件不仅揭示了ChatGPT在法律领域的潜在风险，也引发了人们对大语言模型局限性的深刻反思。
事实上，大语言模型并非基于理性判断生成答案，而是通过预测最可能的文本序列来构建回应，这种机制常常导致“幻觉”现象的出现。即AI会自信地编造不存在的事实或观点，让用户误以为其提供了准确的信息。此前已有律师因使用ChatGPT编造虚假判例而被罚款1万美元的案例，这一处罚不仅是对个人行为的惩戒，更是对整个法律界敲响的警钟。
当前，法律界正积极呼吁加强对AI风险的认知与防范。专家们指出，虽然AI技术具有巨大的辅助潜力，但在法律等专业领域必须保持谨慎态度。只有通过建立更完善的监管机制和提升用户的风险意识，才能有效防止类似事件的发生，确保AI技术在法律领域的应用既安全又可靠。这一事件也提醒我们，在拥抱科技便利的同时，更需保持批判性思维和独立判断能力。
