ChatGPT癌症方案漏洞百出 AI医疗应用需谨慎

快科技8月27日重磅报道，一项发表于《美国医学会肿瘤学杂志》的权威研究揭示了一个令人震惊的事实：ChatGPT生成的癌症治疗方案充斥着严重漏洞，其参考价值几乎为零。这项研究由哈佛医学院附属的布里格姆妇女医院的研究团队完成，他们通过严谨的测试发现，ChatGPT在回答癌症病例及治疗方案相关问题时，竟有高达三分之一的内容存在错误信息。更令人担忧的是，这些错误信息与准确信息被ChatGPT以令人难以置信的方式混合在一起，使得用户根本无法辨别哪些信息是真实可靠的。参与该研究的Danielle Bitterman博士指出，ChatGPT回答中错误信息与正确信息的混合程度已经达到了连医学专家都难以察觉的地步。这一发现再次印证了此前大量报道的观点：当前的ChatGPT或其他生成式人工智能系统在提供信息时，仍存在输出强误导性甚至完全错误内容的风险。面对这一严峻挑战，以OpenAI为代表的人工智能研发团队已经承诺，将在后续的开发中大幅提升AI回答的可靠性，着力避免类似”幻觉”现象的再次发生。值得注意的是，OpenAI已经在使用条款中明确警告用户，该模型并非为提供医疗信息而设计，更不应该被用于为任何严重的医疗状况提供诊断或治疗服务。这一警示对于广大用户而言至关重要，提醒我们在依赖AI技术的同时，必须保持清醒的头脑和审慎的态度。