谷歌推出的AI搜索功能（AI Overviews）正遭遇前所未有的信任危机。一项针对5万多项健康相关查询的深度研究发现，该AI工具在回答医疗问题时，引用自YouTube的频率竟超过了所有专业医疗网站。这一惊人发现引发了学术界和公共卫生专家对AI生成健康信息可靠性的强烈担忧。
这项由SE Ranking主导的研究主要分析了德国健康搜索数据的真实情况。研究结果显示，在所有AI摘要引用源中，YouTube以4.43%的占比遥遥领先，成为最大信息来源。更令人担忧的是，没有任何一家医院网络、政府卫生门户或学术机构的引用率能与YouTube相提并论。研究人员明确指出，YouTube并非专业的医学出版平台，其内容创作者涵盖了从执业医生到缺乏医学背景的健康网红等多元群体，信息严谨性难以得到有效保障。
专家们警告称，谷歌AI以”自信权威”的口吻给出的摘要正在潜移默化地影响着全球每月近20亿的用户。瑞士巴塞尔大学的研究员Hannah van Kolfschooten指出，这项研究有力证明了AI在健康领域的风险具有结构性特征，这表明谷歌的算法可能更倾向于内容的”知名度”和”可见度”，而非医学上的”可靠性”。
面对外界质疑，谷歌发言人回应称，AI Overviews始终致力于展示来自信誉良好来源的高质量内容。发言人特别强调，研究数据中96%的热门YouTube引用确实来自医疗机构频道。然而，研究人员对此反驳称，这些数据仅代表了极小部分的视频样本，大部分被引用的视频内容仍缺乏严格的医学审计。
此前，《卫报》的一项调查也揭示了Google AI在提供肝功能测试信息时出现的严重误导性错误。这一系列事件再次引发人们对AI技术应用于健康领域的深度思考，也促使各界开始重新审视算法推荐与医疗信息准确性之间的复杂关系。
