OpenAI研究团队近日取得重大突破，成功揭示了困扰大语言模型领域已久的“幻觉”问题的核心症结。这一现象的根本原因在于模型训练过程中过度强调“猜测”行为，而忽视了承认自身不确定性的重要性，从而导致模型在输出内容时频繁出现与事实不符的信息。
研究团队指出，当前业界普遍采用的评估体系存在明显缺陷，它无形中鼓励模型在知识边界之外“伪装”自信，而非坦诚地表达“我不确定”。这种扭曲的激励机制使得模型长期处于一种“考试模式”中，不惜冒险猜测以博取更高的评分。然而，这种做法不仅降低了信息的准确性，更损害了模型的可信度。
值得注意的是，不同大语言模型在应对不确定性时表现出显著差异。例如，Claude模型在不确定情况下展现出更高的谨慎度，但代价是其拒答率居高不下，难以满足实际应用场景的需求。这一发现进一步印证了评估体系改革的紧迫性。
OpenAI强调，解决“幻觉”问题的关键在于彻底革新现有的评估标准。通过抑制模型的“乱猜”倾向，引导其在面对模糊问题时理性表达不确定性，才能有效提升大语言模型的可靠性和实用性。这一研究成果不仅为学术界提供了新的思路，也为业界推动大语言模型健康发展指明了方向。
