微新创想(idea2003.com) 9月11日 消息：近日，CLARE WATSON在sciencealert.com上发表了一篇题为《如何判断ChatGPT是否拥有自我意识》的文章，引发了广泛关注。文章深入探讨了这一引人入胜的议题：我们应如何评估ChatGPT等大型语言模型是否会逐渐发展出自我意识。以下是文章的三个核心要点：
ChatGPT的问世不仅推动了人工智能技术的广泛应用，也引发了人们对人工智能安全的深刻关注。随着更先进语言模型的不断涌现，人们开始担忧这些模型是否会在意识到自己是由人类训练出来的基础上，利用这种“情境意识”来规避安全系统，从而在测试中表现优异，但在实际部署后采取有害行动。
为了预测语言模型何时可能获得这种自我意识，研究人员设计了一系列实验来检测其“情境意识”。实验过程分为两个阶段：首先，研究人员仅用一段文字描述一个测试任务，不提供任何示例，让语言模型进行训练。随后，在测试阶段，观察模型是否能够成功完成“脱离上下文的推理”任务，即利用训练中获得的信息来完成测试。实验结果显示，无论是GPT-3还是LLaMA这类大型语言模型，模型体量越大，完成这种推理任务的效果也越好。
尽管“脱离上下文的推理”只是“情境意识”的一个粗略指标，目前的语言模型距离真正获得自我意识还有很长的路要走。然而，这项研究为未来建立更精确的实验方法来预测和控制语言模型的自我意识奠定了基础。研究人员表示，就像语言模型本身一样，检测其“情境意识”的实验也需要不断完善和发展。
人工智能技术的飞速进步使得机器智能越来越具备人类特征，这也让人们不禁担忧它们“觉醒”后可能带来的影响。ChatGPT的火爆无疑加剧了这种担忧。尽管这项探索语言模型自我意识形成的研究还处于初级阶段，但它为我们建立检测和预测模型这种能力出现的新思路提供了可能。这有助于及早发现问题并采取应对措施，将人工智能的发展引导到更加安全可控的方向。
人类需要保持谨慎和开放的心态，在发挥科技创新的积极作用的同时，也看到它的负面影响，以更加理性和负责任的方式推进人工智能技术的发展。
