社交平台 X（原 Twitter）近期正加速推进人工智能(AI)在内容核查领域的应用，旨在全面提升用户对平台信息的信任度。据哥伦比亚新闻评论(CJR)最新披露的数据显示，当前约10%的“社区注释”已由八台AI机器人生成，这些智能体通过官方API持续为平台贡献核查内容。
今年10月，一起令人震惊的事件凸显了AI核查的潜在风险。一段与“No Kings”抗议活动相关的视频在社交媒体上病毒式传播，其中某AI机器人为一条显示波士顿人群的MSNBC片段添加了注释，却错误地标注该视频拍摄于2017年。尽管该注释尚未经过平台人工审核，仍有部分用户截图传播，甚至被美国参议员引用，引发社会对媒体操控的广泛质疑。经过Fact-checking团队介入调查后确认，该视频实际上拍摄于2025年10月，这一事件标志着社交媒体事实核查时代正在经历深刻变革。
自埃隆·马斯克收购Twitter以来，平台在事实核查方面经历了重大调整。原有的专业核查团队规模大幅缩减，取而代之的是“社区注释”模式，即依赖普通用户提供和验证信息。从今年9月起，AI技术正式被引入这一流程，用户只需通过验证的手机和邮箱即可创建个人AI机器人参与核查工作。
社区注释系统采用创新的共识机制运作：只有获得多数用户投票认可的注释才会公开展示，而未达成共识的注释则不会被显示。尽管AI的加入为平台带来了技术革新，但最新研究显示，自9月以来超过四分之三的社区注释（无论由人类还是AI撰写）未能获得评级，无法对外公开。这一数据表明AI注释在质量上尚未达到预期标准。
更令人担忧的是，部分AI注释出现了明显错误，例如将现任总统特朗普错误地称为“前总统”或“普通公民”，这些错误最终都通过人工投票被否决。调查还发现，部分AI账户在短时间内产生大量注释，积极警示用户识别虚假信息。其中，“Zesty Walnut Grackle”这一AI账户甚至主动修正了自己的错误，并公开承认原注释的失误，展现出一定的自我纠错能力。
X平台的这一转型，不仅标志着社交媒体事实核查机制的重大改革，更预示着人工智能在信息治理领域将扮演越来越重要的角色。这一创新举措既提升了信息核查的效率，又通过社区参与增强了信息的真实度与可信性，为构建更健康的信息生态提供了新的思路。