谷歌近日宣布将旗下AI模型Gemma从AI Studio平台下线，这一决定源于田纳西州参议员马莎·布莱克本对其捏造性侵指控的强烈抗议。布莱克本在致谷歌CEO桑达尔·皮查伊的信函中，详细指控Gemma在回答关于其是否被指控强奸的问题时，错误地声称她在1987年州参议院竞选期间遭一名州警察指控，并称该关系涉及非自愿行为。然而，布莱克本强调，这些指控纯属捏造，实际竞选年份为1998年。她指出，Gemma提供的支持性链接均指向错误页面或无关新闻，完全缺乏事实依据。
在信中，布莱克本还提及了保守派活动家罗比·斯塔巴克对谷歌的诉讼，斯塔巴克指控谷歌AI模型（包括Gemma）生成关于其”儿童强奸犯”和”系列性侵犯者”的诽谤言论。面对这些指控，谷歌公共事务副总裁马克汉·埃里克森曾回应称，模型产生”幻觉”是已知问题，公司正积极解决此类技术缺陷。但布莱克本反驳道，Gemma的虚假言论绝非无害的幻觉，而是由谷歌直接操控的诽谤行为。
值得注意的是，布莱克本在信中表达了特朗普科技支持者关于”AI审查”的抱怨，认为主流聊天机器人存在自由派偏见。今年特朗普签署的禁止”觉醒AI”行政命令，也反映了这一担忧。尽管布莱克本与特朗普政府科技政策并非完全一致，但她重申了对谷歌AI系统对保守派存在持续偏见的担忧。
谷歌在周五晚间发布声明时，未直接回应布莱克本信件的具体内容，但承认已注意到非开发者尝试在AI Studio中使用Gemma并询问事实问题。公司明确表示，Gemma从未被设计为消费者工具或模型，不适合此类用途。因此，谷歌决定将其从AI Studio下线，但将继续通过API提供该模型服务。
这一事件凸显了AI模型在事实核查和偏见控制方面面临的挑战。随着AI技术的快速发展，如何确保其生成内容的准确性和公正性，已成为科技行业亟待解决的重要课题。