微新创想(idea2003.com) 7月26日讯 OpenAI近日宣布暂停使用其AI写作检测工具，该工具原本旨在区分人类创作与人工智能生成的内容。根据OpenAI发布的博客文章，由于检测准确率未达预期，该工具自2023年7月20日起正式停用。公司表示：”我们持续收集用户反馈，并致力于研发更先进的文本溯源技术。”
在最新发布的博客更新中，OpenAI坦诚承认其AI检测器存在明显缺陷。在对英语文本”挑战集”的测试中，该检测器仅能正确识别26%的AI生成文本（真阳性），却错误将9%的人类原创内容标记为机器生成（误报）。尽管检测工具已遭停用，OpenAI强调将另辟蹊径，计划开发新的机制帮助用户判断音频或视觉内容是否由AI生成，但具体实现方式尚未公布。
OpenAI完全承认该检测器存在严重局限性，并警示其可能将人类作品误判为AI生成。在停用工具前，公司曾表示通过增加训练数据有望提升分类器性能。随着ChatGPT的爆发式增长成为史上增长最快的应用，社会各界对这项技术既兴奋又警惕。教育领域尤为担忧，部分教师认为学生可能完全依赖ChatGPT完成作业，导致学习能力退化。纽约市部分学校已明令禁止在校园使用ChatGPT。
AI生成内容传播错误信息的问题日益突出。研究显示，AI生成的文本（如社交媒体帖子）比人类原创内容更具说服力。目前，政府尚未制定统一监管措施，各机构只能自行制定规范。值得注意的是，正是OpenAI这样的开创者，也正为如何应对这一技术带来的挑战而困惑。尽管部分制造虚假信息的个人已被查处，但未来AI与人类创作内容的区分将愈发困难。
在OpenAI信任与安全主管近期离职的背景下，美国联邦贸易委员会正对其信息审核机制展开调查。除博客文章外，OpenAI拒绝就其他相关问题发表评论。
