人工智能与人工智能正在线上评价战场上对抗：「持续的猫鼠游戏」

微新创想(idea2003.com) 7月23日消息:线上评论战场上，人工智能与人工智能正在对抗。能够生成类似人类评论的生成式人工智能受到专门用于检测虚假评论的人工智能的对抗。这种对抗不仅影响着消费者，还关系着网络内容的未来。

Fakespot 的创始人兼 CEO Saoud Khalifah 表示，该公司已经看到大量生成式虚假评论。Fakespot 正在努力找到一种方法来检测类似 ChatGPT 的人工智能平台生成的内容。

他说：「今天非常不同的是，这些模型可以写任何东西。」

虚假在线评论与真实在线评论一样已经存在很长时间，但由于人们对互联网上广泛使用的先进人工智能技术产生了更广泛的担忧，这一问题变得更加紧迫。

经过多年的案件逐案件执法，上个月，联邦贸易委员会提出了一项新规定来打击虚假评论。如果获得批准，该规定将禁止撰写虚假评论、支付评论、隐瞒诚实评论和其他欺骗性行为，并对违反规定者处以巨额罚款。

但是，到底什么是虚假评论或真实评论变得不那么明确，检测虚假评论的技术仍然在不断改进中。

联邦贸易委员会广告实践部门的律师 Michael Atleson 表示：「我们不知道，也无法知道恶意行为者实际上是否在使用任何这些工具，以及其中有多少是由机器人生成的，而不是由人生成的。」「这真的更多是一个严重的问题，它只是我们担忧的一个缩影，这些聊天机器人将被用来创造各种虚假内容。」

有一些迹象表明，生成式人工智能评论已经非常普遍。CNBC 在 4 月份报道称，亚马逊上的一些评论明显涉及到人工智能，其中许多评论从短语「作为一个 AI 语言模型…」开始。

亚马逊是许多在线卖家中长期以来一直在与虚假评论作斗争的公司之一。一位发言人表示，该公司每周收到数百万条评论，主动阻止了 2 亿条疑似虚假评论。该公司使用人工调查员和人工智能的组合来发现虚假评论，运用机器学习模型分析用户的评论历史、登录活动和与其他账户的关系等因素。

更复杂的是，生成式评论并不完全违反亚马逊的规定。一位亚马逊发言人表示，该公司允许用户发布由人工智能生成的评论，前提是这些评论是真实的，并且不违反政策准则。

这家电商巨头还表示，它可能需要一些帮助。今年 6 月，亚马逊的全球销售合作伙伴服务副总裁 Dharmesh Mehta 在一篇公司博客中呼吁「私营部门、消费者团体和政府」加强合作，解决虚假评论问题。

关键问题是，人工智能检测是否能够胜过生成虚假评论的人工智能。Fakespot 检测到的第一批生成式虚假评论来自印度，几个月前，Khalifah 称这是由「虚假评论农场」生成的，即批量出售虚假评论的企业。生成式人工智能有可能让他们的工作变得更容易。

杜克大学计算机科学助理教授 Bhuwan Dhingra 表示：「这对检测工具来说，的确是一个很难通过的考验。因为如果模型与人类的写作方式完全匹配，你很难区分两者。我不认为有哪个检测器能够很快地通过这个测试。

几项研究发现，人类并不擅长检测由人工智能撰写的评论。许多技术专家和公司正在研究检测人工智能生成内容的系统，其中一些公司，如 ChatGPT 背后的 OpenAI，甚至正在研发用于检测自己人工智能的人工智能。

芝加哥大学计算机科学教授 Ben Zhao 表示，对于 AI 来说，要解决检测人工智能生成的评论的难题「几乎是不可能的」，因为机器人生成的评论往往与人类写的评论无法区分。

他说：「这是一个持续的猫鼠游戏，但从根本上讲，没有什么能够区分人工智能创造的内容。」「你会发现一些系统声称它们可以区分人类写的文本和 ChatGPT 的文本。但与他们试图追赶的东西相比，这些技术都相当简单。」

有 90% 的消费者表示会在网上购物时阅读评论，这让一些消费者维权者担心。

美国公共利益研究组织的消费者监督办公室主任 Teresa Murray 表示：「这对消费者来说是可怕的。」「AI 已经帮助不诚实的企业以与人类相似的语调在几秒钟内产生数千条真实的评论。」