微新创想(idea2003.com) 7月23日讯 在数字时代的舆论战场上，一场前所未有的智能对抗正在激烈上演。以ChatGPT为代表的生成式人工智能正以逼真的笔触编织着虚假评论，而Fakespot等反欺诈技术则化身”数字猎手”试图撕破这些伪装。这场攻防战不仅深刻影响着消费者的决策体验，更对整个网络生态的未来走向投下巨大变数。
Fakespot创始人兼CEO Saoud Khalifah向外界揭示了令人不安的现实：”我们监测到大量由AI生成的虚假评论，其逼真程度令人咋舌。”他强调，当前形势与以往截然不同——这些先进的AI模型已经能够”无中生有”地创作任何文本内容。尽管虚假评论现象并非新事物，但随着生成式AI技术的普及，这一问题正以前所未有的速度恶化。
面对这一挑战，美国联邦贸易委员会上月正式推出史上最严厉的监管措施。新规明确禁止制造虚假评论、支付购买评论、隐藏真实评价等欺诈行为，并设定了高达数百万美元的巨额罚款。然而，在法律与技术的博弈中，”真假评论”的界限正在变得模糊。FTC广告实践部门律师Michael Atleson坦言：”我们既无法确认恶意行为者是否在利用这些工具，也无法判断其中有多少是机器生成的内容。”
令人担忧的是，AI生成评论已形成泛滥趋势。CNBC4月报道显示，亚马逊平台上出现大量以”作为一个AI语言模型…”开头的可疑评论。作为电商领域的”老将”，亚马逊每周处理逾千万条评论，却不得不每天拦截超过2亿条疑似造假内容。其反欺诈系统巧妙融合人工审核与AI分析，通过用户行为模式、登录轨迹等多维度数据识别异常评论。
但更棘手的是，亚马逊对AI生成评论采取的”双刃剑”策略。官方表示，只要内容真实且符合政策，AI评论是被允许的。这种模糊立场让监管更加复杂。6月，亚马逊全球销售合作伙伴服务副总裁Dharmesh Mehta在内部博客呼吁产业界、消费者团体与政府联手应对。这场反欺诈战的核心，在于检测技术能否始终跑赢生成技术。
Fakespot最早在印度发现AI生成虚假评论的踪迹，Khalifah将其归咎于”虚假评论农场”的工业化生产。生成式AI的普及无疑为这些不法分子提供了强大武器。杜克大学计算机科学助理教授Bhuwan Dhingra指出：”当AI写作与人类无法区分时，检测系统将面临终极考验。”多项研究表明，人类对AI生成内容的辨识能力远低于预期。
技术专家们正在展开”猫鼠游戏”般的攻防。OpenAI等公司甚至开始研发专门用于检测自身AI内容的反作弊系统。芝加哥大学计算机科学教授Ben Zhao直指症结：”机器生成内容与人类创作在本质上无法区分，检测技术永远落后于生成技术。”尽管如此，仍有90%的消费者依赖网络评论购物，美国公共利益研究组织主任Teresa Murray警告：”AI正让不诚信企业用假评论在瞬间构建虚假信誉，这对消费者是场噩梦。”