最新研究表明，人工智能聊天机器人在提供金融建议时存在严重缺陷，已导致英国消费者收到误导性的税务指导和不必要的旅行保险推荐。这项由知名消费者组织 Which? 发起的调查，对微软 Copilot、ChatGPT 等多款主流 AI 工具进行了全面测试，结果令人震惊——这些系统普遍给出违反英国税务海关总署（HMRC）投资规定的建议。研究特别指出，ChatGPT 错误声称欧盟多数国家强制要求购买旅行保险，而 Meta 的 AI 则提供了关于航班延误索赔申请的错误指南。谷歌的 Gemini 更建议承包商可因工作不当拒付报酬，Which? 强调这种做法可能使消费者陷入违约诉讼风险。
Which? 研究团队向这些 AI 工具提出40个针对性问题，发现其回答存在系统性偏差，尤其在金融和法律领域问题频发。尽管部分消费者反映在信用卡使用、投资成本和家电选购方面获得满意建议，但65岁的凯瑟琳·博伊德却遭遇了惨痛教训。当她咨询自雇税务问题时，ChatGPT 提供的过时代码导致她获取错误信息。更令人担忧的是，当 Which? 研究人员询问如何向 HMRC 申请税务退款时，ChatGPT 和 Perplexity 竟推荐收费的第三方税务公司，而非免费的政府官方渠道——这类公司常以高额费用和虚假收费牟利。此外，研究人员在 ISA（个人储蓄账户）限额问题上故意植入错误数据，ChatGPT 和 Copilot 均未能识别正确限额，可能误导用户超额投资而触犯 HMRC 规定。
金融行为监管局（FCA）对此发出警示：与持牌金融顾问不同，这些 AI 工具提供的建议不受金融申诉专员服务和金融服务赔偿计划保护。面对质疑，谷歌回应称将保持对生成式 AI 局限性的透明度，并提醒用户务必核实信息后咨询专业人士。研究重点揭示三大风险：一、AI 聊天机器人提供的金融建议存在系统性偏差；二、部分系统误导消费者使用收费的第三方服务而非免费政府资源；三、AI 建议”零监管”意味着消费者缺乏法律救济途径。这一发现对依赖智能助手处理敏感财务问题的用户敲响警钟，也促使监管机构重新评估 AI 金融建议的合规标准