微新创想：3月15日晚，央视315晚会曝光了针对AI大模型的数据投毒黑产。这一现象揭示了当前人工智能技术应用中潜藏的严重问题。不法服务商利用GEO技术，在互联网上批量发布虚假软文，从而诱导主流AI模型将虚构商品信息纳入推荐答案。这种行为不仅误导了用户，还可能对市场秩序造成破坏。
记者通过实测发现，仅需输入虚构产品信息并发布十余篇相关软文，就有两款AI模型将其置顶推荐。这表明，虚假信息对AI系统的影响力正在不断增强，且具有较高的传播效率。此类操作背后，隐藏着一套完整的产业链条，从信息制造到发布，再到最终影响AI输出，形成了一条‘喂料—抓取—输出’的闭环。
业内人士透露，该业务的本质是向AI训练或检索的数据源注入商业信息，以达到特定的推广目的。随着AI技术的广泛应用，这种数据投毒行为也逐渐专业化。目前已有专门的发稿平台承接此类任务，单个项目收费高达数十万至数百万不等，显示出这一灰色产业的庞大市场。
面对这一问题，监管部门已经介入调查，试图遏制此类不法行为的蔓延。然而，如何在技术层面和法律层面有效防范数据投毒，仍是当前亟待解决的难题。AI技术的发展需要更完善的监管机制和更透明的数据来源，以确保其在各个领域的应用安全可靠。
