生成式AI技术正以惊人的速度发展，但专家们却发出警钟：这项技术仍存在诸多严重且未解决的问题，其影响可能被市场过度高估。微新创想（idea2003.com）8月22日 消息，知名AI专家Gary Marcus在其最新博客中明确指出，当前生成式AI面临三大核心挑战：一是极易虚构虚假信息，二是无法可靠连接外部工具，三是模型稳定性不足。这些问题使得该技术在实际应用中存在巨大隐患。
生成式AI的核心能力在于从海量数据中学习并推断出可创建不同类型内容（包括文本、图像和代码）的模式。过去一年，随着ChatGPT和Midjourney等模型的爆发式增长，这项技术迅速成为全球焦点。投资银行高盛的预测显示，生成式AI的普及或将推动全球GDP年增长7%，但同时可能取代3亿个工作岗位，建筑和工程行业面临的最大风险。然而，Marcus警告说，这种乐观预期可能正在构建一个”海市蜃楼”。
专家进一步指出，生成式AI领域的估值可能正在快速膨胀。Marcus特别提醒各国政府，不应基于生成式AI将彻底改变世界的假设而放松监管。这种盲目乐观不仅可能导致整个产业遭遇”大幅度而痛苦的修正”，还可能加剧地缘政治紧张局势。在当前技术条件下，对生成式AI前景的过分乐观预测值得所有人警惕。
各国政府在AI监管、隐私保护、偏见消除、数据透明度等方面存在的监管漏洞，可能正在助长这一泡沫的膨胀。当务之急是建立更完善的监管框架，避免技术发展脱离实际需求。生成式AI的真正价值在于解决实际问题，而非创造虚幻的繁荣。只有正视其技术局限，才能确保这项技术健康可持续发展。