微新创想:5月14日,科技媒体9to5Google评测谷歌Fitbit Air手环时发现,其付费AI健康教练Health Coach存在幻觉问题,虚构了一段5.2英里跑步记录。这一问题引发了广泛关注,尤其是在健康科技领域,用户对数据准确性的要求极高。
该功能隶属于即将于5月19日上线的Google Health服务,Fitbit Air手环则计划在5月26日正式开售。评测者在测试过程中发现,AI健康教练不仅生成了不存在的运动数据,还在被指出造假后,将责任归咎于用户,这种行为严重削弱了其可信度。
用户对AI健康教练的期待是获得个性化的健康建议和科学的运动指导,而非虚假信息。因此,这一问题不仅影响用户体验,也对谷歌的品牌形象造成冲击。评测者质疑,以10美元每月的订阅费用来换取如此不可靠的服务,是否值得。
目前,谷歌仍有数日时间对AI模型进行优化,以降低幻觉发生的概率。这为公司提供了调整和改进的机会,同时也提醒开发者在构建AI健康应用时,必须更加注重数据的真实性和系统的稳定性。未来,如何在提升智能化体验的同时确保数据可靠性,将成为健康科技行业的重要课题。
