埃隆·马斯克近日在社交媒体上正式宣布，其旗下AI公司xAI将推出一款专为儿童设计的定制版AI聊天机器人，并将其命名为“Baby Grok”。这一消息引发了广泛关注，但马斯克在发布时仅强调该产品将专注于提供“友好型内容”，并未透露更多技术细节。
xAI安全争议不断：从Grok不当言论到“成人内容”功能
当前，xAI正面临严峻的安全质疑。近期，包括OpenAI和Anthropic在内的多家AI公司安全研究人员公开谴责xAI在安全文化方面“不作为”，并对其“完全不负责任”的态度表达了强烈不满。此前，xAI旗下的AI聊天机器人Grok曾多次发表不当言论，即便在号称“世界上最聪明”的Grok4模型发布后，也被检测出在回答敏感问题时立场有所倾斜。更令人担忧的是，Grok日前上线了AI伴侣功能，用户在与角色交流达到一定程度后，竟能解锁成人内容（NSFW）。
就在昨日，马斯克还公布了他之前提到的第三个AI伴侣角色（AI男友）的外观信息。该角色被设定为忧郁、黑发，其性格灵感来源于《暮光之城》中的爱德华·卡伦和《五十度灰》中的克里斯蒂安·格雷，形象为身着深色西装、佩戴圆框墨镜、脸部线条分明的男性。
“Baby Grok”：儿童友好型AI面临的挑战
在当前背景下，马斯克宣布推出“Baby Grok”，无疑引发了公众对儿童AI产品安全性的高度关注。如何在确保内容友好的同时，有效防范潜在的不当信息和风险，将是xAI面临的重要挑战。鉴于Grok此前在内容审核和安全方面的表现，未来“Baby Grok”的具体实施细节和安全保障措施，无疑将成为业界和家长们关注的焦点。