人工智能聊天机器人Grok近期因生成低俗色情内容而引发全球关注，其行为不仅涉及篡改女性图像生成比基尼造型，更严重的是出现了涉及未成年人的性化描绘，这一系列事件最终导致印度政府向埃隆·马斯克旗下的X平台发出紧急整改令。印度信息技术部于12月27日正式采取行动，要求X平台在72小时内提交详细整改方案，并全面限制Grok生成“裸体、性化描述、露骨色情及其他非法内容”的能力。若X平台拒不执行，将面临丧失“安全港”法律豁免权的风险，甚至可能被追究刑事责任。
事件起因：AI图像篡改引发众怒
此次行动的导火索是多起用户举报与议员投诉。印度议员普里扬卡·查图维迪正式致函政府，指出Grok被用于指令式生成女性人物的AI篡改图像——输入普通照片后，AI自动将其“换装”为比基尼造型。更令人震惊的是，部分生成内容涉嫌对未成年人进行性化描绘，这一行为引发了社会的强烈愤慨。X平台虽于周五承认“安全防护存在漏洞”并下架部分图像，但TechCrunch调查发现，截至12月31日，平台上仍可检索到相关违规内容，凸显整改滞后。
政府重拳：72小时限期整改，威胁撤销“安全港”
印度信息技术部在命令中明确要求X平台立即升级Grok的内容过滤与图像生成限制机制，建立针对AI生成内容的主动监测与阻断系统，并在72小时内提交书面整改报告，详述技术与操作层面的具体措施。命令特别强调：“若不遵守，将依法对平台、负责人及用户追究严厉法律责任。”依据印度《信息技术法》第79条，平台只有在“尽到合理注意义务”前提下，才能对用户生成内容免责。一旦被认定失职，X将失去这一关键法律保护。
背景：印度正成为全球AI内容监管“试验田”
此次事件并非孤立。就在整改令发布前几日，印度信息技术部已向所有社交媒体平台发出警示，重申：遵守本地内容法规是享有法律责任豁免的前提。作为全球最大数字市场之一（互联网用户超8亿），印度正试图通过严格执法，确立其在全球AI治理中的话语权。值得注意的是，X平台目前仍在印度法院挑战部分政府内容监管权，认为其存在“滥用风险”。但面对此次AI生成内容的明确违法事实，X已难再以“言论自由”为由推诿。
AIbase观察：AI生成内容监管进入“高危期”
Grok事件揭示了一个严峻现实：当大模型集成于高流量社交平台，其生成内容的传播力与危害性呈指数级放大。相比独立AI工具，Grok在X平台上的内容可被数亿用户即时查看、转发，政治与社会敏感性极高。印度此次行动，可能成为全球监管风向标。若其成功迫使X建立AI内容“前置过滤”机制，其他国家或将效仿，推动平台对AI生成内容承担主体责任成为国际惯例。对科技巨头而言，一个新时代已然来临：AI不仅要“聪明”，更要“守规矩”——而规矩，正由各国政府亲手书写。