生成式AI安全新规正式发布，明确31项核心要求，为AI服务提供者划定”持证上岗”标准
微新创想（idea2003.com）10月13日 消息：随着人工智能技术的快速发展，为规范生成式AI服务市场，最新发布的安全规定正式落地。该规范明确了31项关键安全要求，标志着生成式AI服务进入”持证上岗”时代。所有AI服务提供者必须严格遵守这些要求，才能合法合规运营。
安全规范构建四大防护体系
这一全新安全规定围绕语料安全、模型安全、安全措施和安全评估四大核心领域构建全方位防护体系。在语料安全方面，要求建立严格的语料来源黑名单制度，明确指出若某数据源违法不良信息占比超过5%，将被列入黑名单并禁止使用。同时强调语料来源的多元化，要求涵盖不同语言和类型的数据，并建立完整的来源追溯机制。模型安全方面，规定不得使用未备案的基础模型进行研发，所有第三方基础模型使用情况必须公开透明。此外，生成内容需符合科学常识，坚决杜绝错误信息的传播。
差异化保护措施针对特殊场景
针对不同应用场景和用户群体，规范制定了差异化的保护措施。在关键信息基础设施领域，要求实施更严格的监控机制；在未成年人使用场景下，则特别强调内容过滤和风险防范。同时，规定必须设置专业监看人员，持续优化生成内容质量，确保输出结果符合社会伦理和法律法规要求。
科学评估体系保障安全可靠
安全评估方面，规范提供了具体可操作的评估方法，包括语料安全评估、生成内容安全评估以及内容拒答评估等关键环节。要求服务提供者定期开展人工抽检，确保语料来源的合规性。这一科学评估体系将有效提升生成式AI服务的整体安全水平。
这一生成式AI安全规定的出台，不仅为行业提供了明确的行为准则，更为保护用户权益和社会安全提供了坚实保障。通过划定清晰的底线标准，将推动生成式AI技术朝着更加安全、可靠、负责任的方向发展。
关于征求信安标委技术文件《生成式人工智能服务 安全基本要求》（征求意见稿）意见的通知，详情请访问：https://www.tc260.org.cn/front/postDetail.html?id=20231011143225