加州议员Scott Wiener近日提出了一项具有里程碑意义的法案，旨在提升生成式AI模型的透明度，并推动该州在AI监管领域的探索。该提案的核心要求是，所有”前沿”AI模型系统必须达到严格的透明度标准，同时设立强有力的安全机制，以防止AI技术被外国政府滥用或操控。更为关键的是，该法案强制要求AI实验室对模型进行全面的安全风险测试，并确保将发现的所有潜在风险及时向政府披露。
Wiener议员表示，这项提案的主要目标是为AI监管问题打开公众讨论的大门。在联邦层面立法进程相对缓慢的背景下，各州正积极行动起来，试图为AI技术的应用划定明确的边界。值得注意的是，尽管目前尚无州通过正式的AI监管规则，但截至2022年7月，已有包括加州在内的25个州以及波多黎各和哥伦比亚特区相继提出了各自的AI法案草案。作为全球AI产业的重要聚集地，加州不仅汇聚了众多顶尖AI企业，在科技行业立法方面也一直走在前列。
据悉，Wiener的法案被归类为”意图法案”，这意味着它需要经过进一步的完善和修订才能正式提交表决。与此同时，联邦政府自去年起便开始着手AI监管工作，通过举办多场听证会和召开行业峰会等方式深入了解AI技术的发展现状。此外，多家大型科技公司也向拜登政府做出了庄严承诺，表示将在AI研发过程中始终坚持负责任的原则。
这项提案的提出，不仅反映了加州对AI技术发展的审慎态度，也预示着美国AI监管格局可能即将迎来重大变化。随着AI技术在各领域的广泛应用，如何平衡创新与安全、开放与管控，已成为全球各国政府和社会各界共同面临的重要课题。加州的这一举措，无疑将为全国乃至全球的AI治理进程提供宝贵的经验和参考。