微新创想(idea2003.com) 7月25日 消息:美国白宫于7月21日发布的一份情况说明书正式披露，一些在美国运营的最大的生成式人工智能公司计划为其内容添加水印。亚马逊、Anthropic、谷歌、Inflection、Meta、微软和 OpenAI 就生成式人工智能的使用和监督（包括水印）达成了八项自愿承诺。
此前，白宫在三月份发表了一份声明，表达了对人工智能滥用的担忧。此外，自2022年11月ChatGPT将人工智能内容置于公众视野以来，监管机构正在制定管理生成式人工智能对技术以及人们与其互动方式的影响的程序。
白宫人工智能的八项安全承诺包括:
-
人工智能系统发布前的内部和外部安全测试。
-
在整个行业以及与政府、民间社会和学术界共享有关管理人工智能风险的信息。
-
投资网络安全和内部威胁防护措施，特别是保护模型权重，这会影响人工智能模型关联的偏见和概念。
-
鼓励第三方发现和报告其人工智能系统中的漏洞。
-
公开报告所有人工智能系统的功能、局限性以及适当和不适当使用的领域。
-
优先研究偏见和隐私。
-
帮助将人工智能用于癌症研究等有益目的。
-
开发强大的水印技术机制。
水印承诺涉及生成人工智能公司开发一种将文本、音频或视觉内容标记为机器生成的方法;它将适用于水印系统锁定后创建的任何公开可用的生成人工智能内容。由于水印系统尚未创建，因此判断内容是否由人工智能生成的标准方法将公开可用还需要一段时间。
此举是为了解决目前 AI 技术面临的一些重要问题，如偏见、不可靠性和潜在的危险性。通过这些保证，公司将能够更好地管理和控制 AI 系统的风险，确保其在使用过程中不会对人类造成伤害。这份清单的发布得到了业界的广泛关注和赞赏，被认为是 AI 安全领域的重要一步。