澳大利亚推出全新法规，要求科技巨头Google、Microsoft Bing及DuckDuckGo等搜索引擎企业采取行动，从搜索结果中彻底清除虐待儿童内容，并全面防止深度伪造图像的生成。这一重要举措旨在应对人工智能技术可能被用于制造虐待儿童图像和恐怖主义宣传的严峻挑战。
澳大利亚电子安全专员Julie Inman Grant强调，科技公司必须主动承担起减少产品危害的责任。她指出，当前合成虐待儿童材料已真实存在，而恐怖组织正利用生成式人工智能制作宣传材料，这些问题已从假设变为现实。因此，立即采取有效措施势在必行。
根据新法规要求，搜索引擎公司需定期审查并持续改进其人工智能工具，确保绝对不会返回”1A类”有害材料，其中包括儿童性虐待、恐怖主义及极端暴力内容。同时，这些企业还必须研发技术手段，帮助用户识别和防范通过其服务接触到的深度伪造图像。这一法规被视为全球首批同类框架之一，具有里程碑意义。
Julie Inman Grant将人工智能的迅猛发展形容为一场”军备竞赛”，并坦言这一技术的演进速度已让大多数政策制定者、监管机构和国家感到措手不及。她提出，对于生成式人工智能的监管，需要采用全新的思考方式，强调监管审查必须从设计和部署阶段就开始介入，而不是等问题出现后再被动应对。这种前瞻性的监管理念类似于汽车制造商被强制安装安全带的规定，要求科技行业从一开始就将更严格的监管要求融入产品设计之中。
Julie Inman Grant表示，这种做法对科技行业具有深远商业意义，当前行业亟需类似”安全带时刻”的强制性规定。电子安全专员同时指出，监管机构已注意到部分不法分子正利用新人工智能工具从事非法活动，特别是生成虐待儿童材料。新规则将迫使科技公司不仅要减少平台上的危害，更要致力于开发促进更高在线安全的工具，例如深度伪造图像检测技术。
澳大利亚总检察长Mark Dreyfus在议会公开宣布，澳大利亚联邦警察已开始使用人工智能技术检测虐待儿童材料，不再单纯依赖人工审查照片。这一创新举措呼吁成年人提交自己童年时期的照片，以帮助训练人工智能模型，从而更有效地应对虐待儿童材料问题。这一合作计划标志着澳大利亚在利用先进技术打击网络犯罪方面迈出了重要步伐。