白宫推水印系统防范AI风险 七大科技巨头许安全承诺 数字水印重要性日益凸显

频道:最新资讯 日期: 浏览:341


当地时间7月21日,美国白宫发布公告称,已与大型科技公司达成协议,为人工智能的开发设置更多防护措施,包括开发水印系统等,来控制误导信息的传播和其他风险。

白宫表示,亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家主要人工智能公司做出自愿承诺,帮助实现AI技术安全、可靠和透明的发展。公告显示,这些公司做出的自愿承诺强调了AI未来的三个基本原则:安全、保障和信任,这标志着朝着开发负责任的人工智能迈出了关键一步。

拜登指出,公司的措施只是第一步,并承诺采取行政行动,同时与国会合作制定有关人工智能的规章制度。他说,“我们必须对这些威胁保持清醒和警惕。”

随着以ChatGPT为代表的AI的持续火热,AI技术蕴藏的风险,例如人脸伪造技术等也愈发受到公众的关注。今年4月底,曾有一名受害者10分钟被AI换脸骗走430万元。生成式AI技术的不断迭代也增加了伪造图片的真实度,使得识别难度愈发加大,其带来的潜在风险也进而提升。

数字水印则能够将标识信息嵌入数字载体当中,通过隐藏在载体中的信息,可确认且判断载体是否被篡改,保护数字产品版权、完整性、防复制或去向追踪。随着AI安全的重要性日益凸显,数字水印的应用愈发受到重视。

此前,微软在Build 2023开发者大会上就曾表示,将对AI生成内容进行添加水印,确保其程序生成的AI艺术能够被识别出来;谷歌也在今年的开发者大会上宣布,将确保公司的每一张AI生成图片都内嵌水印,以提示用户该图片由AI生成。

国内方面,抖音曾发布关于人工智能生成内容的平台规范暨行业倡议,提出各生成式人工智能技术的提供者,均应对生成内容进行显著标识,以便公众判断。

市场空间方面,据Precedence Research数据,2022年全球基于AI的网络安全市场规模为174亿美元,预计2032年将达1027.8亿美元,2022-2032年CAGR约19.43%。

相关文章

关闭广告
关闭广告
×