世界顶级人工智能公司做出承诺 将负责任地开发AI技术

财联社消息，当地时间周五(7月21日)，美国白宫发布公告称，已与大型科技公司达成协议，为人工智能(AI)的开发设置更多防护措施，包括开发水印系统等，来控制误导信息的传播和其他风险。

白宫表示，亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家主要人工智能公司做出自愿承诺，帮助实现人工智能技术安全、可靠和透明的发展。

公告中称，这些公司做出的自愿承诺强调了人工智能未来的三个基本原则：安全、保障和信任，这标志着朝着开发负责任的人工智能迈出了关键一步。

白宫指出，美国政府希望抓住人工智能带来的巨大的机遇，但同时也要管理人工智能带来的风险，保护美国人民的权利和安全。

一名白宫官员表示，根据协议，上述公司将开发水印系统，水印将嵌入到平台中，这样用户创建的任何内容(文本、图像、音频和视频等)都可以显示出是否是，以及是由哪个人工智能系统创建的。

据悉，水印嵌入到内容中，可能会让用户更容易发现深度伪造的图像或音频，从而降低相关风险。不过，目前尚不清楚在信息共享过程中水印将如何显现。

这些公司承诺，在人工智能系统发布之前，将对其进行多项安全测试，还将引入外部专家进行评审。

这些顶级人工智能公司还承诺，随着人工智能的发展，将重点保护用户隐私，并确保该技术不存在偏见，不被用来歧视弱势群体。其他承诺包括为医学研究和减缓气候变化等科学问题开发人工智能解决方案。

白宫官员同时指出，新的承诺不能取代联邦行动或立法，白宫正在积极制定一项“管理人工智能使用”的行政命令。

自生成式人工智能爆火以来，世界各地的立法者都在开始考虑如何减轻这种新兴技术对国家安全和经济的危险。

拜登政府曾在5月份向公众征求意见，寻求制定一项国家人工智能战略，以防范错误信息和该技术的其他潜在缺点。

美国参议院多数党查克·舒默今年6月呼吁进行“全面立法”，以推进和确保对人工智能的监管。