拜登政府与AI公司达成自愿安全承诺

关键要点

拜登政府与七家领先的AI公司达成自愿安全承诺，强调AI系统的安全。此承诺包括开发水印系统，以识别AI生成的音频和视觉内容。专家对此表示赞赏，但认为未来仍需更多监管措施。政策专家对美国在AI方面的反应表示批评，呼吁加速立法。

拜登政府在周五与七家领先的人工智能AI公司之间达成了一系列自愿安全承诺，旨在提升AI技术的安全性。这些公司包括亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI。政府计划制定一项行政命令，并寻求两党立法来确保美国在AI创新方面处于领先地位。

根据承诺，主要的AI公司同意将安全性置于首位，确保他们的AI模型抵御网络和内部威胁，并分享最佳实践和标准，防止滥用、降低对社会的风险并保护国家安全。

AI公司还意识到，让公众了解何时音频或视觉内容是AI生成的非常重要。为推动这一目标，他们同意开发用于标识公开系统生成的音频或视觉内容的“水印系统”。此外，他们还将开发API，以确认特定内容是否由他们的系统创建。

这些“水印”被认为非常重要，因为尽管它们对人眼不可见，但可以帮助计算机检测到文本很可能来源于AI系统。如果将其嵌入大型语言模型LLMs，行业专家认为它们可以帮助防御者阻止攻击。

美国应如何监管AI？

过去几个月，政策专家对美国在AI方面的反应表示批评。例如，《哈佛商业评论》在5月的一篇文章中提到，随着欧盟持续出台大量新的网络法规，美国国会却“游移不定”，导致联邦贸易委员会FTC等机构能够与其欧洲同行进行竞争的工具和资源相对匮乏。

周五的公告是对拜登政府在AI领域行动不够迅速的批评的回应。总的来说，从政治家到行业专家和智库分析师，大多数人对这些承诺表示满意，但认为这只是一系列监管过程的开始。

“我很高兴看到政府采取措施解决AI系统的安全和信任问题，但这仅仅是个开始，”参议员马克华纳DVa表示，他是参议院情报委员会的主席。“虽然我们常常听到AI供应商谈论他们对安全和安全性的承诺，但我们也反复看到漏洞产品的迅速推出，这些产品容易被利用，产生不可靠的输出，并且容易被滥用。这些承诺是朝着正确方向迈出的一步，但正如我之前所说，我们需要的不仅仅是行业承诺，我们还需要一定程度的监管。”

非营利组织网络威胁联盟的总裁兼首席执行官迈克尔丹尼尔表示，这一自愿协议是一个合适的起点。他补充说，由于AI技术发展迅速，美国政府需要迅速作出反应。

“不过，更好的方法是通过这样的自愿协议进行响应，这样可以随着我们了解的增多进行更新，而不是急于匆忙推行难以变更的法规，”丹尼尔表示。

外网加速npv下载

丹尼尔提到，行业在AI安全方面需要面对以下三个问题：

问题详述攻防影响恶意行为者和防御者都将利用AI进行活动，但是否AI会倾向于攻击者或防御者仍有争议。AI自身的安全性由于AI工具还相对较新，目前尚不清楚有效的保护措施是什么。对更广泛生态系统的影响生成AI的广泛使用使一些组织增强API以防止数据抓取，但这会减少可用于估计生态系统中漏洞范围的数据。

“最终，我们需要解决所有这三个安全问题，”丹尼尔说道。“虽然目前尚不清楚将涉及哪些测试，但我们可以想象针对任何网络应用典型的测试：公司是否监控和记录代码更新？”

Abnormal Security的首席信息安全官迈克布里顿表示，联邦政府是否需要监管AI仍然是一个未解决的问题。

“