OpenAI 和 Anthropic 同意在推出新模型前交由美国政府进行安全评估。
编辑日期：2024年08月30日
美国人工智能安全研究所于周四宣布，两家公司已与该研究所签署了一项谅解备忘录，承诺在模型公开发布前后提供访问权限。美国政府表示，此举将有助于共同评估安全风险并解决潜在问题。该机构还表示，将与英国的相关机构合作，为安全改进提供反馈。
OpenAI 的首席战略官 Jason Kwon 表示支持此次合作：
Anthropic公司也表示，建立有效测试AI模型的能力至关重要。该公司联合创始人兼政策负责人杰克·克拉克（Jack Clark）表示：
在联邦和州立法机构探讨如何设定对新技术的限制以避免抑制创新的同时，共享人工智能模型的访问权成为了一项重要措施。值得注意的是，加利福尼亚州的立法者于本周三通过了《前沿人工智能模型安全创新法案》（SB 1047），要求该州的人工智能公司在训练先进基础模型前实施特定的安全措施。这一举措遭到了包括OpenAI和Anthropic在内的几家人工智能公司的反对，他们警告说这可能损害较小的开源开发者。尽管该法案已经过修订，并等待加州州长加文·纽瑟姆的签署，争议仍然存在。
与此同时，美国白宫一直在努力争取主要公司就人工智能安全措施作出自愿承诺。几家领先的AI公司已经做出了非约束性承诺，表示将投资于网络安全和歧视研究，并致力于对人工智能生成的内容进行水印标记。
美国人工智能安全研究所所长伊丽莎白・凯利在一份声明中表示，这些新的协议只是“一个开端，但它们是我们努力实现负责任地管理人工智能未来的重要里程碑”。
