OpenAI 和 Anthropic 同意在推出新模型前交由美国政府进行安全评估。
编辑日期：2024年08月29日
美国人工智能安全研究所于周四宣布，两家公司已与该研究所签署了一项谅解备忘录，承诺在模型公开发布前后提供访问权限。美国政府表示，此举将有助于共同评估安全风险并解决潜在问题。该机构还表示，将与英国的相关机构合作，就安全改进提供反馈。
OpenAI 的首席战略官 Jason Kwon 表示支持此次合作：
Anthropic公司也表示，建立有效测试AI模型的能力至关重要。该公司联合创始人兼政策负责人杰克·克拉克（Jack Clark）表示：
在联邦和州立法机构探讨如何设定对新技术的限制以避免抑制创新的同时，共享人工智能模型的访问权成为了一项重要措施。值得注意的是，加州议员于本周三通过了《前沿人工智能模型安全创新法案》（SB 1047），要求加州内的人工智能公司在训练先进基础模型前实施特定的安全措施。尽管法案经过了修正并等待加州州长加文·纽瑟姆的签署，但它仍遭到了包括OpenAI和Anthropic在内的几家人工智能公司的反对，这些公司警告说该法案可能会损害小型的开源开发者。
与此同时，美国白宫一直在努力争取主要公司就人工智能安全措施作出自愿承诺。几家领先的AI公司已经做出了非约束性承诺，表示将投资于网络安全和歧视研究，并致力于对人工智能生成的内容进行水印标记。
美国人工智能安全研究所所长伊丽莎白・凯利在一份声明中表示，这些新的协议只是“一个开端，但它们是我们努力实现负责任地管理人工智能未来的重要里程碑”。
