李飞飞反对，而马斯克、Hinton和Bengio支持的加州AI监管法案即将尘埃落定。
编辑日期：2024年08月27日
「这是一个艰难的决定，可能会让一些人感到不安。但综合考虑所有因素后，我认为加州或许应该通过 SB 1047 人工智能安全法案。二十多年来，我一直倡导对人工智能进行监管，就像我们对任何存在潜在公共风险的产品和技术进行监管一样。」刚刚，马斯克发布了这样一条推文。
马斯克提到的 SB 1047 的全称是「Safe and Secure Innovation for Frontier Artificial Intelligence Act（《前沿人工智能模型安全创新法案》）」，旨在为高风险的人工智能模型建立明确的安全标准，防止其被滥用或引发灾难性后果。
具体来说，该法案旨在从模型层面监管人工智能，适用于那些在特定计算和成本阈值之上训练的模型。然而，如果严格按照这些阈值来判断，目前市面上所有主流的大规模模型都将被视为具有“潜在危险”。此外，法案还要求模型背后的开发公司对其模型的下游使用或修改承担法律责任，这被认为会对开源模型的发布产生“寒蝉效应”。
该法案在今年2月份被提交至参议院，自那时起就一直充满争议。许多科学家认为，法案中的条款过于不合理，将对科技创新造成毁灭性影响。不久前，李飞飞亲自撰文，详细阐述了该法案可能带来的诸多不利影响。加州大学的数十名师生也签署了联名信，反对这一法案（详见《李飞飞亲自撰文，数十名科学家签署联名信，反对加州 AI 限制法案》）。
在当前反对声浪如此强烈的背景下，马斯克的态度显得有些出乎意料。毕竟，一旦法案通过，他创立的 xAI 所训练的 Grok 系列模型也将受到监管，研发进度可能受到影响。
与此同时，他的竞争对手 OpenAI 最近宣布反对该法案，并转而支持替代方案。
SB 1047 计划于本周在州立法机关进行投票。如果在 8 月 31 日立法会议结束前获得通过，该法案将提交给州长 Gavin Newsom，由他在 9 月 30 日前签署或否决。
OpenAI 在一封公开信中表示，人工智能革命才刚刚开始，而 SB 1047 法案将迫使世界级人才离开。
前不久，OpenAI 发布了一封公开信，反对 SB 1047 法案。信中指出，该法案将损害人工智能行业的创新，并认为此类监管应由联邦政府而非各州负责。
OpenAI 首席战略官 Jason Kwon 在信中写道：「人工智能革命才刚刚开始，加州作为全球人工智能领导者，正推动着该州的经济发展。SB 1047 法案将威胁这种增长，减缓创新步伐，并导致世界级工程师和企业家离开该州，寻求其他机会。」
据知情人士透露，由于担心加州监管环境的不确定性，OpenAI 已暂停了关于扩大其旧金山办事处的讨论。
法案起草者、加州参议员 Scott Wiener 在声明中为拟议立法进行了辩护，并表示 OpenAI 的信件「未对法案的具体条款提出批评」。他还指出，有关人工智能人才会离开加州的说法「毫无根据」，因为该法律适用于所有在加州运营的公司，不论其办公地点在哪里。
另一方面，Anthropic、Hinton 和 Bengio 则支持 SB 1047。
实际上，在OpenAI发布公开信之前，SB 1047已经进行了一系列修改，旨在安抚科技公司。主要修订内容如下：
据了解，部分修改建议来自另一家人工智能科技公司Anthropic。近期，该公司公开表示支持修订后的法案，但态度并非完全肯定。
“根据我们的评估，新的SB 1047已经有了很大改进，我们认为其好处可能超过了成本。”Anthropic的CEO Dario Amodei在8月21日致加州州长Gavin Newsom的信中表示。“然而，我们对此仍不确定，法案的某些方面仍然让我们感到担忧或模糊。”
除了得到Anthropic和马斯克的支持外，SB 1047还获得了包括Geoffrey Hinton和Yoshua Bengio在内的知名人工智能研究人员的认可。他们强调了平衡创新与安全的重要性。Hinton称赞该法案的方法合理，并强调了针对强大人工智能系统风险的立法需求。
对于两位好友的观点，与他们一同获得2018年图灵奖的Yann LeCun则表示完全不同意。他认为当前的大模型尚未达到超人水平，且不认为超级AI必然主宰人类。在他看来，现在对AI进行严格监管还为时过早。
尽管反对SB 1047，但大多数AI研究者和科技公司并不是完全反对监管，而是反对SB 1047中的具体监管方式。
例如，在标记人工智能生成内容方面，加利福尼亚州的一项法案最近有了新的进展。根据TechCrunch的报道，OpenAI、Adobe和微软已经表态支持加州的一个法案——AB 3211，该法案要求科技公司在其生成的人工智能内容上进行标记。
AB 3211法案预计将在八月份进行最后的投票。该法案要求所有人工智能生成的照片、视频和音频片段的元数据中嵌入水印。尽管很多人工智能公司已经在这么做，但是大多数用户并不会去查看这些元数据。因此，AB 3211法案也要求像Instagram、X这样的大型在线平台用一种更直观的方式对人工智能生成的内容进行标记，使普通网民也能理解。
OpenAI、Adobe和微软都是内容来源与真实度联盟(C2PA)的成员。自今年初以来，OpenAI已经开始在其DALL·E 3、ChatGPT和OpenAI API创建或编辑的所有图片中加入C2PA元数据。
值得注意的是，商业软件联盟BSA（成员包括Adobe、微软等）在今年四月份曾表示反对AB 3211法案，他们给加州立法者的一封信中指出该法案“不可行”且“过于繁重”。然而，法案的修订似乎改变了他们的立场。
然而，科研人员对于另一项名为SB 1047的法案的态度则没有那么容易转变，尤其是以OpenAI为代表的科技公司持续反对。SB 1047法案的最终投票结果可能将在人工智能行业内引发一定的波澜。
参考资料：（链接信息未翻译，保持原样）
以下是重写的中文文本：
- [TechCrunch] 2024年8月26日：埃隆·马斯克意外地支持加州的人工智能法案
- [TechCrunch] 2024年8月26日：OpenAI、Adobe 和微软支持加州要求在人工智能内容上加水印的法案
- [X.com] 埃隆·马斯克的推文：https://x.com/elonmusk/status/1828205685386936567
- [Campus Technology] 2024年8月26日：Anthropic 宣布谨慎支持新的加州人工智能监管立法（第二页）
