美国加州将亲自扼杀AI创新？硅谷一片哗然
编辑日期：2024年08月12日
上周三，一批在计算机领域享有盛誉的知名学者共同签署了一封公开信，以支持加州立法机构提出的一项关于人工智能安全监管的法案。他们将此信发送给了加州政府三位主要官员：州长加文·纽森（Garvin Newsom）、以及加州参议院和众议院的议长。
在这封联名信上签名的学者和教授们在人工智能领域有着开创性的研究，特别是在神经网络和深度学习领域做出了卓越的贡献，他们在人工智能行业享有极高的声望。他们的观点将会受到美国政府和整个AI行业的高度重视与尊重。
他们包括被赞誉为“人工智能之父”的加拿大科学家杰弗里・辛顿（Geoffrey Hinton）、被称作“深度学习之父”的加拿大蒙特利尔大学计算机科学教授约书亚・本吉奥（Yoshua Bengio）、编写了最早的AI教材的加州大学伯克利分校计算机科学教授斯图亚特・罗塞尔（Stuart Russell），以及网络法律专家、哈佛大学法学院教授劳伦斯・赖斯格（Lawrence Lessig）。
为何这项来自加州的法案能引起这些权威人士的高度关注和忧虑？该法案，即《前沿人工智能模型安全可靠创新法》（Safe and Secure Innovation for Frontier Artificial Intelligence Models Act，或称 SB 1047），已顺利通过加州参议院与众议院相关委员会的审议，正待两院正式投票。一旦投票通过，并经加州州长纽森签署，便会正式生效成为法律。
这些著名的教授指出，如果不够重视和监管，下一代AI系统的研究和开发可能会带来严重的风险。他们认为加州的这项法案是有效管理这项技术的最基本要求。“当前对于AI系统的监管不足，这可能会引发严重的灾难性风险”。
作为对AI系统最为了解的专家，我们有充分的理由相信，AI带来的潜在灾难性风险是真实存在的，并且严重到需要制定相应的安全检测与预防措施。我们在信中提到，担忧的是科技公司在追求市场份额和最大利润的过程中，可能无法自我解决这些系统性的风险问题。因此，对于这些在AI领域处于领先地位的公司来说，需要有一定的规范和规定来加以约束。
这已不是AI领域的巨擘辛顿和本吉奥首次公开力挺SB 1047法案。之前，他们也曾表态支持加州对AI技术进行立法管理。此次他们发表公开信的背景是，加州的AI监管法案SB 1047遭到了许多AI业界人士及学术专家的反对。作为图灵奖得主，他们认为自己有责任再次明确表达自己的立场，坚决支持加州政府的这项立法行动。
确实，有一些计算机科学领域的专家公开表达了对当前人工智能监管法案的反对意见，特别是那些与硅谷科技公司有着紧密联系的学者。斯坦福大学计算机系教授、视觉识别专家李飞飞上周在《财富》杂志上发表评论文章，明确反对加利福尼亚州的这项监管法案。她认为该法案可能会产生出人意料的后果，阻碍人工智能领域的创新。
她表示，如果SB 1047成为法律，将会损害新兴的AI生态系统，特别是那些在当前已经相对于科技巨头处于不利地位的部分，如公共领域、学术界及小型科技企业。“SB 1047将不必要地对开发者进行惩罚，扼杀我们的开源社区，并阻碍学术界的AI研究，却未能真正解决原本希望解决的问题。”
李飞飞表示她并非反对人工智能治理，但她认为AI监管政策必须支持开源开发，并制定统一且合理的规则，而SB 1047并未达到这样的标准。她希望能够与加州的立法者们合作，共同推动AI监管立法的工作。“加州是人工智能的心脏地带，其发展将决定全美的未来。”
李飞飞的同事、斯坦福大学的计算机科学教授吴恩达虽然没有强烈地表达反对意见，但也温和地表示，作为人工智能的研究者，该法案的许多条款让他感到难以适应。
在计算机科学领域，众多学术界和产业界的专家与企业之间存在着紧密的联系。例如，李飞飞曾担任谷歌云的首席科学家，辛顿则在Google Brain部门服务了整整十年。吴恩达同样拥有丰富的从业经验，在谷歌和百度工作多年，并且还是谷歌深度学习团队的创始人之一。
自从今年2月加州议会正式提出该法案以来，硅谷就围绕着人工智能监管的问题掀起了激烈的争论。基于不同的立场和利益，学者、专家、政府官员和行业巨头们持有截然不同的观点。
这项法案由代表旧金山地区的加州参议员斯科特·维纳（Scott Wiener）提出。该法案要求加州的人工智能公司在训练大型模型时必须进行严格的安全测试，以防止潜在的危险功能出现，并且需要实施全面的安全措施来降低可能引发灾难的风险。
在加州的立法审议中，SB 1047 获得了良好的进展，几乎没有议员公开表示反对。这得益于之前由 David Binder 所进行的民调显示，高达 77% 的加州选民支持对人工智能进行立法，其中更有 55% 的选民明确支持对 AI 公司实施强制性安全检查。
需要强调的是，该法案仅适用于在大型AI模型研发上投入超过1亿美元的公司，这一数额大致也是大型企业和小型初创公司在研发投入上的分界线，恰好相当于GPT-4的训练成本。根据这一标准，包括谷歌、Meta、OpenAI和Anthropic等知名AI企业都将纳入监管范畴。
而且，不论这些人工智能公司的总部是否设在加州，只要他们在加州进行业务活动，就会受到相关法规的监管。因此，即使马斯克的xAI将来迁移到德州，也会受到该法规的约束，因为在研发和业务上完全脱离加州几乎是不可能的。
数据公司Collibra委托市场研究公司Harris Poll对美国300位数据管理和网络安全专业人士进行了调查。调查结果显示，几乎所有的受访者（99%）都认为政府应当对AI技术可能构成的威胁进行监管。
在可能由AI带来的风险中，64%的受访对象强调了隐私和安全问题，而57%的受访对象提到了虚假信息的问题。81%的受访对象认为许多互联网服务公司将用户视为有价值的商品，并认为科技公司应当为使用用户信息来训练大型AI模型而付费。
自去年以来，美国国会与拜登政府已经开始探讨如何对人工智能进行监管。在此期间，负责反垄断的联邦贸易委员会（FTC）已经对OpenAI、微软与谷歌等公司在AI领域的活动进行了多次调查。然而，在美国大选最为激烈的关键时刻，两党都忙于选举事务，无法专注于国会立法工作。因此，制定AI监管政策的任务可能需要等到明年新一届政府与国会接任后才能继续推进。
根据数据行业组织透明联合会（Transparency Coalition）的统计，全美各地已有超过400项与人工智能（AI）相关的法案正在起草中。在加利福尼亚州，除了SB 1047法案外，还有大约30项与AI有关的法案正处于立法初期的讨论阶段，这些法案主要关注保护知识产权、禁止AI色情内容、保障儿童数据安全等方面的问题。
加州并非美国首个对AI进行立法监管的州。在此之前，科罗拉多州和犹他州已通过了相关监管法规，但其监管力度均明显小于加州的SB 1047法案。更重要的是，大多数AI公司总部位于加州，因此该法案将对AI行业产生重大影响。
在SB 1047的监管范围内，大多数硅谷的人工智能公司和创投界都对该法案表示反对和担忧。包括Meta、谷歌和微软在内的大型企业也正在利用自身的游说力量，试图促使维纳修改该法案或阻止其在加州议会获得通过。
微软在一封公开信中指出，目前为该法案所构建的监管框架基础并未完全建立，若草率通过相关法律，可能会导致人工智能领域错失投资机会，产生误导性结果，并且削弱行业专注于研发的能力，从而影响资源的有效利用。
硅谷最具影响力的风投公司安德森·霍洛维茨（Andreessen Horowitz）指出，该法案设立了一项无法达成的要求；如果法案通过，大多数初创公司将不得不迁移到对AI行业更加友好的州。尽管该公司的两位创始人在今年的美国总统选举中公开支持共和党候选人特朗普，并批评民主党政府的多项政策损害了美国经济。
上个月底，一家知名的AI创业公司Anthropic向维纳发送了一封信，明确表示他们对当前的监管法案持反对态度，并提出了一系列改进建议，希望能够与维纳展开交流讨论。Anthropic认为，该法案应该调整其范围，重点在于要求AI公司对其引发的灾难负责，而非强制规定AI公司必须采取特定的预防措施。
Anthropic 认为，监管机构应当允许人工智能行业自行确定安全措施，并对造成严重后果的企业进行惩罚，而不是一开始就实施各种繁琐的安全规定，这会让人工智能公司在创新和研发方面受到束缚。
AI行业的反对声音主要针对SB 1047法案中规定开发者必须提供合理可靠的安全保障条款。这一条款旨在防止AI大型模型被不当利用，引发不可预测的风险和严重损害，比如用于制造大规模杀伤性武器，或者破坏关键基础设施。
根据当前法案的规定，加州司法部有权对那些未制定适当安全措施并导致灾难后果的AI公司提起诉讼。法案中所指的灾难性后果包括：开发可用于制造或使用“生化放射性或核武器”的技术，以及给关键基础设施造成超过5亿美元的损失。
有趣的是，旧金山作为美国人工智能领域的创新中心，众多AI初创公司如Open和Anthropic都聚集于此并且持续扩张。然而，正是旧金山的立法者们率先提出了法案，要求对这些位于他们自己选区内的AI公司进行立法监管。
维纳提出的这项议案在旧金山引起了广泛讨论，支持者与反对者各执一词，争论不休。许多人担忧，人工智能监管法案可能会抑制正处于快速发展的AI产业，进一步对本已低迷的旧金山经济造成打击。
旧金山的经济对科技行业具有高度依赖性。据统计数据表明，在2021年，近五分之一（确切数字为18.7%）的旧金山雇员在科技行业工作。然而，由于近年来治安状况持续恶化，许多科技企业纷纷选择迁出旧金山，并且随之而去的还有大型会展活动，这对当地经济构成了沉重的打击。最近一家决定离开的科技公司是由马斯克掌舵的X公司（原名Twitter）。根据商业地产公司CBRE的数据，今年第二季度，旧金山市中心的写字楼空置率已飙升至36.8%的历史新高水平。
在这样全面萧条的情景中，人工智能（AI）成为了旧金山少数仍在增长的亮点产业之一。大部分的人工智能初创公司，如 OpenAI 和 Anthropic，其总部均设于旧金山。受到人工智能热潮的推动，仅在今年的第一季度，该行业就在旧金山新租用了超过100万平方英尺（约9.9万平方米）的办公空间，使得整个行业租用的总面积超过了340万平方英尺（约31.6万平方米）。
曾在2018年担任旧金山市长且在今年再度参选市长的法瑞尔（Mark Farrell）公开表示，这项法案可能扼杀新兴的人工智能产业，并摧毁旧金山脆弱的科技行业经济前景。他呼吁应将监管AI的责任移交给联邦政府，从而使旧金山能够专注于人工智能等科技的创新，而非为科技公司提供继续离开旧金山的理由。
Y Combinator的首席执行官陈嘉兴（Garry Tan）一直鼓励初创企业落户旧金山，同时他也不时批评旧金山及加州政府的各种政策。陈嘉兴指出，SB 1047法案可能会极大地削弱加州在保留AI人才及吸引AI企业方面的能力。
尽管遭到了硅谷人工智能行业的强烈反对，SB 1074 在加州立法通过的可能性似乎越来越大。许多支持者并不认为这项法案会扼杀人工智能行业的创新。
非营利性的网络权益保护组织Encode Justice表示，硅谷科技行业认为监管会导致创新离开加州的说法是具有误导性和危险性的。SB 1047法案仅针对那些在AI模型研发上投资了上亿美元的公司，因此大多数初创企业实际上不会受到影响。
SB 1074提案人维纳表示，声称AI监管法案将摧毁AI行业的说法是在制造恐慌和夸大其词。他指出自己是AI技术的支持者，并对旧金山作为AI创新中心感到自豪。
今年七月底，维纳特地前往YC位于旧金山的总部，向众多AI创业者和研发人员解释该法案。他指出，外界对于AI监管法案存在许多不实传言与夸大其词的说法，比如有传言称"如果AI技术被滥用，研发者可能会因此入狱"，这些都是不真实的。然而，他的说法并未获得在场听众的广泛认同。
显然地，维纳并不认为科技公司会因为监管问题而离开硅谷。他还提到了当前科技公司对于人工智能监管法规的反对态度，这让他联想到了2018年加州通过互联网数据隐私法案时的情况。
"当时科技公司曾表示，该法案将迫使互联网公司离开加州，但如今科技公司在加州不仅仍然存在，而且还在迅速发展。现在我们已经拥有更加强化消费者数据隐私保护的法律了。"
维纳对硅谷在科技创新方面的地位抱有坚定的信心。当马斯克早前宣布将X公司迁出旧金山时，维纳公开嘲笑马斯克此举不过是“装模作样”。他认为，即便特斯拉将总部搬迁至德克萨斯州，仍然离不开硅谷的高科技人才，因此不得不在硅谷设立“工程总部”。同时，尽管公司在总体上进行裁员，却仍在硅谷持续招聘员工。
本文来源于微信公众号“新浪科技”（ID：techsina），作者为郑峻，原题目为《加州要亲手扼杀 AI 创新？硅谷吵翻了天》。
大家在看
