前OpenAI研究员警告“旧雇主”：若人工智能缺乏监管将会造成灾难性的伤害
编辑日期：2024年08月24日
美国加州的人工智能安全法案将要求AI企业采取措施以避免其模型造成“严重危害”，例如开发可能造成大量人员伤亡的生物武器，或是导致超过5亿美元（注：约合35.66亿人民币）的经济损失。
这些前员工在给加州州长加文·纽森和其他立法者的信中表示，OpenAI 反对该法案的做法虽然令人失望，但并不出人意料。
两位研究人员，威廉・桑德斯和丹尼尔・科科塔伊洛在信中写道，“我们之前选择加入OpenAI，是因为我们希望确保该公司在开发‘极其强大的AI系统’时能够保证安全性。但我们选择离开，是因为它失去了我们的信任——即该公司能否以安全、透明及负责任的方式开发AI系统。”
信中还指出，尽管 OpenAI 的首席执行官阿尔特曼曾多次公开表示支持对人工智能进行监管，但在实际的监管措施即将出台之际，他们却表示反对。信中写道：“在没有实施充分安全预防措施的情况下开发尖端人工智能模型，将会给公众带来可预见的灾难性伤害的风险。”
相关阅读：
（注：原文提供的信息不够以进行更详细的重写。 如果您能提供更多的原始文本，我将很乐意帮助您重新写成中文。）
