Openai 成立监督委员会评估 ai 安全并已开始训练新的 ai 模型

openai-成立监督委员会评估-ai-安全并已开始训练新的-ai-模型

此前，两位前任OpenAI董事会成员，即海伦・托纳和塔莎・麦考利，公开表达了对该公司治理结构的深切忧虑。她们在一篇发表于上周日的《经济学人》文章中，尖锐地批评了OpenAI的管理方式。

新设立的委员会将对 OpenAI 的安全措施进行全面评估，并在三个月内提交评估报告。据该公司周二在其博客上的公告，待董事会完成全面审查后，OpenAI 打算遵循安全准则，公开分享所采纳的建议。

最近，OpenAI 已透露他们已启动最新 AI 模型的训练过程。

去年秋季，OpenAI的首席执行官萨姆・阿尔特曼（Sam Altman）与公司的联合创始人及首席科学家伊利亚・苏茨凯沃（Ilya Sutskever）在人工智能产品的研发速度及其潜在危害的防范措施上出现了严重的意见分歧。这导致了一场短暂的董事会动荡，阿尔特曼在这场“政变”中被暂时免职。

这个月，苏茨凯沃和关键同事 Jan Leike 从公司退出，他们曾负责OpenAI的超智能体对齐团队，该团队的核心任务是研究超越人类智能可能带来的长期风险。Leike在离职后透露，他们的部门在OpenAI内部争取计算资源的过程中遭遇了重大挑战。同样离开的员工也提出了相似的批评。

在苏茨凯沃离开后，OpenAI 的相关团队已经解散，但该公司的研究部门将接续这项任务，并在其新任命的对齐科学主管兼联合创始人约翰・舒尔曼的领导下继续推进相关工作。

请注意，上周OpenAI废除了一条规定，这条规定原先指出，如果前任员工对该公司提出批评，他们的股票期权将被撤销。

OpenAI 的新安全委员会将由董事会的三位成员领导，包括主席布雷特・泰勒 (Bret Taylor)、Quora 的首席执行官亚当・德安杰洛 (Adam D’Angelo) 和前索尼娱乐高管妮可・塞利格曼 (Nicole Seligman)。此外，该团队还将包括六名内部员工，如舒尔曼和阿尔特曼。OpenAI 表示，他们将持续寻求外部专家的指导，并特别提到了两位顾问——曾在唐纳德・特朗普政府担任国土安全部顾问的罗布・乔伊斯 (Rob Joyce) 和曾任乔・拜登总统任期内司法部官员的约翰・卡林 (John Carlin)。