前员工透露，OpenAI AGI 安全团队已有近半成员离职
编辑日期：2024年08月30日
据《财富》报道，OpenAI 前治理研究员 Daniel Kokotajlo 表示，过去几个月中，OpenAI 的 AGI 安全团队已有近一半成员离职。这引起了外界对公司是否在忽视 AI 安全性的担忧。
AGI 安全研究人员的主要职责是确保未来开发的 AGI 系统不会对人类构成生存威胁。然而，随着 OpenAI 越来越注重产品和商业化，研究人员的离职导致公司的安全研究团队逐渐缩小。
Kokotajlo 指出，自 2024 年以来，OpenAI 的 AGI 安全团队成员已从约 30 人减少到 16 人左右。他认为，这一变化并非出于有组织的行动，而是由于个人逐渐失去信心而陆续离职。
OpenAI 的发言人表示，公司对于能够提供最强大、最安全的人工智能系统感到自豪，并且相信他们拥有解决这些风险的科学方法。
请注意，今年早些时候，OpenAI 的联合创始人兼首席科学家 Ilya Sutskever 宣布离职，他所领导的负责安全问题的“超级对齐”团队也被解散。
