OpenAI 发布 GPT-4 模型卡片：概述人工智能安全性和风险缓解措施
编辑日期：2024年08月10日
OpenAI 表示，GPT-4模型的核心是预备框架（Preparedness Framework），这是一种系统性的评估并降低与人工智能系统相关风险的方法。据了解，该框架主要用于识别在网络安全、生物威胁、说服力及模型自主性等领域中的潜在危险。
除了对GPT-4和GPT-4V进行的安全评估和缓解措施外，OpenAI还对GPT-4o的音频功能进行了更多的安全工作。
评估中的风险涵盖了扬声器辨识、未授权的语音生成、可能产生的受版权保护内容、无根据的推断以及不允许的内容等几个方面。依据这些评估的结果，OpenAI 在模型与系统层面上均已采取了相应的安全措施。
OpenAI还与100多名外部红队成员合作，在向公众发布模型前对其进行评估。这些红队成员将进行探索性的能力发现工作，评估模型可能带来的新风险，并对缓解措施进行压力测试。
大家在看
AI安装教程
AI本地安装教程
微软AI大模型通识教程
微软AI大模型通识教程
AI大模型入门教程
AI大模型入门教程
Python入门教程
Python入门教程
Python进阶教程
Python进阶教程
Python小例子200道练习题
Python小例子200道练习题
Python练手项目
Python练手项目
Python从零在线练习题
Python从零到一60题
