OpenAI 的 GPT-4 新版本突然发布：流畅解答 9.11 与 9.9 哪个更大，功能更强大且价格更实惠。
编辑日期：2024年08月07日
输入和输出分别减少了50%和33%，这四舍五入就相当于API的价格降低了。
将令牌输出扩展到16k，之前仅支持4k。
关于9.11和9.9哪个更大的问题，也能得到流畅的解答。
这是因为在 OpenAI 的 API 中引入了结构化输出。通过 JSON 模式来确保模型的输出符合开发者所定义的结构，可以让模型变得更加可靠和安全。
最新版的模型“GPT-4o-2024-08-06”在JSON模式的评估中获得了100%的分数。相比之下，去年6月的版本得分尚不足40%。
在代码编辑方面，最新版本的基准得分与先前版本相同，但现在的新成本仅为其原成本的一半。
还有人发现，这个新版本是OpenAI在图像输入方面成本最低的模型。
去年在OpenAI的DevDay上，官方正式为GPT-4引入了JSON模式，这有助于开发者构建应用程序。
虽然JSON模式可以提升模型的可靠性，但它并不能保证模型生成的结果会符合特定的模式。
因此，在这次的更新中，OpenAI 在其API中引入了结构化输出，以确保模型生成的内容能完全匹配开发者所提供的JSON模式。
主要的形式有两类：
此功能适用于所有模型版本，包括 gpt-4-0613 和 gpt-3.5-turbo-0613 等。当启用结构化输出功能时，模型的输出将与所提供的工具定义相匹配。
开发者可以通过json_schema（作为response_format参数的新选项）提供JSON模式。
当模型不是作为调用工具，而是以结构化方式对用户做出回应时，这种情况就非常有用。此功能适用于gpt-4o-2024-08-06和gpt-4o-mini-2024-07-18。如果在使用response_format时提供strict: true，模型的输出将会与所提供的格式严格匹配。
OpenAI 更新了 Python 和 Node SDK，现在支持本地的结构化输出功能。
此外，还特别强调了安全输出。新模态将遵守现行的安全规定，并且会引入一个"refusal"字符串值，以帮助开发者辨识模型在遇到不安全请求时拒绝处理的情况。
结构化输出可以应用于多种用途，包括动态生成用户界面、将最终结果与其推理过程分离、以及从非结构化数据中抽取结构化数据等不同使用案例。
最后在价格方面，输入价格为 2.5 美元 / 100 万 代币，输出价格为 10 美元 / 100 万 代币。
由于新模型在输入和输出上更加节省，因此可以说它的成本也相应降低了，四舍五入相当于降价了。
有人发现，这个新模型的输出相比上一个版本不再那么冗长，而且在成本上更加可控。
