OpenAI 决策模型 API 全面开放，推理延迟降至 100-180 毫秒

Techub News 消息，OpenAI 首次向所有用户广泛提供其决策模型 API，进入快速、低成本智能决策市场。该 API 基于 ChatGPT Luna 模型重构，旨在加速推理并降低成本。产品负责人 Nikunj Handa 表示，其速度已从 1-3 秒缩短至 100-180 毫秒，并新增了语音和视觉模态。 该 API 于 9 月 29 日开发者日宣布，已于上周四向所有客户开放。在 Box、Datadog、Ramp 和 Speak 等客户的初期试用中，工程师用其替代了 OpenAI 的大语言模型以实现更高吞吐量。Speak 公司 CTO 表示，使用该 API 后，其操作间隔时间从 1.4 秒缩短至 0.13 秒。 在 AIM System One Index 和 Artificial Analysis Decision Index 等公开基准测试中，Liquid 的 D1 Ultra 和 Base Lab 的 Elephant-1 表现领先，OpenAI 的决策模型分别位列第八和第十四。TypeSafe 的 Jev 模型在两项测试中分别排名第七和第三，且是目前 OpenRouter 上查询量最大的模型。（TechCrunch）