N環球 N GLOBE
美国・科技

OpenAI 决策 API 全面开放:一次查询可提 400 题、延迟压至毫秒级

· N GLOBE

OpenAI 于 10 月 22 日把 Decisions API 从公开测试转为全面开放:以 GPT-6 Luna 驱动,只回传机率、选项或评分三种定型答案,不写散文;单次请求上限 400 题,输入价每百万 token 0.10 美元、不收输出费。

为何重要

聊天机器人写散文,决策 API 只做判断:要不要理赔、工单派给哪个部门、漏洞有多严重——这类每天要做成千上万次的小决定,现在可以用一次 API 呼叫批量处理,而且延迟压到毫秒级,适合放进即时工作流程。

完整报导

据 OpenAI 开发者社群 10 月 22 日的公告,Decisions API 正式结束测试、全面开放。该服务于 9 月 29 日开发者日预览、10 月 6 日公开测试,23 天内走完到全面开放的路程。

这支 API 由 GPT-6 Luna 驱动,端点为 POST /v1/decisions。它不回传散文,只回传三种定型答案:predicate(某条件成立的机率,0 到 1)、choice(从固定选项中选一项并附各选项机率与信心度)、score(按评分量表打分)。单次请求最多可带 400 题,是测试期的两倍;新增功能包括原生 GPT-Live 语音整合、提示快取、原生 JSON 输入,以及在个别题目中放图片。

价格方面:未快取输入每百万 token 0.10 美元,快取输入每百万 token 0.01 美元,输出 token 不收费。OpenAI API 产品负责人 Nikunj Handa 表示,延迟已从 1 至 3 秒压到 100 至 180 毫秒;早期试用客户包括语言学习应用 Speak、Box、Datadog 与 Ramp,Speak 表示动作间隔已从 1.4 秒降到 0.13 秒。OpenAI 亦称该服务比用同一模型走标准 Responses API 快约 10 倍。

💬 留言

暂时还没有留言,来抢沙发!