OpenAI 決策 API 全面開放:一次查詢可提 400 題、延遲壓至毫秒級
OpenAI 於 10 月 22 日把 Decisions API 從公開測試轉為全面開放:以 GPT-6 Luna 驅動,只回傳機率、選項或評分三種定型答案,不寫散文;單次請求上限 400 題,輸入價每百萬 token 0.10 美元、不收輸出費。
為何重要
聊天機器人寫散文,決策 API 只做判斷:要不要理賠、工單派給哪個部門、漏洞有多嚴重——這類每天要做成千上萬次的小決定,現在可以用一次 API 呼叫批量處理,而且延遲壓到毫秒級,適合放進即時工作流程。
完整報導
據 OpenAI 開發者社群 10 月 22 日的公告,Decisions API 正式結束測試、全面開放。該服務於 9 月 29 日開發者日預覽、10 月 6 日公開測試,23 天內走完到全面開放的路程。
這支 API 由 GPT-6 Luna 驅動,端點為 POST /v1/decisions。它不回傳散文,只回傳三種定型答案:predicate(某條件成立的機率,0 到 1)、choice(從固定選項中選一項並附各選項機率與信心度)、score(按評分量表打分)。單次請求最多可帶 400 題,是測試期的兩倍;新增功能包括原生 GPT-Live 語音整合、提示快取、原生 JSON 輸入,以及在個別題目中放圖片。
價格方面:未快取輸入每百萬 token 0.10 美元,快取輸入每百萬 token 0.01 美元,輸出 token 不收費。OpenAI API 產品負責人 Nikunj Handa 表示,延遲已從 1 至 3 秒壓到 100 至 180 毫秒;早期試用客戶包括語言學習應用 Speak、Box、Datadog 與 Ramp,Speak 表示動作間隔已從 1.4 秒降到 0.13 秒。OpenAI 亦稱該服務比用同一模型走標準 Responses API 快約 10 倍。
N環球 
💬 留言
暫時還沒有留言,來搶沙發!