N環球 N GLOBE
美國・科技

Google 推出 Gemini Decision 1 一次可判 1000 道選擇題、0.25 秒出結果

· N GLOBE

Google 11 月 11 日推出 Gemini Decisions API 與新模型 Gemini Decision 1:新模型不逐字生成答案,而是對候選答案打分,一次請求可對最多 1000 道是非題、選擇題或評分題作判斷,端到端延遲僅 150 至 250 毫秒。

Google 週二(11 月 11 日)推出 Gemini Decisions API 與新模型 Gemini Decision 1:新模型不逐字生成答案,而是對候選答案打分,一次請求可對最多 1000 道是非題、選擇題或評分題作判斷,全程端到端延遲僅 150 至 250 毫秒。

一次輸入 可判 1000 題

每次請求可帶一份多模態輸入(文字、圖片、音頻、視頻或 PDF,最多 25.6 萬 tokens),再加最多 1000 道獨立題目。模型以一次前向計算為每個候選選項打分,回傳機率與 0 至 1 的置信度,程式可把不確定的個案轉交人工或備用流程。題型分三種:是非判斷、2 至 255 個選項的多選、按量表評分的連續分數,適用於工具選擇、政策檢查、模型分流、內容評級等需要快速作「選擇題」的場景。

定價與效能

定價為每百萬輸入 tokens 0.10 美元,輸出 tokens 免費;Google 稱,在自家基準測試中,Decisions API 比 Gemini 3.5 Flash-Lite 搭配 Interactions API 便宜近 5 倍。模型計算中位延遲為 50 至 100 毫秒,輸入長至 1.6 萬 tokens、題目由 1 道增至 100 道時,延遲大致不變。API 現已透過 Gemini API 與 Google AI Studio 提供(v1beta 版,設有免費層),並已接入 OpenRouter、LangChain、Vercel 等生態;Google Cloud 支援稍後推出。

已在 Google 內部使用

Google 稱,Gemini Notebook 已用 Decisions API 作即時模型分流,按查詢即時選用合適的模型層級與思考深度,日常查詢延遲最多降低 40%;設計工具 Stitch、Google Labs 的 CC 表情挑選、Google 搜索的 MCP 工具安全層亦已採用。OpenAI 9 月已推出同類 Decisions API,微軟隨後亦推出同類產品,這場「只做選擇題」的模型競賽正在升溫。來源:Google 官方博客、Unite.AI、OpenRouter。

💬 留言

暫時還沒有留言,來搶沙發!