N環球 N GLOBE
Teknolohiya ng US

Ang OpenAI's Decisions API ay Karaniwang Magagamit: 400 Tanong Bawat Tawag, Latency Cut sa Milliseconds

· N GLOBE

Inilipat ng OpenAI ang Decisions API nito mula sa pampublikong beta patungo sa pangkalahatang availability noong Oktubre 22: pinalakas ng GPT-6 Luna, nagbabalik lamang ito ng mga nai-type na sagot — isang probabilidad, isang pagpipilian o isang marka — na may hanggang 400 tanong bawat kahilingan, $0.10 bawat milyong input token at walang output-token charge.

Bakit ito mahalaga

Ang mga chatbot ay sumulat ng tuluyan; ang Decisions API lang ang naghuhusga: aprubahan ang claim o hindi, kung aling departamento ang makakakuha ng ticket, gaano kalubha ang bug — ang maliliit na desisyong ginagawa ng mga app ng libu-libong beses sa isang araw ay maaari na ngayong i-batch sa isang API call, na may sapat na latency para sa mga real-time na daloy ng trabaho.

Buong ulat

Ayon sa anunsyo ng komunidad ng developer ng OpenAI noong Oktubre 22, ang Decisions API ay wala sa beta at sa pangkalahatan ay magagamit. Na-preview ito sa DevDay noong Setyembre 29 at binuksan sa pampublikong beta noong Oktubre 6, na umaabot sa pangkalahatang availability pagkalipas ng 23 araw.

Ang API ay pinapagana ng GPT-6 Luna sa endpoint na POST /v1/decisions. Hindi ito nagbabalik ng tuluyan, tatlong nai-type na sagot lamang: panaguri (isang probabilidad mula 0 hanggang 1 na hawak ng isang kundisyon), pagpipilian (isang halaga mula sa isang nakapirming set, na may posibilidad para sa bawat opsyon at isang kumpiyansa) at marka (isang rating laban sa mga nakaayos na antas). Ang isang kahilingan ay maaaring magdala ng hanggang 400 tanong, doblehin ang beta limit; Kasama sa mga bagong feature ang native na pagsasama ng boses ng GPT-Live, agarang pag-cache, mga native na input ng JSON at mga larawan sa mga tagubilin sa indibidwal na tanong.

Sa presyo: $0.10 bawat milyong hindi naka-cache na input token, $0.01 bawat milyong naka-cache na input token, at walang output-token na singil. Sinabi ng pinuno ng produkto ng OpenAI API na si Nikunj Handa na bumaba ang latency mula 1–3 segundo hanggang 100–180 millisecond; Kasama sa mga customer sa maagang pagsubok ang language-learning app na Speak, Box, Datadog at Ramp, na may Speak na nag-uulat ng agwat sa pagitan ng mga pagkilos na bumababa mula 1.4 segundo hanggang 0.13 segundo. Sinabi ng OpenAI na ang serbisyo ay tumatakbo nang humigit-kumulang 10 beses na mas mabilis kaysa sa pagruruta ng parehong mga hangganang desisyon sa pamamagitan ng karaniwang Responses API nito.

💬 Comments

No comments yet. Be the first!