N環球 
OpenAI의 Decisions API 정식 출시: 호출당 400개의 질문, 지연 시간이 밀리초로 단축
OpenAI는 10월 22일에 Decisions API를 공개 베타에서 일반 가용성으로 옮겼습니다. GPT-6 Luna를 기반으로 하며 입력된 답변(확률, 선택 또는 점수)만 반환하며 요청당 최대 400개의 질문, 백만 입력 토큰당 0.10달러 및 출력 토큰 비용이 부과되지 않습니다.
왜 중요한가요?
챗봇은 산문을 작성합니다. Decisions API는 청구 승인 여부, 티켓을 받은 부서, 버그의 심각도 등만 판단합니다. 이제 앱이 하루에 수천 번 내리는 작은 결정을 하나의 API 호출로 일괄 처리할 수 있으며 대기 시간은 실시간 워크플로에 충분히 낮습니다.
전체 보고서
10월 22일 OpenAI의 개발자 커뮤니티 발표에 따르면 Decisions API는 베타 버전이 아니며 일반적으로 사용할 수 있습니다. 9월 29일 DevDay에서 미리 공개되었으며 10월 6일에 공개 베타 버전으로 공개되었으며 23일 후에 일반 공급에 도달했습니다.
API는 엔드포인트 POST /v1/decisions에서 GPT-6 Luna에 의해 구동됩니다. 산문은 없고 세 가지 유형의 답변만 반환합니다. 술어(조건이 유지하는 0에서 1 사이의 확률), 선택(모든 옵션에 대한 확률과 신뢰도가 포함된 고정 세트의 값) 및 점수(정렬된 수준에 대한 등급). 단일 요청에는 베타 제한의 두 배인 최대 400개의 질문을 전달할 수 있습니다. 새로운 기능에는 기본 GPT-Live 음성 통합, 프롬프트 캐싱, 기본 JSON 입력 및 개별 질문 지침의 이미지가 포함됩니다.
가격: 캐시되지 않은 입력 토큰 100만 개당 0.10달러, 캐시된 입력 토큰 100만 개당 0.01달러, 출력 토큰 요금 없음. OpenAI API 제품 책임자인 Nikunj Handa는 대기 시간이 1~3초에서 100~180밀리초로 줄었다고 말했습니다. 초기 평가판 고객에는 언어 학습 앱인 Speak, Box, Datadog 및 Ramp가 포함되어 있으며 Speak는 작업 간 간격이 1.4초에서 0.13초로 감소했다고 보고했습니다. OpenAI는 이 서비스가 표준 응답 API를 통해 동일한 제한된 결정을 라우팅하는 것보다 약 10배 더 빠르게 실행된다고 말합니다.
💬 Comments
No comments yet. Be the first!