N環球 
A API de decisões da OpenAI está disponível ao público: 400 perguntas por chamada, latência reduzida para milissegundos
OpenAI mudou sua API de decisões de versão beta pública para disponibilidade geral em 22 de outubro: com tecnologia GPT-6 Luna, ela retorna apenas respostas digitadas – uma probabilidade, uma escolha ou uma pontuação – com até 400 perguntas por solicitação, US$ 0,10 por milhão de tokens de entrada e sem cobrança de token de saída.
Por que isso importa
Chatbots escrevem prosa; a API de decisões apenas julga: aprovar ou não a reivindicação, qual departamento recebe o tíquete, quão grave é o bug — as pequenas decisões que os aplicativos tomam milhares de vezes por dia agora podem ser agrupadas em uma chamada de API, com latência baixa o suficiente para fluxos de trabalho em tempo real.
Relatório completo
De acordo com o anúncio da comunidade de desenvolvedores da OpenAI em 22 de outubro, a API Decisions saiu da versão beta e está disponível para o público geral. Ele foi visualizado no DevDay em 29 de setembro e aberto para beta público em 6 de outubro, atingindo disponibilidade geral 23 dias depois.
A API é alimentada por GPT-6 Luna no endpoint POST /v1/decisions. Ele não retorna nenhuma prosa, apenas três respostas digitadas: predicado (uma probabilidade de 0 a 1 de que uma condição seja válida), escolha (um valor de um conjunto fixo, com uma probabilidade para cada opção e uma confiança) e pontuação (uma classificação contra níveis ordenados). Uma única solicitação pode conter até 400 perguntas, o dobro do limite beta; novos recursos incluem integração de voz nativa GPT-Live, cache de prompt, entradas JSON nativas e imagens em instruções de perguntas individuais.
No preço: US$ 0,10 por milhão de tokens de entrada não armazenados em cache, US$ 0,01 por milhão de tokens de entrada armazenados em cache e sem cobrança de token de saída. O líder de produto da API OpenAI, Nikunj Handa, disse que a latência caiu de 1–3 segundos para 100–180 milissegundos; Os primeiros clientes de teste incluem o aplicativo de aprendizagem de idiomas Speak, Box, Datadog e Ramp, com Speak relatando que a diferença entre as ações caiu de 1,4 segundos para 0,13 segundos. A OpenAI afirma que o serviço é executado cerca de 10 vezes mais rápido do que rotear as mesmas decisões limitadas por meio de sua API de respostas padrão.
💬 Comments
No comments yet. Be the first!