N環球 
La API Decisions de OpenAI está disponible de forma generalizada: 400 preguntas por llamada, latencia reducida a milisegundos
OpenAI trasladó su API Decisions de la versión beta pública a la disponibilidad general el 22 de octubre: impulsada por GPT-6 Luna, devuelve solo respuestas escritas (una probabilidad, una elección o una puntuación) con hasta 400 preguntas por solicitud, 0,10 dólares por millón de tokens de entrada y sin cargo por token de salida.
Por qué es importante
Los chatbots escriben prosa; la API Decisions solo juzga: aprobar el reclamo o no, qué departamento recibe el ticket, qué tan grave es el error: las pequeñas decisiones que las aplicaciones toman miles de veces al día ahora se pueden agrupar en una llamada API, con una latencia lo suficientemente baja para flujos de trabajo en tiempo real.
Informe completo
Según el anuncio de la comunidad de desarrolladores de OpenAI el 22 de octubre, la API Decisions ya no está en versión beta y está disponible de forma generalizada. Se presentó una vista previa en el DevDay el 29 de septiembre y se abrió a la versión beta pública el 6 de octubre, alcanzando disponibilidad general 23 días después.
La API funciona con GPT-6 Luna en el punto final POST /v1/decisions. No devuelve prosa, sólo tres respuestas escritas: predicado (una probabilidad de 0 a 1 de que se cumpla una condición), elección (un valor de un conjunto fijo, con una probabilidad para cada opción y una confianza) y puntuación (una calificación frente a niveles ordenados). Una sola solicitud puede contener hasta 400 preguntas, el doble del límite beta; Las nuevas características incluyen integración de voz nativa GPT-Live, almacenamiento en caché de mensajes, entradas JSON nativas e imágenes en instrucciones de preguntas individuales.
Sobre el precio: 0,10 dólares por millón de tokens de entrada no almacenados en caché, 0,01 dólares por millón de tokens de entrada almacenados en caché y sin cargos por tokens de salida. El líder del producto API OpenAI, Nikunj Handa, dijo que la latencia cayó de 1 a 3 segundos a 100 a 180 milisegundos; Los primeros clientes de prueba incluyen la aplicación de aprendizaje de idiomas Speak, Box, Datadog y Ramp, y Speak informa que la brecha entre acciones cayó de 1,4 segundos a 0,13 segundos. OpenAI dice que el servicio se ejecuta aproximadamente 10 veces más rápido que enrutar las mismas decisiones limitadas a través de su API de Respuestas estándar.
💬 Comments
No comments yet. Be the first!