N環球 N GLOBE
Technologie américaine

L'API Decisions d'OpenAI devient publique : 400 questions par appel, latence réduite à quelques millisecondes

· N GLOBE

OpenAI a fait passer son API Decisions de la bêta publique à la disponibilité générale le 22 octobre : propulsée par GPT-6 Luna, elle ne renvoie que des réponses typées — une probabilité, un choix ou une note — avec jusqu'à 400 questions par requête, 0,10 $ par million de jetons d'entrée et aucun frais sur les jetons de sortie.

Pourquoi c’est important

Les robots conversationnels rédigent de la prose ; l'API Decisions ne fait que juger : approuver ou non une demande, attribuer un ticket à un service, évaluer la gravité d'un bogue — ces petites décisions que les applications prennent des milliers de fois par jour peuvent désormais être regroupées en un seul appel d'API, avec une latence assez faible pour des flux en temps réel.

Lire l’article

Selon l'annonce publiée le 22 octobre sur la communauté des développeurs d'OpenAI, l'API Decisions est sortie de bêta et disponible pour tous. Présentée lors de la journée des développeurs le 29 septembre puis ouverte en bêta publique le 6 octobre, elle a atteint la disponibilité générale 23 jours plus tard.

L'API est propulsée par GPT-6 Luna, au point de terminaison POST /v1/decisions. Elle ne renvoie aucune prose, seulement trois types de réponses : predicate (une probabilité de 0 à 1 qu'une condition soit remplie), choice (une valeur choisie dans un ensemble fixe, avec une probabilité pour chaque option et un indice de confiance) et score (une note selon une échelle ordonnée). Une seule requête peut contenir jusqu'à 400 questions, soit le double de la limite de la bêta ; les nouveautés incluent l'intégration vocale native GPT-Live, la mise en cache des invites, les entrées JSON natives et des images dans les consignes de chaque question.

Côté tarifs : 0,10 $ par million de jetons d'entrée non mis en cache, 0,01 $ par million de jetons d'entrée mis en cache, et aucun frais sur les jetons de sortie. Nikunj Handa, responsable produit API chez OpenAI, indique que la latence est passée de 1 à 3 secondes à 100–180 millisecondes ; parmi les premiers clients d'essai figurent l'application d'apprentissage des langues Speak, Box, Datadog et Ramp, Speak signalant que l'intervalle entre deux actions est tombé de 1,4 seconde à 0,13 seconde. OpenAI affirme que le service est environ 10 fois plus rapide que le passage des mêmes décisions par son API Responses standard.

💬 Commentaires

Aucun commentaire. Soyez le premier !