N環球 N GLOBE
فناوری ایالات متحده

OpenAI Decisions API عموماً در دسترس است: 400 سؤال در هر تماس، کاهش تأخیر به میلی ثانیه

· N GLOBE

OpenAI API تصمیمات خود را از نسخه بتا عمومی به در دسترس بودن عمومی در 22 اکتبر منتقل کرد: با پشتیبانی از GPT-6 Luna، فقط پاسخ های تایپ شده - احتمال، انتخاب یا امتیاز - را با حداکثر 400 سوال در هر درخواست، 0.10 دلار به ازای هر میلیون توکن ورودی و بدون هزینه توکن خروجی برمی گرداند.

چرا مهم است

چت بات ها نثر می نویسند. Decisions API فقط قضاوت می‌کند: ادعا را تأیید کنید یا نه، کدام بخش بلیط را دریافت می‌کند، چقدر اشکال دارد - تصمیم‌های کوچکی که اپلیکیشن‌ها هزاران بار در روز می‌گیرند، اکنون می‌توانند در یک تماس API دسته‌بندی شوند، با تأخیر کافی برای گردش‌های کاری بلادرنگ.

گزارش کامل

طبق اعلامیه جامعه توسعه دهندگان OpenAI در 22 اکتبر، Decisions API از نسخه بتا خارج شده و به طور کلی در دسترس است. پیش نمایش آن در DevDay در 29 سپتامبر انجام شد و در 6 اکتبر به نسخه بتای عمومی باز شد و 23 روز بعد در دسترس عموم قرار گرفت.

API توسط GPT-6 Luna در نقطه پایانی POST /v1/decisions ارائه می شود. بدون نثر، فقط سه پاسخ تایپ شده را برمی گرداند: محمول (احتمالی از 0 تا 1 که یک شرط دارد)، انتخاب (یک مقدار از یک مجموعه ثابت، با احتمال برای هر گزینه و یک اطمینان) و امتیاز (امتیاز در برابر سطوح مرتب شده). یک درخواست منفرد می تواند تا 400 سوال را حمل کند که حد بتا را دو برابر می کند. ویژگی‌های جدید شامل یکپارچه‌سازی صدای GPT-Live، ذخیره‌سازی سریع، ورودی‌های JSON بومی و تصاویر در دستورالعمل‌های سؤال فردی است.

قیمت: 0.10 دلار به ازای هر میلیون توکن ورودی ذخیره نشده، 0.01 دلار به ازای هر میلیون توکن ورودی حافظه پنهان، و بدون هزینه توکن خروجی. نیکونج هاندا، سرپرست محصول OpenAI API گفت که تاخیر از 1 تا 3 ثانیه به 100 تا 180 میلی ثانیه کاهش یافت. مشتریان آزمایشی اولیه شامل برنامه های یادگیری زبان Speak، Box، Datadog و Ramp هستند که Speak فاصله بین اقدامات را از 1.4 ثانیه به 0.13 ثانیه کاهش می دهد. OpenAI می‌گوید این سرویس حدود 10 برابر سریع‌تر از مسیریابی تصمیمات محدود شده از طریق API استاندارد Responses خود اجرا می‌شود.

💬 Comments

No comments yet. Be the first!