Cerebras wafer-scale AI inference 2027 میں اوریکل کلاؤڈ پر آ رہا ہے

Cerebras Systems اور Oracle نے 27 اکتوبر کو اعلان کیا کہ وہ AI لیبز، کاروباری اداروں اور انٹرایکٹو، ذہین ایپلی کیشنز بنانے والے ڈویلپرز کے لیے اوریکل کلاؤڈ انفراسٹرکچر (OCI) پر Cerebras فاسٹ انفرنس دستیاب کرانے کا ارادہ رکھتے ہیں، جس کی دستیابی کیلنڈر سال 2027 میں منصوبہ بندی کی گئی ہے۔ صلاحیتیں، بشمول OCI انٹرپرائز AI میں ڈیڈیکیٹڈ AI کلسٹرز۔

اب قیاس کی رفتار کیوں زیادہ اہمیت رکھتی ہے۔

جیسا کہ AI ایپلی کیشنز زیادہ پیچیدہ، ملٹی سٹیپ کام کرتی ہیں، صارف کے تجربے کے لیے انفرنس اسپیڈ اہم ہو جاتی ہے: ہر ایک اضافی ماڈل کال میں تاخیر کا اضافہ ہوتا ہے، جو اس وجہ سے ایجنٹی ورک فلو کو سست کر سکتا ہے، نتائج کو چیک کرتا ہے اور متعدد مراحل پر عمل کرتا ہے۔ سیریبراس کے شریک بانی اور سی ای او اینڈریو فیلڈمین نے کہا کہ "لوگ ایسی AI چاہتے ہیں جو قیمتی کام تیزی سے کر سکے۔" "ایجنٹ کے ہر قدم کے لیے تخمینہ کی ضرورت ہوتی ہے، خواہ وہ استدلال ہو، اس کے کام کی جانچ کرنا ہو، یا کارروائی کرنا۔ جتنی تیزی سے اندازہ ہوگا، AI صارفین کو انتظار کیے بغیر اتنا ہی زیادہ کام کر سکتا ہے۔"

ویفر پیمانے کا ڈیزائن

تیز رفتار AI تخمینہ کے لیے ڈیزائن کیا گیا، Cerebras Wafer-Scale Engine کمپیوٹ اور میموری کو سنگل ویفر اسکیل پروسیسر پر مربوط کرتا ہے۔ ڈیٹا کی نقل و حرکت اور انٹر چپ کمیونیکیشن کو کم کر کے، ڈیزائن طویل استدلال کے سلسلے اور ملٹی سٹیپ ایجنٹ ورک فلو کے لیے تیزی سے ٹوکن جنریشن کی حمایت کرتا ہے، جہاں ٹوکنز ٹیکسٹ کے وہ ٹکڑے ہیں جو ایک ماڈل تیار کرتا ہے۔

اوریکل کا نظارہ اور ٹائم لائن

اوریکل کلاؤڈ انفراسٹرکچر کے صدر مہیش تھیاگراجن نے کہا، "AI تخمینہ انتخاب کا مطالبہ کرتا ہے۔ "جیسا کہ ایجنٹ زیادہ پیچیدہ کام انجام دیتے ہیں، گاہک ایسے کمپیوٹ کا مطالبہ کرتے ہیں جو ہر ایپلیکیشن کی کارکردگی کی ضروریات سے مماثل ہو۔ اوریکل کلاؤڈ انفراسٹرکچر میں سیریبراس کے قیاس کو لانے سے ہمارے وسیع کمپیوٹ پورٹ فولیو میں ایک اور انتہائی تیز اور فیصلہ کن آپشن شامل ہو جائے گا۔" کمپنیوں نے کہا کہ OCI پر سیریبرا کا اندازہ کیلنڈر سال 2027 میں دستیاب ہونے کا منصوبہ ہے۔ ریلیز میں ایک آگے نظر آنے والا ڈس کلیمر ہے جس میں کہا گیا ہے کہ فیچرز، ٹائمنگ اور قیمتیں بدل سکتی ہیں، اور اس میں تعیناتی پیمانے یا قیمتوں کا نام نہیں ہے۔