Вывод искусственного интеллекта в масштабе пластины Cerebras появится в Oracle Cloud в 2027 году

Cerebras Systems и Oracle объявили 27 октября, что планируют сделать быстрый вывод Cerebras доступным в облачной инфраструктуре Oracle (OCI) для лабораторий искусственного интеллекта, предприятий и разработчиков, создающих интерактивные интеллектуальные приложения, причем доступность запланирована на 2027 календарный год. Заявление, опубликованное в Лас-Вегасе, основано на существующей инфраструктуре Oracle и возможностях вывода искусственного интеллекта, включая выделенные кластеры искусственного интеллекта в OCI Enterprise AI.

Почему скорость вывода сейчас имеет большее значение

Поскольку приложения искусственного интеллекта выполняют более сложную, многоэтапную работу, скорость вывода становится критически важной для пользовательского опыта: каждый дополнительный вызов модели увеличивает задержку, которая может замедлять рабочие процессы агентов, которые рассуждают, проверяют результаты и выполняют несколько шагов. «Людям нужен искусственный интеллект, который может быстро выполнять ценную работу», — сказал Эндрю Фельдман, соучредитель и генеральный директор Cerebras. "Каждый шаг, который делает агент, требует вывода, будь то рассуждение, проверка его работы или принятие мер. Чем быстрее вывод, тем больше работы ИИ может выполнить, не заставляя пользователей ждать".

Пластинчатый дизайн

Разработанный для высокоскоростного вывода ИИ, механизм Cerebras Wafer-Scale Engine объединяет вычислительные ресурсы и память в одном процессоре масштаба пластины. За счет сокращения перемещения данных и взаимодействия между микросхемами конструкция поддерживает быструю генерацию токенов для длинных последовательностей рассуждений и многоэтапных агентских рабочих процессов, где токены представляют собой фрагменты текста, создаваемые моделью.

Взгляд Oracle и сроки

«Выводы ИИ требуют выбора», — сказал Махеш Тиагараджан, президент Oracle Cloud Infrastructure. "Поскольку агенты берутся за более сложную работу, клиентам требуются вычисления, соответствующие потребностям производительности каждого приложения. Использование логических выводов Cerebras в Oracle Cloud Infrastructure добавит еще один сверхбыстрый и детерминированный вариант в наш широкий портфель вычислений". Компании заявили, что выводы Cerebras по OCI планируется представить в 2027 календарном году; В выпуске содержится прогнозное заявление об отказе от ответственности, в котором отмечается, что функции, сроки и цены могут измениться, и в нем не упоминаются масштабы развертывания или цены.