Cerebras 웨이퍼 규모 AI 추론은 2027년 Oracle Cloud에 제공됩니다.

Cerebras Systems와 Oracle은 10월 27일에 대화형 지능형 애플리케이션을 구축하는 기업 및 개발자를 위해 AI 연구소, 기업 및 개발자를 위해 Oracle Cloud Infrastructure(OCI)에서 Cerebras 빠른 추론을 제공할 계획이며 2027년에 출시될 예정이라고 발표했습니다. 라스베가스에서 발표된 이번 발표는 OCI Enterprise AI의 전용 AI 클러스터를 포함하여 Oracle의 기존 인프라와 AI 추론 기능을 기반으로 합니다.

추론 속도가 지금 더 중요한 이유

AI 애플리케이션이 더욱 복잡하고 다단계 작업을 수행함에 따라 추론 속도는 사용자 경험에 매우 중요해졌습니다. 각 추가 모델 호출로 인해 대기 시간이 추가되어 여러 단계에 걸쳐 추론하고 결과를 확인하고 조치를 취하는 에이전트 워크플로가 느려질 수 있습니다. Cerebras의 공동 창업자이자 CEO인 Andrew Feldman은 “사람들은 가치 있는 작업을 빠르게 수행할 수 있는 AI를 원합니다.”라고 말했습니다. "에이전트가 수행하는 모든 단계에는 추론, 작업 확인, 조치 수행 등 추론이 필요합니다. 추론이 빠를수록 AI가 사용자를 기다리게 하지 않고 더 많은 작업을 수행할 수 있습니다."

웨이퍼 규모의 디자인

고속 AI 추론을 위해 설계된 Cerebras Wafer-Scale Engine은 단일 웨이퍼 규모 프로세서에 컴퓨팅과 메모리를 통합합니다. 데이터 이동과 칩 간 통신을 줄임으로써 이 설계는 토큰이 모델이 생성하는 텍스트 조각인 긴 추론 시퀀스와 다단계 에이전트 워크플로를 위한 신속한 토큰 생성을 지원합니다.

오라클의 관점과 타임라인

Oracle Cloud Infrastructure의 사장인 Mahesh Thiagarajan은 "AI 추론에는 선택이 필요합니다."라고 말했습니다. "에이전트가 더 복잡한 작업을 수행함에 따라 고객은 각 애플리케이션의 성능 요구 사항에 맞는 컴퓨팅을 요구합니다. Cerebras의 추론을 Oracle Cloud Infrastructure에 도입하면 우리의 광범위한 컴퓨팅 포트폴리오에 또 다른 초고속 결정론적 옵션이 추가될 것입니다." 두 회사는 OCI에 대한 Cerebras 추론이 2027년에 제공될 예정이라고 밝혔습니다. 이 릴리스에는 기능, 시기 및 가격이 변경될 수 있다는 점을 명시하는 미래 지향적인 면책 조항이 포함되어 있으며 배포 규모나 가격은 명시되지 않습니다.