N環球 N GLOBE
Американские технологии

Google TorchTPU с открытым исходным кодом: встроенный PyTorch в TPU

· N GLOBE

Google объявил на конференции PyTorch 2026, что TorchTPU, собственный стек PyTorch для TPU, разработанный совместно с командой Meta PyTorch, теперь имеет открытый исходный код на GitHub. Существующий код PyTorch работает на Google TPU с минимальными изменениями.

Почему это важно

PyTorch является доминирующей средой разработки ИИ — по некоторым оценкам, ее используют около 85% приложений ИИ — и она уже давно оптимизирована для графических процессоров Nvidia. TorchTPU делает TPU Google встроенным вариантом для PyTorch, резко снижая стоимость миграции и потенциально ослабляя привязку экосистемы CUDA Nvidia.

Полный отчет

Блог Google Cloud (Марк Ломейер, вице-президент и генеральный директор по искусственному интеллекту и вычислительной инфраструктуре, и Билл Цзя, вице-президент по разработке) объявил на конференции PyTorch 2026, что TorchTPU, собственный стек Google PyTorch для TPU, теперь имеет открытый исходный код на GitHub. TPU теперь присоединяются к графическим процессорам и процессорам в качестве встроенной опции для PyTorch, охватывающей обучение, обслуживание и развертывание.

TorchTPU был разработан совместно с командой PyTorch в Meta и заменяет маршрут PyTorch/XLA, на который ранее полагались разработчики: отладка в режиме ожидания, затем использование torch.compile для производительности на уровне производства. Для работы на TPU в существующем коде достаточно изменить model.to("cuda") на model.to("tpu").

TorchTPU работает с инструментами, которые уже используют разработчики, включая vLLM, SGLang, llm-d, TorchTitan, Ray, TorchRec, Hugging Face и LiteRT. Google также выпустила собственные бэкэнды TPU для vLLM и SGLang (созданные с помощью Inferact и RadixArk соответственно), которые больше не поддерживают JAX; версии JAX остаются поддерживаемыми.

Яна ван Гренен, директор по разработке PyTorch в Meta, заявила в своем заявлении, что TorchTPU позволяет Meta развертывать рабочие нагрузки PyTorch — LLM, рекламные и рекомендательные системы — в Google TPU, одновременно передавая отзывы непосредственно инженерным группам, создавая гибкость экосистемы, которая нужна всем.

💬 Comments

No comments yet. Be the first!