Google открыла код TorchTPU для переноса приложений PyTorch на TPU

Google открыла исходный код проекта TorchTPU, который позволяет запускать приложения PyTorch на её ИИ-процессорах TPU. Компания объявила о доступности проекта 20 октября 2026 года.

Для переноса существующего приложения на TPU и в Google Cloud достаточно изменить конфигурацию — переписывать код не требуется. По заявлению Google, при разработке компания сотрудничала с Meta, Hugging Face, Inferact (создателем vLLM) и RadixArk (разработчиком SGLang), чтобы обеспечить совместимость с их инструментами.

Google также запустила TPU agent suite для переноса приложений на свои процессоры и в облако, а также для исправления возникающих ошибок. Компания обновила LiteRT, чтобы улучшить работу с приложениями PyTorch на телефонах, ноутбуках и встраиваемых устройствах.

Днём ранее Amazon выпустила TorchNeuron для переноса приложений PyTorch на процессоры Trainium и в AWS без переписывания кода. Amazon также заявила, что передаёт в основной проект PyTorch изменения, которые устраняют зависимость ряда функций от оборудования NVIDIA.

PyTorch используют для создания, обучения и запуска ИИ-моделей. По отдельным оценкам, он применяется в 85% ИИ-приложений. Meta разработала его в 2016 году, когда GPU NVIDIA уже были стандартом для ИИ-исследований, и в 2022 году передала проект Linux Foundation.