Google 与 Meta 开源 TorchTPU，为 Cloud TPU 提供原生 PyTorch 后端

Techub News 消息，Google 与 Meta PyTorch 团队合作开发并开源了 TorchTPU，这是一个为 Cloud TPU 设计的原生 PyTorch 后端。该项目于 2026 年 10 月 20 日在 PyTorch Conference 2026 上宣布，旨在取代 PyTorch/XLA，并推荐用于所有新的工作负载。现有 PyTorch 代码可通过标准的 torch.device（「tpu」）来调用 TPU。 TorchTPU 是一个软件栈，包含 TorchTPU、vLLM-TorchTPU、SGLang-TorchTPU 和 TorchTitan 四个开源仓库。它通过 PyTorch 的 PrivateUse1 接口接入，张量是普通的 PyTorch 张量，无需子类或包装。它支持调试的 Eager 模式和用于生产级吞吐量的 torch.compile 模式。 Google 团队表示，TorchTitan 在 Ironwood（TPU7x）芯片上训练 Qwen 3 8B 模型时，最高实现了 52% 的模型浮点运算利用率。在一个微调案例中，经过完全调优后，每步时间从 11.49 秒降至 2.78 秒。该项目还集成了 Hugging Face Transformers、vLLM、SGLang 等生态工具。（MarkTechPost）