Google 和 Meta 联手开源 TorchTPU:PyTorch 原生跑 TPU,英伟达的护城河被挖了

3次阅读
没有评论

英伟达的 CUDA 护城河,这回真有人开始挖了。Google 和 Meta 联手,把 TorchTPU 正式开源了。

Google 和 Meta 联手开源 TorchTPU:PyTorch 原生跑 TPU,英伟达的护城河被挖了

这事的含金量在于:以前想用 TPU 跑 PyTorch,总得折腾一堆适配;现在可以用更接近原生 PyTorch 的方式直接在 TPU 上训练和部署模型,心智负担一下就下来了。

生态跟进也很快。vLLM、SGLang、Hugging Face 都在支持,TorchTitan、Ray 也在列。等于说推理和训练两条线,TPU 都开始正面接 PyTorch 生态的招了。

这意味着什么?过去几年 GPU 一卡难求,很大程度上是因为 CUDA 生态没有对手。现在 Google 和 Meta 把 TPU 的 PyTorch 支持做成开源、做成原生,开发者第一次有了真正的第二选项。GPU 和 TPU,终于要正面争夺开发者了。

对普通开发者的建议就一句话:项目开源,直接收藏。等云厂商的 TPU 实例价格打下来,第一批会用的人就是红利。

正文完
 0