AWSとGoogle Cloudは「PyTorch Conference 2026」で、自社のAIプロセッサに対応するPyTorchバックエンドをオープンソースとして発表した。AWSはTrainium向けの「TorchNeuron」をパブリックベータで公開し、Google CloudはTPU向けの「TorchTPU」を公開した。
公開された2つのPyTorchバックエンド
TorchNeuron：AWS Trainium向け
TorchNeuronは、PyTorchコードをAWS Trainiumで実行可能な処理へ変換するバックエンドだ。AWSの説明では、標準のPyTorch API、eager execution、torch.compileとの互換性を維持しながら、コードを.to('neuron')へ切り替えることでTrainiumを利用できる。
また、Neuron Kernel Interfaceと統合され、カスタムオペレーターの利用やTrainium向けの性能最適化にも対応する。
TorchTPU：Google Cloud TPU向け
TorchTPUは、Google Cloud TPU上でPyTorchをネイティブに実行するためのバックエンドだ。Google Cloudは、既存モデルの実行とTPUへの移行を容易にし、eager executionの最適化、torch.compileとの統合、ハードウェアネイティブなアクセラレーションによって学習と推論を高速化すると説明している。
PyTorchとCUDAの現状
PyTorchは、機械学習やAI、LLMの研究開発で広く使われているオープンソースの機械学習フレームワークだ。元記事が紹介するLinux Foundationの2024年調査では、AI関連の研究・開発の70％以上で利用されている。
PyTorchはCPUとGPUの両方で動作するが、実運用ではNVIDIA GPU向けの汎用計算基盤「CUDA」での実行が事実上の標準となってきた。そのため、周辺ソフトウェアを含むエコシステムもCUDAを中心に最適化されている。
既存コードからの移行方法
両ツールが目指すのは、標準的なPyTorchのAPIや実行モデルを保ちながら、独自AIプロセッサを利用できる環境だ。
- TorchNeuron：既存コードのデバイス指定を.to('neuron')へ変更し、Trainium上で実行する。
- TorchTPU：既存モデルをTPUへ移行し、eager executionやtorch.compileを利用して学習・推論を実行する。
両者は以前から一部ユーザーへ提供されていたが、オープンソース化によって誰でも利用できるようになった。
今後の確認点
元記事は、AIプロセッサの選択にはモデルの動作可否だけでなく、既存ライブラリやツールとの互換性、学習・推論性能、コスト、開発から運用までの使いやすさが関係すると指摘している。
見通し：TorchNeuronとTorchTPUによって非NVIDIA環境への移行を検討しやすくなる可能性がある。一方、実際の効果は、対応モデルや周辺ソフトウェアの拡大と、実ワークロードにおける互換性・性能の検証次第となる。
