Google、Qwen 3.5 397BをIronwood TPUで高速化——プリフィル最大4.7倍、デコード最大3.1倍

結論から言うと、巨大なオープンウェイト系モデルをクラウドTPUで速く出すための実践知が公開された。Google Developers Blogは2026年7月14日、Qwen 3.5-397B MoEをIronwood（TPU v7x）で最適化した技術レポートを出した。

何が起きたかというと、3970億パラメータ級だが1トークンあたり170億だけを動かすQwen 3.5を、JAX/Pallasの再利用可能なカーネル群で配信しやすくした。

具体的には、8台論理デバイスでのAttention Data ParallelismとExpert Parallelism、Ragged Page Attention、SparseCoreを使うMoE処理、Gated DeltaNetの融合カーネルなどを組み合わせた。

4月から6月の間に、512同時実行のプリフィル重視ワークロードで約4.7倍、デコード重視で約3.1倍の性能向上を報告している。開発者にとっては、Qwenのような大規模・疎なモデルを安く速く動かすヒントになる。注意点は、これはGoogleの測定環境での技術報告で、手元PCで同じ速度が出る話ではない。実運用ではハード、同時実行数、モデル版で結果が変わる。