NVIDIA GB300 NVL72がMoE訓練で世界記録達成
2026-07-22
NVIDIAのGB300 NVL72が、DeepSeek-V3 671Bの前処理を256 GPUで行い、1,648 TFLOPs/GPUの世界記録を達成しました。この成果は、MoE(Mixture of Experts)アーキテクチャの計算効率を活かし、GPU間の通信を最適化することで実現されました。これにより、研究者はより大規模なモデルを迅速に訓練できるようになりました。ソフトウェアの最適化も進み、全体的な性能向上が期待されています。