NVIDIA Blackwell Ultraでソフトマックスを効率化
2026-02-26
NVIDIAのBlackwell Ultraは、ソフトマックスのボトルネックを解消し、AIの推論速度を向上させます。特に、特殊関数ユニット(SFU)のスループットを2倍にすることで、長文処理における計算負荷を軽減。ソフトマックスは、トークンの重要度を決定するための重要な段階であり、これにより前方伝播(FPROP)のパフォーマンスが約35%向上します。最新のアーキテクチャにおいては、非線形計算ユニットの高速化が重要です。