Megjelent az MLPerf Training 6.0 benchmark
Az MLCommons kiadta legújabb mérési eredményeit, amelyekben a DeepSeek-V3 és a GPT-OSS modellek mellett az NVIDIA és az AMD rendszerei versenyeztek.
Az MLPerf Training 6.0 benchmarkok közé bekerült a 671 milliárd paraméteres DeepSeek-V3 és a 21 milliárd paraméteres GPT-OSS Mixture-of-Experts modell. A mérések során az NVIDIA rendszerei 8192 GPU-ig skálázódtak, kihasználva az NVLink technológiát, amely 72 GPU összekapcsolását teszi lehetővé egyetlen rackben, szemben az AMD Infinity Fabric nyolc GPU-s korlátjával. A DeepSeek-V3 tréninget 8192 NVIDIA Grace Blackwell Ultra (GB300) GPU 2021 másodperc alatt teljesítette, míg ugyanennyi GB200-as egységnek 3340 másodpercre volt szüksége. A Llama 2 70B feladatnál nyolc GB300-as GPU 5613 másodperces időt ért el, míg nyolc AMD Instinct MI355X egység 8271 másodperc alatt végzett. A Meta Llama 3.1 8B teszten az AMD MI355X 91 145, az MI305X 109 756, az MI325X pedig 238 073 másodperc alatt zárt. Az eredmények rögzítették az FP4, NVFP4 és MXFP4 precíziók használatát is.