Az Nvidia bemutatta a Nemotron modellcsalád legújabb tagját, a Nemotron 3.5 Lightningot, amely egy 30 milliárd paraméteres, Mixture-of-Experts architektúrára épülő megoldás. A fejlesztés mellett debütált a nyílt forráskódú NeMo Switchyard útválasztó könyvtár is.
A Nemotron 3.5 Lightning kódellenőrzésre, biztonsági riasztások kezelésére és ügyfélszolgálati feladatokra optimalizált. Akár négyszer gyorsabb kimeneti sebességet és 30 százalékkal hatékonyabb ágensalapú munkavégzést kínál kategóriájának más modelljeihez képest.
A NeMo Switchyard segítségével a fejlesztők minőség, késleltetés és költség alapján irányíthatják a kéréseket. A technológia jelentős megtakarítást hoz: a LangChain 74 százalékkal csökkentette költségeit, míg a Cognition 28 százalékos átlagos költségcsökkenést ért el.