TehnoloģijasAI kopsavilkums
Nvidia inženieri iedala modeli divās iekārtās
Sintetizēta balss (AI Speech)
Klausīties rakstu
Kā raksta Telegram kanāls «Prompt AI News», Nvidia inženieru ierakstā NVFP4 modelis ir sadalīts starp divām kastēm, izmantojot vLLM un tenzora paralēlismu.
Divas DGX stacijas apkalpo 753 miljardu parametru GLM-5.3 ar ātrumu 607,8 tokeni sekundē.
Visi skaitļi ir pašas Nvidia AIPerf testu rezultāti.
Avots: Prompt AI News
Faktu kopsavilkums saskaņā ar ES Autortiesību direktīvu (Art. 15). Pilns raksts pieejams oriģinālajā avotā.
Šo kopsavilkumu no avotā publicētajiem faktiem ar mākslīgo intelektu (Gemini Flash Lite) sagatavojis ZSS.LV; tas nav izdevuma teksts. Saskaņā ar EU AI Act 50. pantu un EU DSM direktīvu.