ТехнологииИИ-выжимка
Инженеры Nvidia разделили модель между двумя устройствами
Синтезированная речь (AI Speech)
Слушать новость
Как пишет Telegram-канал «Prompt AI News», в инженерной публикации Nvidia модель NVFP4 разделена между двумя блоками с помощью vLLM и тензорного параллелизма.
Две станции DGX обслуживают GLM-5.3 с 753 миллиардами параметров на скорости 607,8 токена в секунду.
Все цифры являются результатами собственных запусков AIPerf компании Nvidia.
Источник: Prompt AI News
Краткая выжимка фактов в соответствии со ст. 15 Директивы ЕС об авторском праве. Полный текст доступен в первоисточнике.
Это выжимка ZSS.LV, подготовленная искусственным интеллектом (Gemini Flash Lite) по фактам из источника, а не текст издания. Согласно ст. 50 EU AI Act и Директиве ЕС об авторском праве.