
OVH выпустили свою первую большую языковую модель
Слушать новость
Как пишет Telegram-канал «Prompt AI News», компания OVH анонсировала свою первую большую языковую модель под названием Olala mini.
Модель имеет 256 экспертов на слой, гибридное внимание Differential-TPA и Mamba-3, а также контекст в 32K.
Заявлена скорость 160 токенов в секунду на RTX A4500 с 8 ГБ и 50 токенов в секунду на обычном процессоре, а веса обещают выложить на Hugging Face под лицензией Apache 2.0.
Краткая выжимка фактов в соответствии со ст. 15 Директивы ЕС об авторском праве. Полный текст доступен в первоисточнике.
Это выжимка ZSS.LV, подготовленная искусственным интеллектом (Gemini Flash Lite) по фактам из источника, а не текст издания. Согласно ст. 50 EU AI Act и Директиве ЕС об авторском праве.