
FAR.AI протестировала prefill-атаки на моделях с открытыми весами
Слушать новость
Как пишет Telegram-канал «Prompt AI News», префилл-атаки нарушают работу всех основных моделей с открытыми весами, протестированных FAR.AI. FAR.AI провела более 20 префилл-стратегий для различных семейств моделей.
Крупные рассуждающие модели лучше выдержали общие префиллы.
Специализированные методы все же смогли обойти защиту.
Краткая выжимка фактов в соответствии со ст. 15 Директивы ЕС об авторском праве. Полный текст доступен в первоисточнике.
Это выжимка ZSS.LV, подготовленная искусственным интеллектом (Gemini Flash Lite) по фактам из источника, а не текст издания. Согласно ст. 50 EU AI Act и Директиве ЕС об авторском праве.