Mistral Large 4 уже в API, ваги обіцяють наприкінці жовтня

Французька компанія Mistral AI випустила Mistral Large 4 через API. Відкриті ваги, за її словами, з’являться наприкінці жовтня. Якщо ви запускаєте моделі вдома, важлива саме друга дата. Модель можна викликати вже зараз, а локально поки що не запустиш.

У пості до релізу модель назвали Le Chonk. Компанія пише про 1 трильйон параметрів, нативну мультимодальність і 49B активних параметрів. Як саме ці 49B працюють всередині, джерела не пояснюють, тож це цифра від Mistral. Ще компанія стверджує, що це найкраща модель з відкритими вагами з США чи Європи за усередненими бенчмарками. Це твердження про середні показники бенчмарків. Незалежного рейтингу тут немає.

Тести, які показала Mistral, стосуються безпеки та агентів. У CTF-спідрані, тобто в змаганні з хакерськими задачами на час, модель розв’язала 18 із 19 завдань. В іншому тесті їй дали невідомий бінарник, і вона визначила, що це Cobalt Strike, відомий фреймворк для атак. Потім модель витягла індикатори компрометації (IoC) і конфігурацію шкідливого ПЗ. На AutomationBench, де 657 бізнес-процесів у симульованих застосунках на кшталт Gmail, Google Sheets, Slack і Salesforce, модель, за словами Mistral, випередила кількох конкурентів. На legal agent benchmark (LAB) вона стала першою серед open-source моделей.

Кібербезпекові партнери тестують модель приватно, тож цифри з безпеки поки від самої компанії. Mistral описує агентів, які збирають інформацію й видають готові результати в складних процесах. Чи потягне модель домашня відеокарта, у джерелах не сказано. Один коментатор жартома написав про 12 ГБ VRAM. Більше на цю тему джерела нічого не кажуть.