Компания Mistral AI опубликовала веса улучшенной мультимодальной модели Large 4, известной также как Le Chonk. Предварительная версия появилась ранее в октябре; нынешний выпуск включает доработки после трёх недель дополнительного обучения с подкреплением. Модель с триллионом параметров можно скачать и развернуть на собственной инфраструктуре

По приведённым разработчиком данным, результат в тесте работы с терминалом вырос с 28% до 41%, а число выходных токенов сократилось на 30%. Для баланса качества и расходов предусмотрены три уровня рассуждения: низкий, средний и высокий, причём последний выбран по умолчанию. Эти показатели опубликованы компанией и не гарантируют такого же преимущества на произвольных рабочих задачах

Модель также предназначена для поиска уязвимостей, их воспроизведения и подготовки исправлений. Компания сообщает о среднем отказе выполнять вредоносные запросы по кибербезопасности в 96,6% случаев на выбранных тестах. При этом разработчик признаёт возможность усиления реальных атак и обещает дорабатывать защитные ограничения. Доступ к отдельному специализированному варианту для сложных задач кибербезопасности предоставляется проверяемым корпоративным партнёрам

Для облачного доступа объявлены цены за миллион токенов: 0,70 доллара за входные, 0,07 доллара за входные из кэша и 2,10 доллара за выходные. Веса распространяются по изменённой лицензии MIT. Если компания или связанная с ней организация предлагает модели как сервис, для коммерческого использования требуется отдельное соглашение. Внутреннее применение освобождено от этого требования; готовые продукты со встроенными отдельными функциями модели исключены из определения такого сервиса

Доступность весов поэтому стоит оценивать отдельно от свободы построить на них любой бизнес. Возможность скачать и настроить нейросеть даёт организациям больше контроля, но при запуске собственного сервиса сначала придётся проверить условия лицензии. Практический вопрос здесь — какие права получает конкретный оператор, а не насколько открыто звучит название выпуска

Первоисточник — Mistral AI

Нашли неточность?

Сообщите редакции. Существенные исправления мы отмечаем в материале