Thinking Machines Lab выпустила Inkling 2 Mini — языковую модель с открытыми весами, рассчитанную в том числе на локальный запуск. По данным компании, она занимает около 20 ГБ памяти; разработчики показали её работу без доступа к интернету на ноутбуке MacBook Pro

В модели 26,4 млрд параметров, из которых 3,4 млрд активируются при обработке токена. Средние слои проходят три цикла, что позволяет выполнять больше вычислений без увеличения числа сохраняемых параметров. Компания также выпустила исследовательскую модель с переменным числом проходов для изучения этой архитектуры

В тесте программирования DeepSWE модель решила 48,2% задач, сообщает разработчик. При этом компания признаёт, что в многотурном диалоге и соблюдении множества ограничений модель уступает Qwen3.8-27B. Приведённые скорости на сравнительных графиках рассчитаны теоретически, а условия оценки моделей различаются

Остаётся практический вопрос: как повторные проходы скажутся на скорости именно на домашнем оборудовании? Для локального помощника важны не только размер модели и результаты тестов, но и ожидание ответа при реальной нагрузке

Первоисточник — Thinking Machines Lab

Нашли неточность?

Сообщите редакции. Существенные исправления мы отмечаем в материале