Huawei открыла MACaQ — инструмент сжатия нейросетей для локального запуска
Лаборатория Huawei опубликовала код инструмента квантования моделей для работы с текстом, изображениями, видео и звуком. Он поддерживает несколько сред запуска, а результаты ускорения пока представлены самими разработчиками
Читать