Южнокорейская DeepX завершила проектирование ускорителя DX-M2 и передала его в производство. Компания рассчитывает получить образцы в марте 2027 года, а массовый выпуск начать осенью. Чип предназначен для локальной работы нейросетей, в том числе в роботах и беспилотниках
Заявленный диапазон — от 20 до 100 млрд параметров при скорости 10–30 токенов в секунду в зависимости от модели. Поддерживается архитектура со смесью экспертов: при обработке задействованы примерно 3–20 млрд параметров. Эти ориентиры нельзя переносить на модели, использующие все параметры одновременно
Совместно с Samsung разработчик осваивает вычисления непосредственно в памяти. Моделирование для восьмимиллиардной языковой модели показало ускорение в 6,7 раза относительно варианта без таких вычислений, но общее энергопотребление вырастает в 2,7 раза. Компилятор этого режима пока существует как прототип
Официальная страница отдельно уточняет энергобюджет: для базового исполнения 5 Вт относятся только к системе на кристалле. Внешняя память в эту величину не входит; её максимальная ёмкость заявлена на уровне 96 ГБ. Характеристики ещё могут измениться в ходе разработки
А сколько будет потреблять устройство целиком при выбранной модели и скорости ответа? Для оценки автономности нужны совместные измерения ускорителя и памяти. Расчётное ускорение и мощность отдельного чипа пока не дают такого ответа
Первоисточник — EE Times
Сообщите редакции. Существенные исправления мы отмечаем в материале