Исследователи из Anthropic и других организаций показали способ внедрения скрытой команды через данные предварительного обучения. В работе, опубликованной 27 октября, они обучили с нуля модели архитектуры Qwen3, затем превратили их в агентов для терминала на чистых данных

При подмене 0,1% корпуса модель с четырьмя миллиардами параметров выдавала команду загрузки и запуска чужого скрипта в 92,7% тестовых заданий — хотя бы в одной из 32 попыток. Активатором служил определённый фрагмент пути к файлу. Это не свидетельство заражения публичных моделей

Практический вопрос — какие полномочия получает агент? Изоляция исполнения и наблюдение за действиями нужны независимо от происхождения весов: скрытая команда становится опаснее, когда ей разрешено действовать

Первоисточник — arXiv

Нашли неточность?

Сообщите редакции. Существенные исправления мы отмечаем в материале