Исследователи HCLTech показали подмену ответов ИИ через правку весов другой моделью
В лабораторных опытах нейросеть изменяла параметры небольшой языковой модели, добиваясь ложных ответов и необоснованных отказов. Самораспространение между моделями авторы не продемонстрировали
Читать