ASCII smuggling привлёк внимание около двух лет назад как способ делать атаки с prompt-инъекциями на ИИ-агентов менее заметными. Теперь новой областью применения стала электронная почта: спамеры используют тот же принцип, чтобы скрывать содержание писем от фильтров и получателей.

Метод опирается на блок из 128 теговых символов Unicode, который почти повторяет часть ASCII. Эти символы читаются компьютерами, но по замыслу стандарта практически невидимы для людей, поэтому вредоносные инструкции остаются доступными языковой модели и незаметными при обычном просмотре письма.

ПервоисточникArs Technica
Открыть источник
Нашли неточность?

Сообщите редакции. Существенные исправления мы отмечаем в материале.