Компания Vals AI проверила 14 моделей искусственного интеллекта на способность отказываться от выбора военных целей. В ходе экспериментов системы выделяли в том числе гражданских, автомобили скорой помощи и сдающихся солдат. Для проверки использовали изображения, имитирующие съёмку с беспилотников

В одном из сценариев исследователи применили спутниковые снимки иранского города Минаб, где школа находится рядом с военным комплексом. В обычных запросах GPT-6 Astra отмечала хотя бы одну цель в 6% случаев; когда задание представляли как игру, доля увеличилась до 92%

В других испытаниях большинство моделей продолжало обнаруживать людей после показа сгенерированных последствий ударов. При этом реальные атаки модели не контролировали, а точность наведения и эффективность в бою авторы не оценивали

Исследователи предлагают усилить ограничения на уровне программного интерфейса. Среди возможных рисков они называют массовую разметку видеозаписей для обучения автономных систем наведения

Нашли неточность?

Сообщите редакции. Существенные исправления мы отмечаем в материале