Эксперимент показал, как искусственный интеллект может влиять на воспоминания. Профессор Патти Мэйс считает это опасным для судебных разбирательств и исторической науки.
Содержание.
Согласно исследованию, опубликованному весной 2026 года, люди часто слишком быстро доверяют ответам, сгенерированным искусственным интеллектом, и переоценивают возможности систем ИИ. Исследователи пришли к выводу, что люди могут чрезмерно полагаться на рекомендации, предоставляемые системами ИИ, даже если эти системы ненадежны или подвержены ошибкам.
Искусственный интеллект и ложные воспоминания.
Недавнее исследование, проведенное учеными из Массачусетского технологического института (MIT) под руководством Патти Мейс, затрагивает схожую тему. Согласно результатам этого исследования, системы искусственного интеллекта могут создавать у людей ложные воспоминания, как объяснила профессор Мейс из лаборатории MIT Media Lab в интервью газете Washington Post.
В рамках эксперимента, Маэс и ее команда показали 200 участникам 24 фотографии. На этих фотографиях были изображены различные сцены: свадьба, городская улица, гонка и т.д. Затем часть участников снова увидела те же самые изображения. Для остальных участников исследователи подготовили версии этих же фотографий, измененные с помощью искусственного интеллекта.
Тест на проверку памяти выявил опасность.
Как сообщает Washington Post (перевод предоставлен изданием FR), на некоторых изображениях были изменены выражения лиц или добавлены военнослужащие. Кроме того, вероятно, искусственный интеллект добавил информацию, касающуюся изменения климата. В ходе последующего теста памяти оказалось, что у тех людей, которые видели фотографии, измененные искусственным интеллектом, количество ложных воспоминаний увеличилось.
И это было еще не все. Участники, подвергшиеся воздействию, стали еще больше убеждены в подлинности этих ложных воспоминаний. "Я считаю, что это потенциально очень опасно", - заявила Мэйс.
Суды и история могут быть подвержены манипуляциям?
Исследовательница, в частности, имеет в виду судебные процессы, где судьям необходимо полагаться на максимально точные воспоминания. Уже сейчас известно, что воспоминания свидетелей могут быть легко искажены. Кроме того, историческая наука также во многом зависит от воспоминаний.
На конференции, посвященной искусственному интеллекту, которая проходила в шведском городе Мальмё в середине октября 2026 года, исследователи обсуждали вопрос о том, что произойдет, если искусственный интеллект начнет вмешиваться в человеческую память. Как исследования Мэса, так и другие работы показывают, что ИИ может искажать воспоминания людей.
Идеи, созданные искусственным интеллектом, против человеческих мыслей.
В одном из случаев участники смотрели видеозапись преступления. Те, кто впоследствии были опрошены генеративным чат-ботом на основе искусственного интеллекта, имели в три раза больше ложных воспоминаний. Кажется, что границы между собственными мыслями и мыслями машин начинают стираться. Не говоря уже о том, что воспоминания о событиях, которых никогда не было, могут быть внедрены.
Эта статья впервые была опубликована на сайте t3n.de.
Первоисточник — Heise
Сообщите редакции. Существенные исправления мы отмечаем в материале