Искусственный интеллект способен не только генерировать поддельные изображения и видео, но и влиять на то, как люди запоминают реальные события. Исследователи Массачусетского технологического института (MIT) выяснили, что просмотр фотографий, отредактированных с помощью ИИ, повышает вероятность появления ложных воспоминаний. При этом люди могут быть уверены в своих ошибочных выводах. Об этом сообщает Gizmodo.
Как ИИ искажает человеческую память
В эксперименте участвовали 200 человек: им показывали фотографии разных событий. После перерыва одной группе предъявили оригинальные снимки, другой — изображения, изменённые с помощью искусственного интеллекта. Затем участники прошли тест на память.
Выяснилось, что люди, видевшие изменённые изображения, чаще неверно вспоминали детали оригинальных фотографий. Наиболее выраженным эффект оказался, когда участникам показывали созданные ИИ видео на основе отредактированных снимков: ложные воспоминания возникали примерно в 2,05 раза чаще, чем в контрольной группе. При этом участники нередко были уверены, что правильно помнят увиденное.
Опасность связана не только с поддельными фотографиями
Другие исследования также показывают, что ИИ может влиять на память с помощью текстов и бесед с чат-ботами. Если система уверенно сообщает ложные сведения, человек может начать воспринимать их как часть собственного опыта. Это особенно опасно, когда требуется точно восстановить обстоятельства события — например, в ходе расследования или судебного процесса.
Почему проверка человеком не всегда помогает
Исследователи предупреждают: обычной проверки результатов работы ИИ человеком может быть недостаточно. Получив от специалиста неверное описание события, человек тоже рискует запомнить ложные детали и не заметить ошибку при последующей проверке.
Проблема становится всё актуальнее: искусственный интеллект используют для составления краткого содержания документов, анализа видеозаписей и работы с информацией в самых разных сферах. Поэтому специалисты подчёркивают, что важно сверяться с первоисточниками и сохранять оригинальные материалы. Пока универсального способа полностью защитить память от такого воздействия нет.