Исследования показали, что созданные искусственным интеллектом фотографии и тексты могут формировать ложные воспоминания и влиять на решения людей. Ученые предупреждают о новых рисках генеративных технологий.
Искусственный интеллект способен влиять на человеческую память, формируя ложные воспоминания и усиливая уверенность в недостоверной информации. К такому выводу пришли исследователи, изучавшие воздействие измененных нейросетями изображений на восприятие людей. Выяснилось, что после просмотра поддельных фотографий участники эксперимента чаще ошибались при воспроизведении деталей оригинальных снимков.
В ходе исследования добровольцам сначала показывали фотографии, а спустя некоторое время повторно демонстрировали либо исходные изображения, либо версии, измененные с помощью ИИ. При последующей проверке памяти участники, видевшие подделки, чаще неверно вспоминали первоначальные изображения, сохраняя уверенность в правильности своих ответов. Другие эксперименты также показали, что сгенерированные изображения и тексты могут способствовать формированию ложных воспоминаний о вымышленных политических скандалах и влиять на готовность людей участвовать в голосовании.
Ученые отмечают, что опасность связана не только с намеренным распространением дезинформации, но и с ошибками самих генеративных моделей. Нейросети способны создавать убедительно выглядящие вымышленные сведения, которые не всегда распознают даже специалисты. При этом результаты ряда исследований показывают, что люди нередко отличают ИИ-контент от настоящего не лучше случайного угадывания, а универсального способа защиты от подобных манипуляций пока не существует.
