Исследователи из Ланкастерского университета обнародовали результаты научной работы, которая изучает способность человека отличать реальные портреты от изображений, созданных алгоритмами искусственного интеллекта. В рамках эксперимента 169 участников оценивали 96 различных фотографий, пытаясь определить происхождение каждого лица. Оказалось, что точность ответов добровольцев составила лишь 58,4 процента, что фактически равно случайному угадыванию. Эти данные указывают на то, что современные цифровые технологии достигли уровня, когда визуальные различия между человеком и машиной становятся почти незаметными для рядового пользователя сети.
Авторы исследования, результаты которого опубликованы в журнале Journal of Vision, обратили особое внимание на неожиданный психологический эффект восприятия доверия. Участникам предлагали оценить уровень доверия к изображенным лицам по шкале от одного до семи баллов. Фотографии реальных людей получили самый низкий показатель, который составляет 4,04 балла, тогда как изображения, созданные моделью типа GAN, набрали 4,36 балла. Самый высокий уровень доверия, а именно 4,7 балла, получили лица, сформированные с помощью новейших диффузионных моделей искусственного интеллекта.
Ученые предполагают, что причиной такого доверия является стремление алгоритмов к созданию так называемого усредненного образа человеческого лица. Поскольку искусственный интеллект обучается на массивах данных, содержащих миллионы изображений, он синтезирует черты, которые люди подсознательно воспринимают как знакомые и типичные. Кроме того, сгенерированные лица часто выглядят идеализированными и привлекательными, а психологические механизмы восприятия традиционно связывают физическую привлекательность с более высоким уровнем надежности и безопасности, что облегчает задачу злоумышленникам.
Это явление создает серьезные риски для безопасности в интернете, поскольку мошенники могут использовать такие портреты для создания убедительных легенд в социальных сетях или мессенджерах. Ранее считалось, что наличие визуальных дефектов, таких как непропорциональные пальцы или искривленные уши, позволит людям легко идентифицировать подделки. Однако новое исследование опровергает эффективность такого подхода, поскольку технологии постоянно совершенствуются, а современные цифровые модели генерируют изображения без заметных артефактов, которые раньше выдавали искусственное происхождение файлов.
Исследователи подчеркивают, что отсутствие постоянного обновления знаний о новых методах генерации контента создает ложное ощущение защищенности у пользователей. Способность искусственного интеллекта создавать образы, которые интуитивно кажутся надежнее настоящих, превращает такие технологии в инструмент для распространения дезинформации или реализации мошеннических схем. На данный момент ученые продолжают сбор данных через онлайн-опросы, чтобы детальнее изучить, какие именно характеристики лица заставляют людей ошибочно приписывать доверие искусственно созданным цифровым моделям, а не реальным представителям человеческого вида.
