Психолог доктор Клэр Сазерленд держит две большие фотографии. Один показывает лицо австралийского ученого, ведущего международное исследование, другой — глубокий фейк, сгенерированный искусственным интеллектом.
Искусственный интеллект стал настолько искусным в создании реалистичных образов, что становится все труднее понять, что реально, а что нет.
Но можно ли научить людей распознавать образ человека, который на самом деле был создан машиной?
Этот вопрос исследовали Сазерленд из Абердинского университета и ее австралийский коллега. Но прежде чем мы раскроем ответ, попробуйте этот тест и запишите свой результат.
ИИ (искусственный интеллект) отметил изображения, созданные искусственным интеллектом.
Изображения, помеченные как реальные, реальны.
Если вам было трудно справиться, вы не одиноки.
Раньше компьютерные визуальные эффекты, которые часто используются мошенниками, было гораздо легче распознать, потому что искусственный интеллект допускал ошибки, такие как добавление дополнительного пальца или что-то еще, что было явно странным.
Но искусственный интеллект учится на своих ошибках.
«Искусственный интеллект становится слишком сложным, и мошенники могут избегать использования изображений с очевидными недостатками», — объяснила профессор Эми Давелл.
Она – женщина с длинными волосами на плечах по образу Сазерленда. Образ мужчины – подделка. Давелл является директором Лаборатории эмоций и лиц в Австралийском национальном университете.
Она возглавляет команду исследователей в Австралии, Канаде и Великобритании, чтобы выяснить, можно ли обучить людей распознавать подделки, созданные искусственным интеллектом. Ответ, по крайней мере, на данный момент, да, но обучение распознаванию поддельного ИИ требует более тонкого подхода.
Поддельное лицо
Сазерленд руководит исследованием, проводимым в Абердинском университете (Великобритания).
Она говорит, что они уже заметили, что могут интуитивно различать реальные лица и лица, созданные ИИ, просто глядя на них.
«Поэтому мы подумали, что было бы действительно интересно узнать, сможем ли мы научить этому других людей», — сказала она.
Для экспериментов с использованием StyleGAN3, одного из самых реалистичных генераторов изображений на основе ИИ, был создан массив из тысяч изображений лица.
Участники были протестированы до и после обучения.
Что мы должны искать?
Исследователи научили участников обращать внимание на шесть характеристик восприятия:
Симметрия — ИИ часто не воспроизводит черты, которые делают нас людьми, такие как едва опущенное веко или асимметричная улыбка. «Если что-то кажется слишком совершенным, чтобы быть правдой, это, вероятно, не так».
Пропорциональность — аналогичный критерий. Очень большие носы или сгустки не характерны для изображений, созданных с помощью технологии deepfake.
Привлекательность — «Лица, сгенерированные ИИ, как правило, выглядят более привлекательно», — объясняет Сазерленд. «Это более субъективный, эстетический аспект, но ИИ часто создает приятные на вид лица».
Различие (в смысле уникальности) — «Это то, что выделяет лицо в толпе. Лица ИИ, как правило, приближаются к средним значениям, поэтому они выглядят несколько типично, без яркой личности».
Эмоциональность — «Лица ИИ, как правило, выглядят менее эмоционально выразительно», — говорит Сазерленд. «Они показывают меньше эмоций».
Запоминаемость — созданные ИИ лица «часто менее укоренились — их трудно запомнить».
Искусственный интеллект также имеет тенденцию ухудшать цветные лица, а также лица пожилых людей или детей, потому что большая часть данных, которые он получает, касается молодых белых людей.
Некоторые из этих советов могут показаться похожими и несколько размытыми, но в этом и суть.
Редко можно встретить безошибочный знак, который сразу разоблачит подделку, созданную искусственным интеллектом. Вместо этого речь идет о том, чтобы научиться распознавать характерные черты таких образов и развивать соответствующую интуицию.
Исследователи обнаружили, что если вы показываете людям изображения (как созданные ИИ, так и реальные), а затем сообщаете, где, их способность различать их значительно улучшается — даже за такой короткий промежуток времени, как один час.
Оказалось, что участники обычно увеличивают точность распознавания примерно с 40% до 80%.
Некоторым удалось достичь почти 100-процентной точности.
Фото Найтингейла
По иронии судьбы, то, что делает человеческий мозг при распознавании изображений, похоже на то, как работают генеративные модели ИИ. Дайте им достаточно данных для обучения, и со временем их точность улучшится, даже если мы не сможем полностью понять, как они это делают.
В исследовании также изучалось, насколько уверены участники в распознавании изображений ИИ. Предыдущие исследования показали, что люди были слишком самоуверенны в своей способности распознавать лица ИИ, причем самые уверенные люди совершали больше всего ошибок.
После обучения исследователи обнаружили, что участники повысили свою уверенность в распознавании глубоких фейков.
«Это полезно», — говорит Сазерленд. «Потому что, если вы не знаете, когда вы правы или не правы, вы действительно ничего не можете сделать с этой информацией».
Итак, ты готов пройти еще один тест?
Как ты справился?
Чувствуешь себя увереннее?
Если ответ отрицательный, не вини себя. Как в человеческом, так и в генеративном мире ИИ практика приводит к совершенству – или, по крайней мере, приближает его к совершенству.
Есть много сайтов, где вы можете улучшить свои навыки, если хотите.
Почему важно научиться распознавать подделки, созданные искусственным интеллектом?
Очевидная опасность — мошенничество.
Глобальная консалтинговая фирма Deloitte прогнозирует, что потери от мошенничества с ИИ только в США могут вырасти до более чем 50 миллиардов долларов в следующем году по сравнению с 16 миллиардами долларов в 2023 году.
В отчете приводится пример мошенничества, когда сотрудник гонконгской фирмы перевел 25 миллионов фунтов стерлингов мошенникам после видеозвонка с воспроизведением своего босса в формате deepfake.
Еще одним зловещим использованием технологии deepfake является политический шпионаж. Еще в 2019 году расследование Associated Press показало, что профиль LinkedIn, включая фотографию, принадлежащую женщине поимени Кэти Джонс, может быть вымышленным. Джонс выдавал себя за специалиста по России и Евразии, имеющего связис известными вашингтонскими аналитическими центрами и политическими кругами. В отчете AP утверждалось, что на самом деле это была глубокая подделка, созданная российской разведкой, которая успешно связаласьс высокопоставленными политическими помощниками США и сотрудниками национальной безопасности.
Автор фотографии, Linkedin
В Австралии один политик предлагает требовать, чтобы политический контент, созданный искусственным интеллектом, обязательно раскрывался и помечался «водяным знаком».
Справедливости ради, ученые, включая Сазерленда, также видят некоторые положительные аспекты использования этой технологии, такие как возможность быстро и дешево показать, как ребенок может выглядеть давно ушедшим в разном возрасте.
Она говорит, что если люди «делают это добросовестно и знают, что искусственный интеллект использовался, это потенциально может быть очень полезно для творческих профессий».
Таким образом, хорошая новость заключается в том, что мы еще не живем в антиутопическом мире, где невозможно различить, что реально, а что созданокомпьютером.
Плохая новость заключается в том, что модели ИИ, возможно, уже «прочитали» опубликованные научные исследования. И учатся дальше.