Сотрудник финансового отдела из Гонконга присоединился к видеоконференции инженерной компании Arup, где обсуждалась конфиденциальная сделка. Все было как обычно, ничего подозрительного.
Обман вскрылся только после отправки платежа в размере 25 миллионов долларов. Остальные участники звонка, в том числе финансовый директор, поручивший перевести деньги, были дипфейками, сгенерированными ИИ.
Это произошло в 2024 году, а ИИ-лица становится все сложнее и сложнее отличить от настоящих. В том же 2024 году консалтинговая фирма Deloitte опубликовала прогноз, согласно которому к следующему году ущерб от мошенничества с использованием генеративного ИИ в одних только США достигнет 40 млрд долларов.
Это одна из причин, по которой доцент Эми Дауэл, психолог из Австралийского национального университета (ANU), захотела узнать, возможно ли научить всех нас лучше распознавать лица, созданные ИИ.
«Сейчас мы ужасно плохо распознаем лица, созданные ИИ», — говорит она. Исследования показывают, что мы распознаем их не лучше (а то и хуже), чем если бы просто угадывали 50 на 50.
Проверьте, сможете ли вы распознать настоящие лица людей на этих картинках?
Слишком усредненное лицо
Если тест вызвал у вас трудности, вы не одни.
Сложности в распознавании лиц, созданных искусственным интеллектом, приводят к последствиям, затрагивающим всех нас, «будь то мошенничество в интернете, сайты знакомств или попытки взлома наших банковских счетов», говорит Дауэл.
В исследовании, опубликованном в июне в журнале PNAS, Дауэл и ее коллеги из Австралии, Канады и Шотландии протестировали новый подход к обучению людей.
По мере совершенствования технологий ИИ современные системы в значительной степени исправляют очевидные ошибки, и, по словам Дауэл, мошенники вряд ли будут использовать изображения, в которых можно увидеть недочеты.
Вместо того, чтобы учить людей искать характерные детали вроде несовпадающих сережек или искаженных черт лица, исследователи обучили их делать инстинктивные суждения о каждом лице в целом.
«Одна из проблем заключается в том, что мы ожидаем, что лица, созданные ИИ, будут странными, и это основано на прошлом опыте, но на самом деле именно люди не идеально симметричны и немного необычны, поэтому ситуация изменилась», — говорит Дауэл.
Предыдущее исследование лаборатории Дауэл показало, что лица, созданные ИИ, чаще воспринимались как человеческие, чем реальные человеческие лица. Исследователи назвали этот феномен гиперреализмом ИИ.
Алгоритмы ИИ стремятся создать среднее арифметическое из десятков тысяч лиц, на которых они обучаются, поэтому, по словам исследовательницы, эти гиперусредненные лица получаются «немного более заслуживающими доверия, немного более привлекательными и более знакомыми».
В том исследовании рассматривались только белые сгенерированные лица. Искусственный интеллект, как правило, обучают в непропорционально большем количестве на белых лицах, поэтому, возможно, они выглядят более реалистично по сравнению с другими.
Как проходит тренинг
В новом исследовании приняли участие 45 взрослых человек. В одном из тестов им показали несколько серий из трех лиц и попросили выбрать одно, созданное ИИ. В среднем правильный ответ был дан в 41% случаев.
Затем участники прошли тренинг, который длился около часа. Им показали около 100 лиц (половину составляли реальные, половину сгенерированные) и попросили оценить каждое из них по шести характеристикам: уникальность, легкость запоминания, выразительность, симметрия, попорциональность и привлекательность.
По словам Дауэл, человеческие лица, как правило, оценивались как более уникальные, запоминающиеся и выразительные, а лица, созданные ИИ — как более симметричные, пропорциональные и привлекательные.
«Мы даже не говорим им, что ИИ-лица более симметричны, — говорит она. — Они просто оценивают их симметричность. Им говорят, люди это или ИИ-генерация, и благодаря этому у них появляется ощущение, что именно этим они отличаются от человеческих лиц».
После обучения на этом тесте средняя точность ответов участников увеличилась до 81%.
В качестве продолжения этого исследования такой же тренинг провели группе добровольцев из Канады. По словам Дауэл, канадские коллеги анализировали данные отдельно и обнаружили такие же существенные улучшения показателей.
Наши природные инстинкты
Не принимавший участия в этом исследовании Алехандро Эстудильо, доктор психологии, изучающий визуальное восприятие в Борнмутском университете в Великобритании, удивился, когда прочитал результаты исследования: они противоречили методам, которые использовали другие исследователи.
По его словам, красота нового подхода заключается в том, что он использует наши естественные инстинкты.
«Люди не обрабатывают лица, фокусируясь на отдельных чертах. Вместо этого мы используем так называемую целостную обработку, — объяснил он Би-би-си, — когда мы объединяем все черты в единое целое, которое можем эффективно распознать».
Когда мы оцениваем уникальность или симметрию лица, мы не фокусируемся на конкретной черте, нам нужно сосредоточиться на всем лице.
«Никто не подумал, что, возможно, лучший подход — это попросить участников обрабатывать лица естественным образом, так же, как они делают это в повседневной жизни», — говорит Эстудильо.
«Кошки-мышки»
Однако у исследования есть ряд оговорок.
Обучение показало высокую эффективность для одного из самых реалистичных генераторов лиц на основе ИИ, StyleGAN3, но его необходимо протестировать на других моделях ИИ.
«Все наши участники были молодыми людьми, поэтому возникают важные вопросы о том, будет ли это обучение работать, скажем, для детей и пожилых людей, которые, как мы знаем, особенно уязвимы для мошенничества», — добавляет она.
По словам исследователей, настоящая проблема заключается в том, что люди сейчас соревнуются с постоянно совершенствующимися системами ИИ.
Существуют автоматизированные инструменты, использующие алгоритмы для обнаружения контента, созданного ИИ, но их возможности ограничены.
Они могут работать только с определенными ИИ-продуктами и могут испытывать трудности по мере появления новых моделей или в том случае, если изображение редактировалось. Поэтому, подчеркивают исследователи, крайне важно, чтобы в авангарде обнаружения дипфейков оставались люди.
«Это игра в "кошки-мышки", — говорит Дауэл. — Это как компьютерные вирусы, которые постоянно развиваются, и нам приходится постоянно бежать, чтобы на отставать от них».
Тем не менее, она считает, что результаты исследования дают «веские основания для оптимизма». В будущем можно будет разработать аналогичный тренинг, который поможет людям распознавать не только статичные лица, но и голоса и видеоизображения, созданные ИИ, и таким образом мы будем лучше подготовлены к столкновению с дипфейками на созвоне с коллегами.
- «Революция в методах политического влияния». Как ИИ используется в российских кампаниях по дезинформации
- Власти США разрешили Anthropic экспорт самых мощных моделей ИИ. Его ограничивали по соображениям нацбезопасности
- «Поменять тело за 28 дней?» Почему интернет заполонили ИИ «тренеры по фитнесу», которые обещают вам невозможное
