Искусственный интеллект vs. космические технологии. Ученые разработали метод, позволяющий выявлять дипфейки

Исследователи нашли новый способ выявления поддельных изображений, созданных искусственным интеллектом, используя методы, применяемые в астрономии. Эти методы, которые обычно используют для исследования далеких галактик, позволяют астрономам измерить, как глаза человека отражают свет, что дает возможность обнаружить поддельные фотографии.

«Это не панацея, поскольку у нас могут быть ложные положительные и ложные отрицательные результаты», — говорит Кевин Пимблет, директор Центра передового опыта в области науки о данных, искусственного интеллекта и моделирования в Университете Халла, Великобритания. Ученый представил это исследование на Национальном астрономическом собрании Королевского астрономического общества Великобритании 15 июля 2024 года. 

«Но это исследование предлагает важный метод, который может стать частью арсенала тестов для определения, является ли изображение реальным или поддельным», - комментирует ученый. 

Из-за прогресса в области искусственного интеллекта становится все труднее отличить подлинные изображения, видео и аудио от созданных алгоритмами. Дипфейки заменяют черты одного человека другими, создавая впечатление, что люди делают или говорят то, чего на самом деле не делают вообще. Ученые предупреждают, что эта технология может быть использована для распространения дезинформации, например, во время выборов.

Настоящие фотографии должны иметь «постоянную физику», объясняет Пимблет, «поэтому отражения в левом глазном яблоке должны быть похожи на отражения в правом глазном яблоке». Различия могут быть незначительными, поэтому исследователи используют методы анализа света, разработанные для астрономических снимков.

Исследование, пока еще не опубликованное, стало основой магистерской диссертации Адеджумоке Оволаби. Оволаби, специалист по данным из Университета Халла, использовал реальные изображения из набора данных Flickr-Faces-HQ и создал поддельные лица с помощью генератора изображений. Затем он проанализировал отражения света в глазах на этих изображениях, используя два астрономических метода: систему CAS и индекс Джини. Система CAS измеряет концентрацию, асимметрию и гладкость распределения света, а индекс Джини оценивает неравенство в распределении света.

Сравнивая отражения в глазах людей, Оволаби мог правильно определить, было ли изображение поддельным,  примерно в 70% случаев. В конечном итоге исследователи обнаружили, что индекс Джини оказался более точным, чем система CAS, для определения подделок.

Астрофизик Брэнт Робертсон из Калифорнийского университета в Санта-Крузе одобрил исследование, но предупредил, что «если вы можете вычислить метрику, определяющую реалистичность изображения дипфейка, вы также можете обучить модель ИИ создавать еще более качественные дипфейки, оптимизируя эту метрику».

Чжиу Хуан, исследователь ИИ из Университета Саутгемптона, отметил, что его собственные исследования не выявили непоследовательных световых узоров в глазах на дипфейковых изображениях. Однако он добавил: «Обнаружение непоследовательности в физических свойствах света может дополнить существующие методы и улучшить общую точность выявления дипфейков».