Штучний інтелект проти космічних технологій. Вчені розробили метод, який дозволяє виявляти дипфейки

Дослідники знайшли новий спосіб виявлення підроблених зображень, створених штучним інтелектом, використовуючи методи, застосовувані в астрономії. Ці методи, які зазвичай використовуються для дослідження далеких галактик, дозволяють астрономам виміряти, як очі людини відбивають світло, що дає змогу виявити підроблені фотографії.

«Це не панацея, оскільки у нас можуть бути хибно позитивні та хибно негативні результати», — каже Кевін Пімблет, директор Центру передового досвіду в галузі науки про дані, штучного інтелекту та моделювання в Університеті Халла, Велика Британія. Учений представив це дослідження на Національних астрономічних зборах Королівського астрономічного товариства Великої Британії 15 липня 2024 року. 

«Але це дослідження пропонує важливий метод, який може стати частиною арсеналу тестів для визначення, чи є зображення справжнім чи підробленим», — коментує вчений. 

Через прогрес у галузі штучного інтелекту стає дедалі важче відрізнити справжні зображення, відео та аудіо від створених алгоритмами. Діпфейки замінюють риси однієї людини іншими, створюючи враження, що люди роблять або говорять те, чого насправді не роблять взагалі. Вчені застерігають, що ця технологія може бути використана для поширення дезінформації, наприклад, під час виборів.

“Справжні фотографії повинні мати “постійну фізику”, - пояснює Пімблет, - “тому відбиття в лівому очному яблуці повинні бути схожими на відбиття в правому очному яблуці”. Відмінності можуть бути незначними, тому дослідники використовують методи аналізу світла, розроблені для астрономічних знімків.

Дослідження, яке поки ще не було опублікованим, стало основою магістерської дисертації Адеджумоке Оволабі. Оволабі, фахівець з даних з Університету Халла, використовував справжні зображення з набору даних Flickr-Faces-HQ і створив підроблені обличчя за допомогою генератора зображень. Потім він проаналізував відбиття світла в очах на цих зображеннях, використовуючи два астрономічні методи: систему CAS та індекс Джині. Система CAS вимірює концентрацію, асиметрію та гладкість розподілу світла, а індекс Джині оцінює нерівність у розподілі світла.

Порівнюючи відбиття в очах людей, дослідник зміг правильно визначити, чи було зображення підробленим, приблизно у 70% випадків. У підсумку дослідники виявили, що індекс Джині виявився більш точним, ніж система CAS, для визначення підробок.

Астрофізик Брент Робертсон з Каліфорнійського університету в Санта-Крузі схвалив дослідження, але попередив, що “якщо ви можете обчислити метрику, яка визначає реалістичність зображення дипфейка, ви також можете навчити модель ШІ створювати ще більш якісні дипфейки, оптимізуючи цю метрику”.

Чжіу Хуан, дослідник ШІ з Університету Саутгемптона, зазначив, що його власні дослідження не виявили непослідовних світлових візерунків в очах на діпфейкових зображеннях. Проте він додав: “Виявлення непослідовності у фізичних властивостях світла може доповнити існуючі методи та покращити загальну точність виявлення дипфейків”.