Дипфейки та шелуофейки

Що таке дипфейки й шелоуфейки та за якими прикметами їх виявити

П’ятниця, 9 Лютого, 2024

Середовище

Дар'я Свистуха

Політична маніпуляція, порушення приватності й розповсюдження дезінформації — це лише деякі зі значного переліку наслідків, що можуть спричинити дипфейки й шелоуфейки, згенеровані ШІ. Водночас ці технології можна використовувати і з позитивною метою. За якими ознаками відрізняти фейкові відео від автентичних, розповіли в гайді Центру демократії та верховенства права «Інструменти штучного інтелекту». 

Дипфейки: загрози й користь

Штучний інтелект може створювати дуже реалістичні відео й видавати їх за справжні. Заступник директорки Центру демократії та верховенства права Ігор Розкладай розповів, що технології deepfake (дипфейки) є не тільки поганими.

«Прикладом позитивного використання називають дипфейк Сальвадора Далі, створений у музеї на його честь. Завдяки йому відвідувачі й відвідувачки мають змогу подивитися відеоролики з відомим митцем і навіть зробити з ним селфі», — зазначив Розкладай. 

За допомогою цієї технології можна, наприклад, оживити історичну постать, щоб поширити суспільну обізнаність про певну проблему. А портал для дослідження генеалогії My Heritage за допомогою інструмента Deep Nostalgia дає змогу на основі навіть одного фото згенерувати рухоме зображення за участю ваших померлих родичів. 

Водночас найчастіше, за словами фахівців, технологію дипфейків асоціюють із небезпекою. З їхньою допомогою доволі просто підміняють слова публічних людей.

Загрозу можуть нести не лише deepfake-відео, але й аудіо. 2021 року в ОАЕ за допомогою цієї ШІ-технології зловмисники підробили голос директора банку та змусили менеджера зробити трансфер розміром $35 млн  на підставний банківський акаунт. 

Ознаки deepfake 

Юрист наводить вісім ознак, що допоможуть розпізнати дипфейки:

  1. Мерехтіння обличчя. 
  2. Невідповідність обличчя тілу (часто замінюють лише обличчя). 
  3. Джерело публікації відеозапису (воно може бути неперевіреним). 
  4. Звук запису і його несинхронізованість із мімікою. 
  5. Неправдоподібна міміка в ділянці рота. 
  6. Тривалість відео (зробити дуже довгий deepfake складно). 
  7. Деталі при сповільненні відео (потрібно звертати увагу на тло). 
  8. Неправдоподібне моргання чи його відсутність.

Серед інших способів розпізнання дипфейків — пошук в інтернеті за ключовими словами з відео. Крім того, якщо зробити скриншот із відео та завантажити його в інтернет-пошук за зображеннями, можна знайти оригінальне відео, на основі якого могли зробити дипфейк.

Щодо аудіо, то засновник консультативної компанії з кібербезпеки White Knight Labs Джордж Хатчер радить звертати увагу на обірвані речення, дивно дібрані слова й незвичну словозміну, тон голосу, дивні та підозрілі наголоси в аудіодоріжці.

Що таке Shallowfake та як його розпізнати

Шелоуфейки (shallowfake) — це коли медіаконтент, який насправді існує, дещо корегують. Наприклад, у якомусь матеріалі відеоряд правдивий, а от аудіоряд — ні. Приклад шелоуфейку — відео зі спікеркою Палати представників США Ненсі Пелосі. На ньому на справжній відеоряд наклали сповільнений аудіозапис її голосу, щоби створити у глядачів уявлення, що Пелосі на відео нетвереза. 

Або ще більш примітивний шелоуфейк — просте «висмикування» уривку відео із ширшого контексту. 

«2022 року певної популярності набрав уривок відео, у якому президент Зеленський нібито говорить громадянам країн-членів НАТО, що їхні діти будуть іти воювати й вмирати. Насправді йшлося про гіпотетичний напад на країни Балтії в разі поразки України, а не про російсько-українську війну», — йдеться в гайді.

Розробники гайду радять звертати увагу на деталі, щоб виявити шелоуфейк: 

Сприймайте критично будь-яку інформацію: пошук джерел її походження, рефлексія над тим, чи не з’явилася ця інформація заради маніпуляції.

Деякі ШІ-застосунки можуть бути корисними для роботи медійників, наприклад, допоможуть замінити частину зображення на будь-яку іншу, згенерують 3D-об’єкт, додадуть субтитри до відео чи автоматично перекладуть текст будь-якою мовою тощо.  Про цей список інструментів дізнавайтеся у нашому попередньому матеріалі. 

Також читайте більше про те:

фейк | ШІ | Штучний інтелект