Сфабриковані алгоритмами відео, які відомі під назвою діпфейк-відео (deepfake), відкривають небачені можливості для шахрайства та обману. Адже одна справа – прочитати фальшиву новину або пост, але зовсім інша – подивитися переконливе відео, в якому реальні політики, зірки та звичайні люди можуть казати чи робити заборонені речі. Такі сфабриковані відео скоро можуть наповнити інтернет, тому сім наукових установ США разом з Facebook та Microsoft взялися за розробку рішення для виявлення діпфейк-відео.
Діпфейк-ролики дозволяють з майже ідеальною якістю замінити обличчя людей у кадрі на обличчя іншої особи. Першими це на собі відчули кінозірки, з якими почали настільки активно публікувати фальшиві порнографічні відео, що такий контент заборонили на найбільших інтернет-майданчиках Reddit, Twitter, а також профільному Pornhub. Також нещодавно від діпфейк-відео почали шаленіти китайці, для яких випустили додаток ZAO: вони ставали героями улюблених серіалів, фільмів, кінозірками тощо. Залишається питанням часу, коли такі ролики почнуть використовувати для шахрайства, адже технологію підробки голосів вже використовують для цього, обманюючи директорів компаній.
Основою анти-діпфейку стане нейромережа, для навчання якої потрібно багато вихідного матеріалу – діпфейк-відео. Соцмережа оголосила про створення бібліотеки такого контенту. Створюватимуть її на добровільній основі, а учасникам таких роликів заплатять.
«Мета – створити технологію, яку кожен зможе використати для кращого виявлення внесених штучним інтелектом змін у відео», – каже директор з технологій Facebook Майк Шропфер.
Експерти кажуть, що технології штучного інтелекту розвиваються шаленими темпами і стають з кожним місяцем дешевшими. Уже можна відносно швидко згенерувати якісне діпфейк-відео на потужному комп’ютері.
