Сфабрикованные алгоритмами видео, которые известны под названием дипфейк-видео (deepfake), открывают невиданные возможности для мошенничества и обмана. Ведь одно дело – прочитать фальшивую новость или пост, но совсем другое – посмотреть убедительное видео, в котором реальные политики, звезды и обычные люди могут говорить или делать запрещенные вещи. Такие сфабрикованные видео скоро могут наводнить интернет, поэтому семь научных учреждений США вместе с Facebook и Microsoft взялись за разработку решения для выявления дипфейк-видео.
Дипфейк-ролики позволяют с почти идеальным качеством заменить лица людей в кадре на лицо другого человека. Первыми это на себе почувствовали кинозвезды, с которыми начали настолько активно публиковать фальшивые порнографические видео, что такой контент запретили на крупнейших интернет-площадках Reddit, Twitter, а также профильном Pornhub. Также недавно от дипфейк-видео начали сходить с ума китайцы, для которых выпустили приложение ZAO – они становились героями любимых сериалов, фильмов, кинозвездами и тому подобное. Остается вопросом времени, когда такие ролики начнут использовать для мошенничества, ведь технологию подделки голосов уже используют для этого, обманывая директоров компаний.
Основой анти-дипфейка станет нейросеть, для обучения которой нужно много исходного материала – дипфейк-видео. Соцсеть объявила о создании библиотеки такого контента. Создавать ее будут на добровольной основе, а участникам таких роликов заплатят.
«Цель – создать технологию, которую каждый сможет использовать для лучшего выявления внесенных искусственным интеллектом изменений в видео», — говорит директор по технологиям Facebook Майк Шропфер.
Эксперты говорят, что технологии искусственного интеллекта развиваются бешеными темпами и становятся с каждым месяцем дешевле. Уже можно относительно быстро сгенерировать качественное дипфейк-видео на мощном компьютере.
