Что такое Deepfake, почему он опасен и как его распознать?

Джим Керри Deepfake

Многие из нас видели, как королева Елизавета танцевала на столе во время новогоднего поздравления, слышали речь Ким Чен Ына о демократии и восхищались Сальвадором Дали, рассуждающем о смерти, в которую он не верит. Все эти удивительные видео объединяет одно — они были созданы с помощью нейросети Deepfake и являются поддельными.

Deepfake это, по сути, фальшивый фото, видео или аудио материал. Он создается с помощью алгоритмов, основанных на реальных образцах голоса, звука, видео или фотографий, которые сшиваются вместе. Алгоритм собирает информацию из множества разных мест и затем объединяет ее в один материал. В результате создается нечто новое (ложное), основанное на комбинации различных реальных данных. Но это еще не все. Deepfake также может «рисовать» фотографии с нуля, создавая персонажей и лица людей, которых никогда не существовало.

Какова цель применения этой нейросети? Чаще всего Deepfake используется для внедрения во всемирную сеть ложной информации (например, о политических событиях), взломов (подделка голосовых команд) и создания порнографии (видео со знаменитостями). Ее также применяют в образовательных и развлекательных целях.

Как работает Deepfake?

Существует два метода создания Deepfake-видео:

  1. Первый использует два алгоритма: кодировщик ищет общие черты двух изображений (те, которые нужно объединить в одно), а декодер может перенести их в новое, поддельное изображение. Например, если вы хотите, чтобы актер двигался как вы, кодировщик изучит ваши движения на видео, в котором вы танцуете, а декодер заменит ваше лицо на лицо актера и заставит его двигаться так же. Ключевыми здесь являются выбранные функции, которые копируются в новое изображение (например, движение рта, жесты, мимика).
  2. Второй способ связан с сетью GAN, в которой также работают два алгоритма. Первый называется генератором, потому что, используя доступную информацию, он создает изображения (например, человека), определяя другие его отличительные черты (у человека есть тело, лицо, глаза). Второй алгоритм — дискриминатор, оценивает, верны ли изображения, предоставленные ему генератором.

Как сделать Deepfake-видео?

Deepfake-видео может сделать кто угодно. Но в домашних условиях их качество не будет идеальным. Для создания безупречного Deepfake потребуются большие вычислительные ресурсы и мощные видеокарты. Обычные компьютеры не справятся с такой задачей, а сам процесс создания поддельного видео может занять несколько недель. Качество роликов тоже оставляет желать лучшего — ошибки будут видны невооруженным глазом, движение рта может не совпадать со звуком, а «старый» контент неаккуратно перекроется с «новым».

Но если вы хотите немного «подправить» фотографию или снять короткий смешной фильм, то программу Deepfake можно скачать прямо на смартфон. Очень простое в использовании приложение исправит недостатки внешности за несколько мгновений, превратит вас в знаменитостей или позволит вашей собаке говорить человеческим голосом.

Как распознать Deepfake?

Профессиональные Deepfake-видео становится все труднее распознать. Поначалу у алгоритмов были проблемы с базовыми функциями (например, с морганием глаз), и это сразу бросалось в глаза. Теперь ошибка исправлена. Поддельные персонажи непринужденно моргают и двигаются, а также бегло говорят. Но иногда у них возникают проблемы с естественным движением глаз.

Так как же обнаружить Deepfake? Вот несколько моментов, на которые следует обратить внимание при просмотре поддельного видео:

  • Совпадает ли звук и движение губ. Очень часто бывает так, что человек на видео слишком поздно двигает губами по отношению к звуку или неправильно произносит слова.
  • Неестественность. Речь идет о неестественном положении всего тела или головы по отношению к телу, цвете кожи, а также неправильном отражении света на предметах.
  • Качество аудио и видео. Расхождение качества между аудио и видео — ключ к обнаружению Deepfake. Обычно страдает звуковая дорожка.
  • Размытость в областях изображения. Чаще всего ее можно обнаружить на стыке тела и головы. Также стоит присмотреться к прерываниям кадров и ошибкам освещения при съемке.
  • При анализе материалов Deepfake, не стоит игнорировать и собственные ощущения. Иногда создается впечатление, что что-то «не так». Это происходит, например, когда выражение лица или тон голоса человека на экране, не соответствуют тому, что он говорит.

Борьба с Deepfake

Поток фальшивых новостей настолько велик, что многие социальные медиа-компании решили бороться с Deepfake. Facebook и Twitter пытаются обнаружить поддельные видео и автоматически удалять их. Крупные корпорации (например, Microsoft и Amazon) инвестируют в создание программного обеспечения, которое может быстро обнаружить поддельные материалы. Ученые также работают над этой проблемой.

Но в ситуации, когда одного простого приложения для смартфона вполне достаточно для создания фейкового фильма, борьба с Deepfake может превратиться в борьбу с ветряными мельницами. Кроме того, до сих пор отсутствуют правовые нормы, которые определяли бы, какие последствия будут иметь манипуляции с информацией или использование чьего-либо фото или видео без разрешения автора.