DARPA пытается победить «глубокие фейки»

Но похоже, что эта битва уже проиграна

Image for post
Image for post
Источник https://www.technologyreview.com/s/611146/the-us-military-is-funding-an-effort-to-catch-deepfakes-and-other-ai-trickery/

Через пару недель по проекту, финансируемому военными DARPA, ведущие мировые эксперты в области цифровой экспертизы соберутся на конкурс в области ИИ. Они будут конкурировать за создание с помощью ИИ наиболее убедительных поддельных видеороликов, изображений и аудио, а также попытаются разработать инструментарий, способный автоматически отлавливать и разоблачать такие подделки.

Подобные подделки, называемые «глубокие фейки» (deepfakes), стали «ядерным оружием» фейковых новостей. На этих видео-роликах с помощью глубокого обучения нейросетей, внешность и голоса знаменитостей наложены на тела актеров, которые творят и говорят всякое непотребство (не поленитесь пройтись по всем ссылкам этого поста, дабы прочувствовать глубину фейков).

Началось это, как положено, с порнографии. И если кто пропустил скандал с нейросетью, наученной «пририсовывать» лица знаменитостей порноактрисам, вот и вот резюме, а это видеообъяснение.

Со времен этого порноскандала ситуация сильно усугубилась. Теперь, с помощью генеративных состязательных сетей (GAN), научились

- не только изготавливать внешне не отличимые для зрителя «глубокие фейки»,

- но и изготавливать их таким образом, что подделку невозможно инструментально распознать.

Простота изготовления и невозможность распознавания подделок (только посмотрите, как они издеваются над Президентом Путиным) ставят шах и мат службам национальной безопасности даже таких стран, как США.

Битва «снарядов и брони» вышла на последний этап. Броня научилась выявлять подделки с вероятностью 75%, однако новое поколение снарядов пробивает эту броню с вероятностью 80%.

Большинство экспертов уверены, что без 100%ной мобилизации на решение этой задачи компаний Google и Facebook (а по-хорошему, и всех остальных грандов ИИ) эту задачу не решить.

Но это конец независимому от государства ИИ. А если по-честному, то и конец свободы слова.

И потому американские вояки хватаются за соломинку, делая одну из последних попыток решить проблему в ходе открытого мирового конкурса под эгидой DARPAвской программы Media Forensics (MediFor).

Шутки шутками, но вопрос, быть или не быть тотальной цензуре, может решиться в ближайшие несколько месяцев.

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал вТелеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Written by

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store