Что такое дипфейки и почему они так опасны?

Как

КМайкл Брайант

Последнее обновление1 сентября 2021 г.

Когда-то в основном ограничиваясь порнографией, дипфейки теперь появляются повсюду. Еще больше беспокоит то, что технология, лежащая в основе этого, становится лучше с каждым годом, что может иметь широкие последствия в ближайшие годы.

Действительно ли Марк Цукерберг признал украл данные от миллиардов людей? Позвонил ли Барак Обама Дональду Трампу?полная чушь?Каждая из этих ссылок на видео является примером дипфейка, опасной формы искусственной технологии, которая позволяет вкладывать слова в чей-то рот или другое лицо на теле другого человека. Существуют также «скины голоса» и «клоны голоса», которые позволяют шутникам имитировать голос.

При обсуждении дипфейков стоит ответить на два вопроса. Во-первых, что их делает, а во-вторых, почему они становятся все более эффективными. Итак, давайте посмотрим.

Deepfakes: Итак, в чем проблема?

Без сомнения, некоторые дипфейки бывают забавными, если вы уже поняли, что такое шутка. Представьте, например, что 44-й президент Соединенных Штатов действительно публично назвал 45-й дурной репутацией или что первая Чудо-женщина, Линда Картер, был как-то размещен в более поздние фильмы, в которых действительно снималась Галь Гадот.

К сожалению, по мере того, как дипфейки становятся лучше, могут возникнуть проблемы и вызвать серьезные проблемы. Например, политические оппоненты могут создавать фейковые видеоролики, в которых их оппоненты занимают компромиссные позиции. Поступая так, они могли изменить исход выборов. В качестве более опасного примера представьте, что нынешний президент Соединенных Штатов объявляет войну Китаю, а китайское правительство полагает, что это правда.

Проблемы с дипфейками не обязательно связаны с участием знаменитостей или государственных чиновников. Например, с помощью «скинов голоса» мошенник может убедить родителей, что их ребенок находится в беде, или поддельный агент IRS может обмануть ничего не подозревающего гражданина, чтобы тот передавал банковскую информацию.

Другими примерами дипфейков являются фишинговые мошенничества, утечки данных, клевета на репутацию, социальная инженерия, автоматизированные атаки дезинформации и финансовое мошенничество, а также многие другие.

Почему они эффективны?

В последние годы технология глубокого обучения улучшила качество дипфейков. И все же есть и другие причины, по которым грань становится все более размытой. В соответствии с Deep Fake Nowпредвзятость подтверждения и ложное убеждение также мешают нашему мозгу.

Подтверждение смещения

При предвзятости подтверждения люди ищут, интерпретируют и отдают предпочтение информации таким образом, чтобы это соответствовало их убеждениям или ценностям.

Как объясняет Американская психологическая ассоциация (APA), «предвзятость подтверждения - это тенденция искать информацию, которая поддерживает, а не отвергает свои предубеждения, обычно путем интерпретации свидетельств для подтверждения существующих убеждений, отвергая или игнорируя любые противоречащие друг другу данные."

Ложное убеждение

В психологии теория разума относится к умственной способности понимать других людей и их поведение. Ложное убеждение считается важной вехой в теории. Это понимание того, что другие люди могут верить в неправду.

Вернемся к Deep Fake Now: «Если у вас будет достаточно времени, кто-то где-то неизбежно будет использовать« альтернативные факты »для поддержки своей повестки дня. И они, скорее всего, будут использовать технологию дипфейка, чтобы «доказать» свои утверждения. Это их способ распространения сомнения и пропаганды в обществе ».

Обе концепции показывают, как дипфейки используются как инструмент для изменения мнения.

Deepfakes: это правда или фальшивка?

Несмотря на то, что технология, лежащая в основе дипфейков, становится все лучше, есть способы определить, когда именно видео является подделкой. На самом деле, как объясняет Нортон, существует как минимум 15 верных способов для определения подделки. Среди них:

• Неестественное движение глаз. Движения глаз, которые выглядят неестественно, или их отсутствие, например, отсутствие моргания, являются тревожным сигналом. Сложно воспроизвести моргание так, чтобы оно выглядело естественно. Также сложно воспроизвести моменты, когда смотрят глаза реального человека. Это превращается в чей-то взгляд, который обычно следует за человеком, с которым разговаривает.
• Отсутствие эмоций. Вы также можете заметить морфинг лица или стыки изображений, если чье-то лицо, кажется, не демонстрирует эмоции, которые должны соответствовать тому, что он якобы говорит.
• Неестественная окраска. Ненормальный оттенок кожи, обесцвечивание, странное освещение и неправильно расположенные тени - все это признаки того, что то, что вы видите, скорее всего, подделка.
• Цифровые отпечатки пальцев. Технология блокчейн также может создавать цифровые отпечатки пальцев для видео. Хотя эта проверка на основе блокчейна не является надежной, она может помочь установить подлинность видео. Вот как это работает. Когда создается видео, его контент регистрируется в бухгалтерской книге, которую нельзя изменить. Эта технология может помочь доказать подлинность видео.
• Обратный поиск изображений. Поиск исходного изображения или обратный поиск изображения с помощью компьютера может найти похожие видео в Интернете, чтобы определить, были ли каким-либо образом изменены изображение, аудио или видео. Хотя технология обратного поиска видео еще не является общедоступной, приобретение такого инструмента может оказаться полезным.

Примеры

В сети можно найти множество примеров дипфейков. Мои личные фавориты включают следующее:

Как видите, дипфейки могут быть действительно забавными, веселыми. К сожалению, они также могут быть опасны при незаконном использовании технологии. Будет интересно узнать, к чему это приведет в ближайшие годы.

Как

Как очистить кеш, файлы cookie и историю просмотров Google Chrome

Chrome отлично сохраняет историю просмотров, кеш и файлы cookie, чтобы оптимизировать производительность вашего браузера в Интернете. Ее как ...

Как

Ваш путеводитель по совместному использованию документов в Google Документах, Таблицах и Презентациях

Вы можете легко сотрудничать с веб-приложениями Google. Вот ваше руководство по совместному использованию в Google Документах, Таблицах и Презентациях с разрешениями ...