В большинстве ситуаций предполагается, что видеозапись является фактом. То, что найдено на пленке безопасности, является неоспоримой уликой, а фантастику лучше оставить мультфильмам и спецэффектам. Глубокие подделки или использование алгоритмов искусственного интеллекта для изменения лица человека на лицо другого стирают границы фактов и вымысла. То, что когда-то было легко опровергаемым заголовком фейковых новостей, теперь подкрепляется видеодоказательствами. По мере того, как алгоритмы, создающие дипфейки, становятся умнее, многие ставят под сомнение последствия и потенциально клеветнические дипфейки, а также законодательные подходы к смягчению их вреда.
В 2020 году рекламный ролик State Farm был показан на канале ESPN The Last Dance. В рекламном ролике демонстрировался клип 1998 года, в котором аналитик ESPN делает точный прогноз относительно 2020 года. Этот клип был глубокой фальшивкой. Клип был создан с помощью программного обеспечения искусственного интеллекта. Зрители, вероятно, поняли, что клип был подделкой, но они могли не учитывать этические последствия видео, а впоследствии и всех дипфейков.
В начале 2019 года количество дипфейков в Интернете почти удвоилось за три месяца (Toews 2020). Поскольку технология искусственного интеллекта продолжает совершенствоваться, этот рост будет продолжаться. В то время как некоторые дипфейки, такие как подделанный клип аналитика, беззаботны, злонамеренные дипфейки представляют серьезную угрозу для общества. Одним из примеров этого являются глубокие фейки в политическом мире. Глубокие фейки могут быть мощным механизмом для подрыва доверия к публичному деятелю путем искажения его слов, а также распространения ложной информации среди лиц, которые их просматривают. Глубокие фейки могут причинить вред во множестве социальных сфер, что вызывает беспокойство у участников или общества.
Есть шаги, которые предпринимают технические фирмы, платформы социальных сетей и правительство, чтобы облегчить эту проблему. Facebook объединился с исследователями для создания программного обеспечения для обнаружения глубоких фейков. Эта программа DeepFace идентифицирует человеческие лица, используя девятислойную нейронную сеть, обученную на более чем четырех миллионах изображений, для выявления дипфейков с точностью 97%.
Правительство Соединенных Штатов борется с дипфейками посредством законодательства. NDAA 2021 года, который недавно стал законом, требует от Министерства внутренней безопасности выпускать отчет о дипфейках каждый год в течение следующих пяти лет. В отчетах подробно описывается, как дипфейки могут быть использованы во вред. Закон об идентификации результатов генеративно-состязательных сетей был подписан в декабре 2020 года. В результате Национальный научный фонд будет исследовать технологии дипфейков и меры аутентичности (Briscoe 2021).
По мере того, как технологии продолжают совершенствоваться, дипфейки будут становиться все более продвинутыми и, вероятно, станут неотличимы от реального видео. Их потенциальный вред должен решаться на всех уровнях общества, от правительств, которые они пытаются исказить, до зрителей, которыми они манипулируют, и платформ социальных сетей, которые они используют для распространения вредоносной дезинформации.
Процитированные работы
Ади, С. (2020, 29 апреля). Что такое дипфейки и как они создаются? IEEE Spectrum: Новости технологий, техники и науки. https://spectrum.ieee.org/tech-talk/computing/software/what-are-deepfakes-how-are-they-created.
Бриско, С. (2021, 12 января). Законы США касаются дипфейков. Домашняя страница АСИС. https://www.asisonline.org/security-management-magazine/latest-news/today-in-security/2021/january/U-S-Laws-Address-Deepfakes/.
Галстон, Вашингтон (6 мая 2020 г.). Видя, все еще веришь? Глубокий вызов правде в политике. Брукингс. https://www.brookings.edu/research/is-seeing-still-believing-the-deepfake-challenge-to-truth-in-politics/.
Тэйвс, Р. (2020, 26 мая). Дипфейки разрушат общество. Мы не готовы. Форбс. https://www.forbes.com/sites/robtoews/2020/05/25/deepfakes-are-going-to-wreak-havoc-on-society-we-are-not-prepared/?sh=4149a30a7494.
