Материалы, созданные с помощью искусственного интеллекта, известные как «дипфейки», наводняют интернет, иногда приводя к опасным последствиям. Только за последний год ИИ использовался для создания обманчивых голосовых клонов бывшего президента США и распространения фальшивых политически окрашенных изображений, изображающих детей во время стихийных бедствий. Тем временем созданные с помощью ИИ сексуальные изображения и видео без согласия людей оставляют след психологической травмы, затрагивая всех — от старшеклассников до Тейлор Свифт. Крупные технологические компании, такие как Microsoft и Meta (Запрещенная в РФ организация), предприняли определённые усилия по выявлению случаев манипулирования ИИ, но добились лишь ограниченного успеха. Теперь правительства пытаются остановить эту волну с помощью того, в чём они хорошо разбираются: штрафов.
На этой неделе законодатели в Испании продвинули новый законопроект, который предусматривает штрафы компаниям до 38,2 миллиона долларов или от 2% до 7% от их глобального годового оборота, если они не смогут должным образом маркировать контент, созданный с помощью ИИ. Через несколько часов после подписания этого законопроекта законодатели Южной Дакоты выдвинули собственный законопроект, предусматривающий гражданские и уголовные наказания для отдельных лиц и групп, распространяющих дипфейки с целью повлиять на политическую кампанию. В случае принятия Южная Дакота станет 11-м штатом США, принявшим закон, криминализирующий дипфейки с 2019 года. Все эти законы используют угрозу возможного опустошения банковских счетов в качестве рычага принуждения.
По данным Reuters, испанский законопроект следует руководящим принципам, установленным более широким Законом ЕС об ИИ, который официально вступил в силу в прошлом году. В частности, этот законопроект призван усилить карательные меры в положениях Закона об ИИ, которые устанавливают более строгие требования к прозрачности для определённых инструментов ИИ, признанных «высокорисковыми». Дипфейки попадают в эту категорию. Неспособность должным образом маркировать контент, созданный с помощью ИИ, будет считаться «серьёзным правонарушением».
«ИИ — это очень мощный инструмент, который можно использовать для улучшения нашей жизни… или для распространения дезинформации», — заявил министр цифровой трансформации Испании Оскар Лопес в заявлении, направленном в Reuters.
Помимо правил маркировки дипфейков, закон также запрещает использование так называемых «подсознательных техник» в отношении определённых групп, классифицированных как уязвимые. Он также наложит новые ограничения на организации, пытающиеся использовать биометрические инструменты, такие как распознавание лиц, для определения расы или политической, религиозной или сексуальной ориентации людей. Законопроект ещё должен быть одобрен нижней палатой Испании, чтобы стать законом. Если это произойдёт, Испания станет первой страной в ЕС, принявшей закон, реализующий положения Закона об ИИ в отношении дипфейков. Он также может послужить образцом для других стран.
Несколько штатов США берут на себя инициативу в борьбе с дипфейками. В отличие от других, недавно предложенный законопроект Южной Дакоты имеет более узкую направленность. Он требует от отдельных лиц или организаций маркировать контент с дипфейками, если он носит политический характер и создан или распространён в течение 90 дней до выборов. Версия законопроекта, представленная на этой неделе, включает исключения для газет, вещателей и радиостанций, которые, как сообщается, выразили обеспокоенность по поводу потенциальной юридической ответственности за непреднамеренное распространение контента с дипфейками. Законопроект также включает исключение для дипфейков, которые «представляют собой сатиру или пародию» — потенциально широкое и трудноопределимое исключение.
Тем не менее, даже в ослабленном виде законопроект Южной Дакоты представляет собой последнее дополнение к растущему набору государственных законов, направленных на сдерживание распространения дипфейков. Техас, Нью-Мексико, Индиана и Орегон приняли законодательство, специально направленное против дипфейков, предназначенных для влияния на политические кампании. Многие из этих усилий получили импульс в 2024 году после того, как созданный с помощью ИИ «цифровой клон» голоса президента Джо Байдена позвонил избирателям в Нью-Гэмпшире, призывая их не участвовать в президентских праймериз штата. Как сообщается, подделка Байдена была заказана Стивом Крамером, политическим консультантом, который в то время работал на предвыборную кампанию кандидата в президенты Дина Филлипса. Позже Филлипс осудил дипфейк и заявил, что не несёт за него ответственности. Федеральная комиссия по коммуникациям наложила на Крамера штраф в размере 6 миллионов долларов за предполагаемое нарушение Закона об идентификаторе вызывающего абонента.
«Я ожидаю, что действия Федеральной комиссии по коммуникациям станут сильным сдерживающим сигналом для любого, кто может подумать о вмешательстве в выборы, будь то с помощью незаконных автоматических звонков, искусственного интеллекта или любых других средств», — заявил генеральный прокурор Нью-Гэмпшира Джон Формелла.
Четыре штата — Флорида, Луизиана, Вашингтон и Миссисипи — приняли законы, криминализирующие распространение созданных с помощью ИИ сексуальных материалов без согласия. Этот тип материалов, иногда называемый «порноместь», когда он направлен против конкретного человека, является наиболее распространённой формой вредоносного контента с дипфейками, который уже широко распространяется в Интернете. Независимый исследователь, беседовавший с Wired в 2023 году, подсчитал, что за предыдущие семь лет на 35 крупнейших веб-сайтах дипфейк-порно было загружено 244 625 видеороликов с дипфейк-порно. Почти половина этих видео была загружена в последние девять месяцев этого периода.
Рост загрузок говорит о том, что более простые в использовании и более убедительные инструменты генеративного ИИ — в сочетании с отсутствием значимых мер защиты — делают дипфейки без согласия более распространёнными. У законодателей также есть личная заинтересованность в этом вопросе. Исследование, опубликованное в прошлом году Американским проектом «Солнечный свет» (ASP), показало, что каждая шестая женщина в Конгрессе подвергалась преследованию со стороны созданных с помощью ИИ сексуальных дипфейков.
Усилия по сдерживанию дипфейков на федеральном уровне продвигались медленнее, хотя ситуация может вот-вот измениться. Ранее в этом месяце первая леди Мелания Трамп выступила в поддержку «Закона о снятии контента», спорного законопроекта, который сделает федеральным преступлением публикацию материалов интимного характера без согласия (NCII) на платформах социальных сетей. В случае принятия законопроект также потребует от платформ удалять контент NCII — и любые его дубликаты — в течение 48 часов после сообщения о нём. Законопроект уже прошёл Сенат, и в ближайшие недели или месяцы он может быть вынесен на голосование в Палате представителей.
«Сердце разрывается при виде молодых подростков, особенно девочек, которые сталкиваются с непреодолимыми проблемами, создаваемыми злонамеренным онлайн-контентом, таким как дипфейки», — сказала Мелания Трамп. «Такая токсичная среда может нанести серьёзный ущерб».
Стойкая проблема с законами против дипфейков
Хотя цель ограничения дипфейков похвальна, критики опасаются, что некоторые из рассматриваемых законов заходят слишком далеко. Фонд электронных рубежей (EFF) годами предупреждает, что чрезмерно широкая формулировка в нескольких государственных законах, направленных против политических дипфейков, может быть использована злоумышленниками для криминализации рекламы, которая просто использует драматическую музыку или собирает подлинные видеофрагменты способом, который может восприниматься как наносящий ущерб кандидату. EFF также выступает против «Закона о снятии контента» и подобных ему, поскольку, по его мнению, они создают стимул для ложной маркировки законной речи как дипфейка без согласия, чтобы добиться её цензуры.
«Хотя защита жертв этих отвратительных нарушений конфиденциальности является законной целью, одних только благих намерений недостаточно для принятия хорошей политики», — говорит старший политический аналитик EFF Джо Маллин.
Начало 2025 года может стать поворотным моментом в глобальных усилиях по борьбе с дипфейками, созданными с помощью ИИ. Вероятно, больше европейских стран последуют примеру Испании и предложат новое законодательство, криминализующее создание или распространение дипфейков. Хотя конкретные положения этих законов могут различаться, их частично объединяет базовая структура, установленная в Законе ЕС об ИИ.
Тем временем США находятся на пороге принятия своего первого федерального закона, запрещающего дипфейки. Однако во всех этих случаях ещё предстоит увидеть, насколько эффективно законодатели смогут использовать эти новые правовые инструменты. Богатые технологические компании и политические кампании, на которые нацелены эти законы, вероятно, будут добиваться юридических оспариваний, что создаст нагрузку на государственные ресурсы. Конечный результат этих возможных длительных судебных баталий может определить, смогут ли законы о дипфейках действительно достичь поставленной цели, не ущемляя при этом свободу слова.
Об авторе
