На этой неделе двенадцать сайтов дипфейков с искусственным интеллектом были отключены от сети после того, как окружной прокурор Нью-Йорка конфисковал их доменные имена за нарушение законов о распространении видео без согласия. Окружной прокурор Манхэттена Элвин Брэгг провел в понедельник пресс-конференцию, на которой рассказал об удалении сайтов, на которых размещались сгенерированные искусственным интеллектом видео с участием более 1200 человек. Сайты позволяли пользователям использовать лица и тела реальных людей для создания нелегальной порнографии. Брэгг отметил во время пресс-конференции, что, хотя многие из тех, кто появился на сайте, являются знаменитостями, они знают о случаях домашнего насилия, когда партнеры угрожали опубликовать дипфейковые изображения жертв. Он добавил, что они разговаривали с жертвами, которые не знали, что с этими объектами можно что-то сделать, и призвал больше жертв высказаться. Он отказался сообщить, будут ли предъявлены аресты или обвинения, сообщив лишь журналистам, что расследование продолжается. Брэгг сказал, что несколько человек, находящихся под следствием, использовали реальные фотографии и видео для создания «сверхреалистичных изображений и видео лиц, занимающихся сексуальным поведением». «Эти ужасающие нарушения конфиденциальности преследуют жертв в их карьере и личной жизни и наносят огромный ущерб эмоциональному и психическому благополучию», — сказал Брэгг. «Позвольте мне внести ясность: мой офис не терпит сексуальной эксплуатации в любой форме и не будет стоять в стороне, когда предприятия получают прибыль от публикации и распространения сексуальных изображений и видео без согласия, созданных с помощью искусственного интеллекта или нет». Сайты, названия которых не разглашаются, открыто позиционируют себя как платформы дипфейковой порнографии. Брэгг заявил, что они продолжат следить за сайтами и постараются пресечь любые попытки возродить платформы на новых доменах. Правительства и технологические гиганты, такие как Microsoft, в течение последних двух лет пытались решить проблему распространения сайтов дипфейков с искусственным интеллектом. В прошлом году Microsoft подала иск против шести разработчиков, которые использовали сервисы Azure OpenAI компании для создания «без согласия интимных изображений знаменитостей и другого контента откровенно сексуального характера».
Источник: The Record — https://therecord.media/manhattan-da-takes-down-12-ai-deepfake-porn-sites
Комментарии