За дипфейки ― к директору: как ученицы частной школы в США стали жертвами ИИ-порно

В прошлом месяце в небольшом городке рядом с Ланкастером в Пенсильвании детектив Лорел Бэр пригласила несколько десятков учениц старшей школы вместе с родителями в полицейский участок, чтобы выполнить непростую задачу: девочек одну за другой просили подтвердить, они ли изображены на сотнях сгенерированных при помощи искусственного интеллекта и изъятых следствием дипфейковых порнографических картинок.

В ходе целой череды встреч за закрытыми дверями детектив Бэр из регионального полицейского управления Саскуэханна вынимала из папки каждое изображение так, чтобы было видно только лицо потерпевшей, если только родственники сами не просили показать все без цензуры.

«Увидев те картинки, я очень сильно расстроилась, потому что так они стали для меня гораздо реальнее», ― рассказала Forbes одна 16-летняя потерпевшая из Ланкастера. «Они очень правдоподобные и реалистичные, ― добавила ее мать. ― При взгляде на фото невозможно не подумать: «Это же она, и голая» — и это самое страшное». Дочь этой женщины была более чем на 30 снимках.

По данным окружной прокуратуры округа Ланкастер, фотографии были взяты из кэша публичных аккаунтов 60 девочек в социальных сетях двумя подростками, которые затем при помощи ИИ сгенерировали 347 дипфейков — изображений и видео порнографического содержания. Сейчас обоим предъявлены уголовные обвинения по 59 эпизодам «сексуального насилия над детьми» и 59 эпизодам «хранения детской порнографией». Они также обвиняются во «владении материалами непристойного характера с изображением несовершеннолетнего».

48 из 60 жертв учились вместе с обвиняемыми в Lancaster Country Day School, небольшой частной школе примерно в 80 милях (129 км) к западу от Филадельфии. Школа настолько маленькая, что почти половина ее учениц засветилась на этих изображениях и видео. Такое масштабное число жертв делает этот случай крупнейшим в истории дипфейк-порнографии с участием несовершеннолетних в США.

«Число потерпевших в данном деле крайне удручает, а травма, которую им пришлось пережить, узнав о том, что их приватность была нарушена именно таким образом, просто невообразима», ― написала в официальном заявлении окружной прокурор Хизер Адамс.

Судя по заявлению, опубликованному окружной прокуратурой округа Ланкастер, все жертвы, кроме одной, на тот момент были моложе 18 лет. Власти считают, что в открытый доступ в интернете изображения не выкладывались, а распространялись в стенах школы посредством текстовых сообщений и мессенджеров.

Поскольку оба ответчика сами несовершеннолетние, предоставлять какую-либо информацию по ним сторона обвинения отказалась. Родители подозреваемых на просьбу Forbes дать комментарий не откликнулись.

Этот инцидент ― уже не первое уголовное преследование за дипфейк-порно, к которому причастны подозреваемые моложе 18 лет. Несколько месяцев назад в Майами арестовали двоих учеников средней школы — им предъявили аналогичные обвинения.

Эксперты утверждают, что обвинения в совершении уголовного преступления по делам о порно с дипфейками, где и жертва, и злоумышленник являются несовершеннолетними, выдвигаются довольно редко.

«[Что касается того, почему подобных дел не становится больше,] мне кажется, все признают, что арестом детей проблему не решить», ― говорит Риана Пфефферкорн, научный сотрудник по политическим вопросам в Стэнфордском институте антропоцентрического искусственного интеллекта, которая давно изучает материалы с насилием над детьми в контексте ИИ.

В рамках похожего дела о дипфейк-порно в одной из школ штата Нью-Джерси никаких обвинений не было предъявлено вообще, и предполагаемый преступник не понес ни дисциплинарного, ни уголовного наказания. Дорота Мани, мать одной жертвы из Нью-Джерси, высказала беспокойство по поводу руководства в школе своей дочери примерно на трех страницах письменных показаний Конгрессу, обнародованных в марте. В этом документе она заявила, что слабая реакция Уэстфилдской старшей школы «не только обескураживает, но и несет опасность, поскольку способствует созданию обстановки, где ученицы остаются в роли жертв, а ученики уходят от полагающейся за такое ответственности».

По информации местных СМИ, администрацию Lancaster Country Day School впервые
уведомили о существовании снимков с дипфейками в конце прошлого года, однако родители и потерпевшие узнали о них лишь несколько месяцев назад, когда руководству сообщили о новом случае создания дипфейк-порно. В начале ноября учащиеся вышли на улицы, чтобы выразить протест против неспособности школы расследовать масштабы и обороты сгенерированных с помощью ИИ материалов. Многие родители также подали на школу в суд, обвиняя ее в том, что она не предприняла никаких мер, когда это требовалось, и не защитила своих учеников надлежащим образом.

В электронном письме для Forbes от 9 декабря попечительский совет школы заявил, что относится «к своей ответственности и текущему положению дел очень серьезно», добавив, что школа сотрудничает с правоохранительными органами.

«Для нас недопустимо давать комментарии по поводу конкретных обвинений, выдвигаемых властями в отношении двух лиц, и информацию о бывших учениках мы в публичном поле обычно не обсуждаем, ― отметили в совете. ― Можем сказать лишь, что забота о нашем сообществе, поддержка тех, кого затронула эта досадная ситуация, и пересмотр школьной политики в плане безопасности учащихся в настоящее время остаются для нашей школы главным приоритетом».

Перевод оригинального текста Forbes USA