Как фейковые снимки обнаженных звезд стали самым продаваемым товаром на eBay
Торговую площадку eBay заполонили тысячи порнографических снимков знаменитостей, сгенерированных при помощи нейросетей. Forbes USA уведомил eBay о запрещенном контенте, после чего компания удалила сотни фотографий и заблокировала учетные записи продавцов, но не всех.
Например, в магазине одного из них среди более 400 товаров предлагались поддельные снимки обнаженной Тейлор Свифт, Селены Гомес, Кэти Перри, Арианы Гранде, политика Александрии Окасио-Кортес и других медийных личностей. С другого аккаунта продавались сотни подобных изображений Дженны Ортеги, Марго Робби и Галь Гадот по $6,39 за штуку.
У еще одного продавца фото Тейлор Свифт в бикини с американским флагом стоили $5,60. Это аккаунт с «высшим рейтингом» — то есть продавший более 14 000 товаров. Согласно правилам площадки, продавцы с высоким рейтингом получают дополнительные преимущества — первые строчки в результатах поиска и финансовые льготы. Алгоритм рекомендаций eBay также показывает их товары заинтересованным пользователям в разделе «Похожее» — так они привлекают еще больше покупателей.
Один из таких аккаунтов, занимающий первое место в рейтинге продавцов, продал на eBay более 2000 товаров, включая поддельные ню с участием Дженнифер Лоуренс и Дженнифер Энистон. По некоторым изображениям неясно, сгенерированы они при помощи искусственного интеллекта (ИИ) или при их создании использовалось другое программное обеспечение.
Компания eBay была основана в 1995 году. В 2023 году она получила доход в размере $10,1 млрд, а ее рыночная капитализация составляет около $26 млрд. На онлайн-площадке насчитываются 132 млн активных покупателей и 2 млрд объявлений о продаже самых разных товаров — от кроссовок и видеоигр до БАДов и журнальных столиков. В сентябре 2023 года на eBay заработали инструменты на базе ИИ, которые могут генерировать названия и описания товаров на основе изображения. Инструменты были созданы с использованием моделей с открытым исходным кодом и больших языковых моделей сервиса Azure OpenAI от Microsoft. В январе 2024 года компания сократила 1000 сотрудников, что составляет 9% от общего числа персонала.
«Дело не только в продавцах: выходит, что eBay наживается на порнографическом контенте, — говорит руководительница Национального центра по борьбе с сексуализированной эксплуатацией (NCOSE) Лина Нилон. — Они «продают» женские тела. Поскольку создание изображений происходит без согласия жертв, то это вопиющее нарушение прав».
Согласно правилам eBay, продавцам разрешается размещать на площадке изображения, созданные ИИ, при условии, что они относятся к категориям «Искусство» и «Предметы коллекционирования». Политика компании в отношении «взрослого» контента гласит, что «сгенерированные или созданные другим способом фотографии публичных личностей, носящие сексуальный характер, запрещены». Несмотря на четкие правила, продавцы свободно выкладывают подобный товар.
Компания уже удалила сотни откровенных изображений знаменитостей и заблокировала учетные записи продавцов. Однако на площадке до сих пор попадаются подобные фейки с участием Тейлор Свифт (представитель певицы отказался от комментариев).
В eBay заявили, что компания «находится в процессе обновления политики в отношении дипфейков». Пресс-секретарь компании Трина Сомера заявила, что компания с помощью технологий ИИ, команды профессиональных модераторов и инструментов аналитики регулярно проверяет площадку. «Учетные записи, содержащие поддельные или измененные при помощи ИИ изображения знаменитостей, нарушающие политику eBay, будут заблокированы или удалены. Пользователи, уличенные в нарушении правил, могут столкнуться с серьезными последствиями, вплоть до полной блокировки учетной записи», — говорит Сомера.
Представители Ортеги, Гомес, Энистон, Лоуренс, Перри, Гранде, Робби и Гадот не ответили на просьбу о комментарии.
Площадка eBay — не единственная платформа, на которой распространяются дипфейки. Reddit, X (ранее Twitter) и Etsy тоже борются с натиском порнографического ИИ-контента. Например, в конце января в соцсети X широко распространялись откровенные изображения Тейлор Свифт — их посмотрели более миллиона пользователей.
Вскоре после этого законодатели США, в том числе конгрессвумен Александрия Окасио-Кортес, представили закон о пресечении создания и использования поддельных изображений порнографического характера без согласия вовлеченных лиц. Документ предоставляет пострадавшим, чьи образы использовались в дипфейках без их согласия, инструменты юридической защиты, которые позволят принимать меры против создателей и распространителей подобного контента. «Жертвы дипфейков слишком долго ждали каких-либо действий со стороны федерального законодательства, чтобы привлечь виновных к ответственности... Конгресс должен начать действовать, чтобы показать жертвам, что их не оставят в беде одних», — заявила Окасио-Кортес.
По словам Лины Нилон из NCOSE, в США до сих пор не существует федеральных законов, защищающих пострадавших от дипфейков, однако в конгресс внесены еще три законопроекта, направленных на решение этой проблемы. Недавно там прошли слушания, посвященные тому, как рост числа дипфейков в интернете влияет на безопасность женщин и детей и какие меры можно принять, чтобы снизить риски, которые влечет за собой подобный контент.
«Нам действительно нужно обратить внимание на эту проблему, поскольку, как это часто бывает, технологии развиваются быстрее, чем принимаются новые федеральные законы, которые регулировали бы их применение. Сейчас мы наблюдаем экспоненциальный рост ИИ и широкое распространение сгенерированного порноконтента», — поделилась Нилон с Forbes USA.
Как считает Нилон, теперь, когда инструменты ИИ появились в открытом доступе, а многие приложения предлагают «раздеть» любого человека, порнографический ИИ-контент буквально заполонил интернет-пространство. В дополнение к тысячам грубо отфотошопленных фотографий якобы обнаженных знаменитостей, на eBay можно найти десятки «улучшенных с помощью ИИ» изображений общественных деятелей, на которых проставлены их автографы. Они продаются еще дороже — по $10,95. «Позвольте себе удовольствие с четким снимком высокой детализации, улучшенным с помощью инструментов ИИ, — говорится в описании к одному такому изображению. — Пленительное выражение лица и притягательный взгляд звезды безупречно сохранены, воплощая в жизнь непревзойденное обаяние и талант Дженнифер Лопес во всех деталях» (Лопес не ответила на просьбу дать комментарий).
По запросу «знаменитости» eBay выдает более 2,3 млн товаров, многие из которых носят сексуальный характер (а, например, Amazon по такому же запросу не сразу выдает порноконтент). «В App Store есть несколько приложений, которые позволяют создать обнаженную версию фотографии. Только на прошлой неделе я наткнулась на одно из них. Возрастной рейтинг приложения — 4+, — говорит она. — Тем временем на GitHub (веб-сервис для совместной разработки IT-проектов. — Forbes Woman) в свободном доступе размещены некоторые из самых известных технологий для создания дипфейков и другие инструменты ИИ».
Научная сотрудница Центра по изучению рисков в медиапространстве (The Center for Media at Risk) при Пенсильванском университете Софи Мэддокс говорит, что ее не удивляет тот факт, что порнографические изображения, созданные ИИ, стали обычным явлением в интернете. «Если мы посмотрим на историю развития интернета со стороны, то поймем, что порнографический контент всегда был популярен и хорошо продавался. Поэтому нет ничего удивительного в том, что на таких платформах, как eBay, появились подобные изображения, — говорит Мэддокс. — Также здесь играет роль тот факт, что при создании дипфейков используют женщин, которые являются медийными персонами. Для многих является нормой использование изображений знаменитостей без их согласия, особенно для получения прибыли. И эта проблема может коснуться всех».