Алгоритм Instagram рекомендует подписанным на детей взрослым «токсичные видео»
Алгоритм платформы Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена) начал рекомендовать пользователям, подписанным на страницы несовершеннолетних, непристойный контент с детьми. Об этом сообщает издание The Wall Street Journal (WSJ).
В разделе Reels в Instagram все пользователи могут найти ролики на темы, которые, по мнению алгоритма сети, их заинтересуют, например о спорте, моде или кино. По данным WSJ, система сервиса делает то же самое для пользователей, которые, могут проявлять «нездоровый интерес к детям». Проведя собственное тестирование и создав несколько фейковых учетных страниц, которые были подписаны только на молодых гимнастов, чирлидеров или инфлюенсеров-подростков, издание выяснило, что алгоритм Instagram рекомендовал таким аккаунтам «откровенно сексуализированные видео для взрослых», «опасные кадры с детьми», а также рекламу некоторых крупнейших брендов США.
Как пишет WSJ, в потоке видеороликов, рекомендованных Instagram таким пользователям, также появлялась реклама приложения для знакомств Bumble — между роликом, на котором кто-то гладит лицо латексной куклы в натуральную величину, и видео с молодой девушкой, чье лицо скрыто, поднимающей рубашку, чтобы обнажить живот. В другом ролике, который появился в Reels на одном из тестовых аккаунтов издания, была реклама сети пиццерий Pizza Hut. После ролика алгоритм рекомендовал видео, на котором мужчина лежал на кровати и обнимал, как было указано в подписи к посту, 10-летнюю девочку. WSJ отмечает, что Канадский центр защиты детей отдельно провел аналогичные тесты и получил схожие результаты.
В комментарии WSJ представители Meta заявили, что во время тестов издание создало «искусственный опыт просмотра», который не соответствует тому, что видят миллиарды других пользователей платформы. Компания отказалась комментировать, почему алгоритмы соцсети объединяет видео, показывающие детей, сексуализированный контент и рекламу в один рекомендательный поток, однако представитель Meta сообщил, что в октябре компания представила новые инструменты безопасности брендов, которые дают рекламодателям больший контроль над тем, где появляется их реклама. Представитель Meta также сообщил, что компания недавно создала рабочую группу для обнаружения пользователей, которые ведут себя подозрительно на платформе, и удаляет десятки тысяч таких учетных записей каждый месяц.
Среди компаний, чья реклама появлялась рядом с нежелательным контентом во время эксперимента WSJ, — Disney, Walmart, сервисы онлайн-знакомств Match Group, бренд лекарств от эректильной дисфункции Hims и само издание The Wall Street Journal. После того как журнал связался с компаниями, чья реклама появлялась в ходе тестирования рядом с неприемлемым контентом, представители некоторых из них сообщили, что Meta уведомила их, что проводит расследование этого случая и оплатит аудит безопасности бренда, который проведет сторонняя фирма. Представители Bumble, в частности, заявили, что компания «никогда не будет намеренно размещать рекламу рядом с неприемлемым контентом» и что сервис приостанавливает рекламу на платформах Meta.