Facebook против мстителей. Как соцсеть будет бороться с публикацией интимных фото
Социальная сеть Facebook начала тестировать решение, которое, по заверениям компании, даст пользователям уверенность, что их интимные снимки не окажутся в открытом доступе без ведома. Однако для этого свои обнаженные фотографии или видео подобного содержания придется отправить в саму социальную сеть, сообщает TechCrunch. Пилотный проект новой системы компания Марка Цукерберга тестирует совместно с агентством правительства Австралии e-Safety.
Компания стремится предотвратить распространение интимных изображений пользователей в Facebook, Instagram и Messenger, поскольку такой метод мести бывшим возлюбленным стал особенно распространенным с ростом популярности соцсетей.
Такие снимки или записи могут получить хакеры с доступом к устройствам жертвы или же бывший партнер, поясняет издание. Австралийский комиссар по безопасности в сети Джули Инман Грант в беседе с ABC News подчеркивает, что для страны проблема такого абьюза серьезна: так, каждая пятая жительница Австралии в возрасте от 18 до 45 лет становится жертвой подобных публикаций. В случае с коренными жительницами государства ситуация еще хуже: речь идет об одном случае на четыре человека. «Мы видим много сценариев, когда на каком-то этапе по согласию сторон были сняты фото или видеозаписи, но при этом согласия на распространение такого контента не давалось», — отмечает собеседница телеканала.
Как работает система
Для того, чтобы воспользоваться новым решением от социально сети, пользователю потребуется отправить себе свои интимные фотографии в Messenger. Грант сравнивает процесс с отправкой чего-либо себе на электронную почту. При этом замечает, что отправка такого контента себе в Messenger более безопасна. Как только фото попадут в Messenger, Facebook проведет их хеширование и создаст цифровой отпечаток снимка. Компания заверяет, что не будет хранить саму фотографию или видео на своих серверах, а будет иметь лишь ссылку на него. Впоследствии если кто-то попробует загрузить это же изображение в Facebook, Instagram или Messenger, то социальная сеть помешает этому. Система опирается на технологии искусственного интеллекта и иные технологии распознавания снимков, говорит Грант.
Как рассказала руководитель департамента глобальной безопасности социальной сети Антигона Дэвис, Австралия является одной из четырех стран, принимающих участие в пилотном проекте. «Безопасность и благополучие сообщества Facebook — наш главный приоритет», — подчеркивает Дэвис.
Безопасность
Технический директор компании «Вокорд» Алексей Кадейшвили в беседе с Forbes поясняет, что современные технологии распознавания образов позволяют хранить не сами фотографии, а именно отпечаток снимков, цифровой биометрический шаблон, построенный из исходного изображения. «Именно так это и устроено в существующих системах распознания лиц. Восстановить по нему исходное изображение нельзя в принципе, точно так же, как и изменить его внутреннюю структуру, поскольку строится такой шаблон нейронной сетью на основе очень сложных правил, которые заведомо неизвестны потенциальному злоумышленнику», — уверяет он.
В то же время, по словам Кадейшвили, сам алгоритм (нейронную сеть) необходимо обучать «именно на изображениях нужного класса: если это лица, то лица, если другие части тела, то на них». «Исходное фото отредактировать можно, но при этом изменять его придется достаточно кардинально: если алгоритм его не опознает, то, скорее всего, не опознает и человек, что лишает действия злоумышленника практического смысла», — заключает технический директор компании.
Владимир Черницкий, сооснователь и технический директор Faceter, которая разрабатывает интеллектуальное ПО для распознавания лиц и анализа видеопотока с камер наблюдения, также уверен, что Facebook не будет хранить контент присланный пользователем, беспокоящемся за свою частную жизнь. «При загрузке фото оно сначала обрабатывается, и с него получают уникальный отпечаток (features vector), который и будет проассоциирован с конкретным человеком. В нашем случае, мы храним не сами фотографии, а их вектора признаков или электронные отпечатки», — объясняет собеседник Forbes.
Уязвимости
Одной из ключевых потенциальных проблем, по мнению журналистов The Verge, может стать отличие машинного зрения от человеческого. Так, например, злоумышленник может использовать «состязательные примеры» или образы, то есть внести небольшие целенаправленные изменения в снимок, которые заставят систему машинного обучения классифицировать одно изображение как совершенно другое. Подобные картинки представляют собой одно из известных ограничений глубинного обучения. Издание отмечает, что пока нет уверенности, что новую систему соцсети нельзя обойти подобным же образом, встроив в снимок или видео некие «скрытые» от человеческого глаза данные, которые, однако, влияют на восприятие их машиной.
Черницкий признает, что «сломать систему» можно, но желательно знать больше деталей о том, как она работает. «Есть способы, когда замена одного пикселя на фотографии ломает распознавание. Но как только в Facebook узнают о том, как их система ломается, она сразу будет переобучена, чтоб быть устойчивой к таким «взломам». То есть будет это будет борьба, и, скорее всего, Facebook (нейронные сети) в ней победит», — заключает сооснователь Faceter.
Сооснователь и гендиректор VisionLabs Александр Ханин уточняет: «Существуют научные работы, которые ставят своей целью создание аксессуаров на лице, таких как очки или макияж, которые сбивали бы с толку движки распознавания лиц. В фотографии также можно внести помехи. Но на деле это очень неуниверсальные подходы, так как они могут сработать только на тех архитектурах нейронных сетей, против которых создавались, то есть не могут быть универсальным методом». Он добавляет, что даже если конкретно против Facebook найдут метод обмана его нейросети, то разработчики быстро вычислят этот подход и обучат нейросеть правильно реагировать.
Миллионы интимных фото
Черницкий отмечает, что для того, чтобы алгоритмы социальной сети могли получать уникальный отпечаток лишь с одной интимной фотографии пользователя, ей придется обучать свои сети на большой базе, содержащей изображения подобного характера. «Думаю, стоить говорить о миллионах изображений», — уточняет собеседник Forbes.
Бороться с «порноместью» социальная сеть начала еще в апреле 2017 года. Тогда Дэвис говорила, что Facebook, а также принадлежащие социальные сети Instagram и Messenger начнут блокировать находящиеся в открытом доступе интимные материалы, размещенные без согласия запечатленных на них людей. «Когда пользователи будут сообщать нам о «порномести», мы будем останавливать ее распространение», — говорила представитель соцсети. Тогда пострадавшему требовалось нажать кнопку «Пожаловаться». После этого специальные сотрудники социальной сети определяли, нарушает ли ролик или видео правила Facebook. Далее, в случае нарушения правил соцсети, аккаунт-распространитель снимков или видео без разрешения блокировался.
Тогда же в соцсети указывали, что ввели новый инструментарий для борьбы с повторными нарушениями. Специальная технология находила совпадения на фотографиях, если кто-то вновь пытался разместить однажды заблокированный контент, и запрещала это делать. Компания сообщала также, что провела исследование и выяснила, что 93% жертв публикации интимных фото испытывают глубокое эмоциональное потрясение от произошедшего. Кроме того, у 82% наблюдается значительное ухудшение в социальной и профессиональной сферах жизни.