Распространение непроверенной информации является одной из самых больших проблем социальных медиа. Но появился стартап, который может по одному пикселю определить, является ли опубликованное фото настоящим
Посмотрите на фотографию вверху. Вы, наверное, не заметите ничего необычного, даже если вы уже бывали в британском Оксфорде и знаете, что на переднем плане запечатлена Камера Рэдклиффа, одно из зданий, принадлежащих Оксфордскому университету. Но эта фотография была сделана в феврале 2018 года, когда студенты Брасенос-колледжа Оксфордского университета вывесили на крышу радужный флаг ЛГБТ-сообщества. Брасенос-колледж запечатлен на заднем плане. Но видите ли вы флаг? Кто-то обработал фотографию и убрал флаг с нее.
Вот оригинал фотографии, на которой вдалеке можно увидеть небольшой флаг:
Эти фотографии являются своего рода наглядным примером, предоставленным компанией Serelay. Этот стартап занимается разработкой программного обеспечения с использованием облачных технологий, которое благодаря изучению пикселей и метаданных изображения может определить, редактировали его или нет.
Компания запустила сайт с интерфейсом, похожим на новостную ленту социальной сети Twitter. Если кнопка под фотографией красного цвета, это значит, что система заметила признаки того, что фотографию редактировали. Если нажать на красную кнопку, всплывет окно, которое затемнит обработанную область и покажет, что именно на фотографии было скорректировано.
Фальшивые новости и обработанные фотографии существуют уже не первый год, и эта проблема только усугубляется.
Вот и второй наглядный пример: в четверг Тайриз, обычный подросток с копной кудрявых волос и учащийся из одной из средних школ Лондона вместе с парой своих одноклассников принял участие в эксперименте новостной программы BBC News. Школьникам дали конверты с распечатанным твитом. На прикрепленной фотографии были изображены припаркованные на посадочной полосе аэропорта самолеты, из-за паводков практически полностью погруженные под воду:
«Только взгляните на эту прекрасную картину в аэропорту Хьюстона» — значилось в твите аккаунта @BreakingNLive, который выглядит достаточно официально. На этот аккаунт подписаны более 30 000 человек. «Я думаю, что это настоящая фотография», — говорит Тайриз на камеру. «Наверное, я расскажу друзьям об этом. Я бы отправил им этот твит», — дополнил он. Оказалось, что фотография была сфальсифицирована. Когда Тайризу рассказали об этом, он удивленно улыбнулся. «Выглядит очень правдоподобно», — отметил школьник.
Согласно информации британского Национального фонда грамотности, каждый пятый ребенок верит всему, что он читает в социальных сетях.
А недавно опубликованное в научном журнале Science исследование, проведенное учеными из Массачусетского технологического института, показало, что фальшивые новости распространяются гораздо быстрее, чем правда. Наверное, это ни для кого не станет сюрпризом.
Facebook пытается решить эту проблему. В январе 2018 года руководство социальной сети объявило об изменении алгоритмов новостной ленты. Теперь при ее формировании алгоритмы отдают предпочтение записям, опубликованным членами семьи и друзьями пользователя, а также местным новостям и надежным новостным источникам. Но это не поможет полностью искоренить фальшивые новости.
Благодаря появлению в широком доступе бесплатных самообучаемых программ программистам-любителям стало проще заменять лица на видео, то есть создавать так называемые Deepfakes, или выкладывать в интернете отредактированные фотографии, чтобы распространить заведомо ложные, но пикантные подробности какого-либо события. Вероятные последствия: дезинформированная общественность, моральное возмущение и дальнейшая популяризация фальшивых новостей.
В июле 2017 года эту фотографию быстро распространили в социальных сетях. На ней президент США Дональд Трамп и президент Турции Реджеп Тайип Эрдоган пристально смотрят на президента России Владимира Путина. Несмотря на то что было похоже, что фотографию обработали в программе Photoshop, ею более 25 000 раз поделились в социальной сети Twitter. Выяснилось, что на исходном изображении кресло пустовало, а фотографию Владимира Путина довольно-таки неумело вставили между президентами США и Турции.
Рой Азулай, основатель и бывший директор бизнес-инкубатора Оксфордского университета, заявляет, что стартап Serelay поможет решить данную проблему. По его словам, программное обеспечение Serelay в режиме реального времени может до мельчайших подробностей определить, была ли отредактирована фотография, размещенная в интернете. Даже если на фотографии был изменен лишь один пиксель, программа Serelay сможет определить это.
Рой Азулай рассказал о том, что он провел весьма содержательные дискуссии с представителями как минимум одной компании, занимающейся социальными медиа. В настоящее время его команда продумывает способы интеграции программного обеспечения Serelay в платформу данной компании. Стартап Serelay привлек финансирование от Европейского космического агентства, проекта Digital News Initiative, спонсируемого компанией Google, и ряда частных венчурных инвесторов. Теперь Рой Азулай планирует взимать с компаний плату за каждый запрос на проверку фотографии на подлинность. Похожей бизнес-моделью пользуются компании, занимающиеся технологиями компьютерного зрения. Рой Азулай полагает, что пользователям таких платформ, как Tinder, также могли бы пригодиться технологии проверки изображения от стартапа Serelay.
Тем не менее некоторые настроены скептически по отношению к попыткам решить проблему распространения фальшивых новостей.
По их словам, пытаться решить эту проблему — как решетом воду носить. «Я постоянно читаю о попытках остановить взрывную волну фальшивых новостей с помощью технологий искусственного интеллекта или даже с помощью привлечения специально обученных редакторов новостей. Но мне кажется, что все попытки обречены на провал», — заявил на этой неделе Ананд Санвал, основатель компании CB Insights, занимающейся анализом конъюнктуры рынка.
Креативный директор Twitter Биз Стоун также высказался о необходимости проверки фотографий на подлинность. В интервью британской газете Times он заявил о необходимости введения в Twitter своего рода «кнопки доверия». Но даже в этом случае не все считают, что введение таких кнопок — это хорошая идея.
Меньше внимания фейкам
Британская независимая благотворительная организация Full Fact разрабатывает свое автоматизированное программное обеспечение для проверки фактов. Представители организации заявили, что, если начать вешать на фотографии ярлыки и заявлять, что они были отредактированы, это привлечет к ним только больше внимания. Организация Full Fact совместно с Google разрабатывала программу для проверки фактов для службы новостей Google. Кнопку проверки запустили в конце 2016 года.
По мнению Роя Азулая, проблема частично заключается в том, что Facebook и Twitter лишь пару лет назад начали уделять внимание проблеме дезинформации пользователей.
«Эта проблема бросает нам достаточно большой вызов», — заявил он во время интервью в своем офисе в Оксфорде. «На заре эры интернета такие компании, как PayPal, решили проблему безопасности в пиринговых сетях. У них был большой финансовый стимул. Сейчас мы все понимаем, как дорого для общества и как дорого в финансовом плане стоит манипуляция средствами массовой информации. Возможно, это не было так очевидно долгие годы».
Сразу после того, как Дональда Трампа избрали президентом США, Марк Цукерберг дал знаменитое интервью, в котором он заявил, что мысль о том, что фальшивые новости в Facebook внесли свой вклад в восхождение Трампа к власти в Белом доме, кажется ему сумасшедшей. Кроме того, он добавил, что 99% того, что люди видели в новостной ленте в Facebook, было правдой. Затем, в сентябре 2017 года, Цукерберг признал, что он поспешил с выводами, когда давал то интервью.
«Я считаю, что целостность контента сейчас у них в приоритете», — заявил Рой Азулай. Определить, была ли фотография отредактирована, непросто. Программа Serelay должна извлечь из каждой фотографии, снятой на чей-то телефон, девять различных типов данных, включая GPS-координаты фотографии, информацию с соседней вышки сотовой связи и данные о доступных сетях Wi-Fi и Bluetooth. Программа также может заметить изменения в пикселях фотографии. В подавляющем большинстве случаев именно так можно определить фальшивую фотографию. Кроме того, программа может заметить изменения в метаданных фотографии и определить, меняли ли матрицу изображения.
«Если на фотографию добавить эмодзи с кроликом, это будет заметно», — говорит Рой Азулай. — Мы же наблюдаем за теми, кто говорит: «Это настоящая фотография», и утверждает, что она связана с определенной историей или событием. Действительно ли они говорят правду, используя эту фотографию, или же нет? Вот что имеет значение».
Перевод Полины Шеноевой