Синтетическая реальность: почему фейки стали угрозой, которую нельзя игнорировать

Искривление истины

Еще несколько лет назад проблема фейковых новостей и манипуляций в информационном поле воспринималась как нечто абстрактное, что происходило в основном в мире политики и медиа. Однако сегодня всему мировому сообществу стало очевидно — искаженные факты проникают повсеместно и влияют на все сферы нашей жизни, от этого не застрахован никто.

Аналитики ВЭФ считают, что борьба с фейками сейчас даже важнее, чем противодействие глобальному потеплению. 54% экспертов, принявших участие в исследовании восприятия глобальных рисков The Global Risks Report, считают, что впереди нас ждут настоящие потрясения. Почти 2/3 респондентов прогнозируют турбулентность и серьезные вызовы в десятилетней перспективе. Многие из этих угроз связаны с развитием новых технологий, в первую очередь искусственного интеллекта. Взрывной рост синтетического контента, генерируемого ИИ, — одна из ключевых проблем, отмеченных в отчете. Прогресс технологий способствует созданию фейковых текстов, изображений и видео, все это становится намного доступнее. Не обязательно, что эти фейки созданы целенаправленно: искусственный интеллект часто ошибается, весьма убедительно выдавая выдуманные им факты за действительность. Такая «синтетическая» ложь может быть неотличима от достоверной информации, что превращает ее в идеальный инструмент для манипуляций.

Этому способствуют укоренившиеся в массовом сознании максимы вроде «дыма без огня не бывает» или «правда где-то посередине». Если у одного и того же события есть несколько противоречащих друг другу версий, люди склонны принимать за истину нечто среднее между крайними точками зрения. В результате появления в информационном поле большого количества фейков достаточно, чтобы подлинные факты начали выглядеть сомнительно. То есть один достоверный материал против 20 публикаций, в которых информация искажена, обречен на провал просто по принципу среднего арифметического.

Масштабы проблемы впечатляют — количество недостоверной информации в сети растет в геометрической прогрессии, и традиционные методы верификации просто не успевают за этим потоком. Ситуацию усугубляет развитие технологий искусственного интеллекта: теперь для создания правдоподобной «утки» не нужны ни профессиональные навыки, ни серьезные вычислительные мощности — достаточно простого приложения. Генеративно-состязательные нейросети (GAN) уже сейчас способны штамповать фейковые тексты, изображения и видео, неотличимые от настоящих. Публикация подобных материалов также значительно упростилась.

По прогнозам аналитиков, к 2030 году до 90% всего онлайн-контента будет создавать искусственный интеллект. И львиную долю этого потока составят искаженные факты.

Касается каждого

Фейки бьют по каждому. Многие до сих пор считают, что проблема искаженной информации их не задевает, что фейки — это нечто из области большой политики и скандальных медиа, а простому человеку бояться нечего. Однако реальность опровергает эти заблуждения. Каждый из нас — потенциальная мишень для информационных манипуляций, и последствия могут быть самыми серьезными.

Сегодня каждый должен быть готов отделять факты от вымысла, правду от манипуляций. Это не паранойя и не просто досадное недоразумение, а прямая угроза благополучию, карьере и даже безопасности — цена заблуждений становится слишком высокой.

Взять хотя бы нашумевшую историю с базой данных World-Check, на основе которой банки и другие организации проверяют благонадежность клиентов и контрагентов. Наше недавнее исследование показало: 33% профилей в этой базе содержат грубые ошибки. Биография с актуальными сведениями есть лишь у 2% фигурантов World-Check. В остальных случаях — вырванные из контекста обрывки информации, непроверенные сведения, а то и откровенные фейки, которые создают совершенно искаженное представление о человеке. То есть в 98% случаев проверяющие опираются на устаревшие и недостоверные данные, найденные в интернете, — других источников информации у аналитиков World-Check нет.

Казалось бы, подобные системы должны быть оплотом объективности и надежности, ведь на основе их данных принимаются важнейшие решения, напрямую влияющие на жизнь людей — от открытия зарубежного счета и выдачи вида на жительство до заключения многомиллионной сделки. И те, кто оказался в базе, часто даже не догадываются, что стали жертвами искаженной информации, ведь о существовании таких черных списков широкой публике почти ничего не известно. Шансы оспорить несправедливое решение зачастую близки к нулю — система не предполагает уведомления фигурантов и тем более учета их позиции.

Масштабы проблемы искаженных фактов, фейков и ошибок ИИ ярко иллюстрирует кейс российских бизнесменов Петра Авена и Михаила Фридмана, которые в 2022 году попали под санкции Евросоюза на основании более чем сомнительных обвинений. Как выяснилось впоследствии, решение о включении бизнесменов в черный список принималось на основе неподтвержденной информации из открытых источников: публикаций в желтой прессе, анонимных блогов и даже постов интернет-ботов. Никакой серьезной доказательной базы у европейских чиновников попросту не было. По сути, судьбу людей и компаний вершат на основе информационного мусора из очень сомнительных интернет-ресурсов, за контентом которых никто не следит. Не исключено, что аналитики, составлявшие справки по Авену и Фридману, искренне считали написанное правдой.

Этот пример наглядно показывает, насколько легко ошибки ИИ и недостоверная информация из сомнительных источников могут привести к серьезным последствиям для людей и бизнеса. Даже непреднамеренная дезинформация способна нанести реальный финансовый и правовой ущерб. Причем риску подвергаются не только публичные фигуры вроде крупных бизнесменов, но и обычные граждане. Если подобное случается на столь высоком уровне, то можно только догадываться, насколько масштабна проблема в менее заметных рутинных ситуациях.

Эксперты опасаются, что человечество может потерять контроль над мощным ИИ, который к тому же способен самостоятельно генерировать дезинформацию. Если о человеке нет правдивых сведений в интернете, то ложь, сгенерированная ИИ, будет восприниматься как истина. Это создает порочный круг, подрывающий само понятие достоверной информации.

Фронт борьбы за реальность

Мировое сообщество осознало: мы все становимся заложниками нового информационного порядка, который часто называют «миром постправды». В этой реальности истина и ложь меняются местами с пугающей легкостью, а эмоции и личные убеждения значат больше, чем факты и доказательства.

Однако выход есть, просто он требует принципиально новых подходов. Чтобы не стать жертвой манипуляций, каждому из нас необходимо развивать критическое мышление, проверять факты, сопоставлять точки зрения. То, что раньше было уделом узких специалистов, теперь становится базовым навыком информационной выживаемости.

К сожалению, в текущих условиях лишь немногие люди и компании в полной мере осознают важность работы над цифровым профилем. Большинство по-прежнему живет с иллюзией, что «все, кому надо, и так про меня все знают». Они предпочитают не тратить время и силы на какие-то досье, считая свое деловое реноме безупречным. Однако эта иллюзия может быть разрушена в одночасье. Всего один фейк, недостоверный факт, попавший «не в те» базы данных, способен перечеркнуть годы безупречной работы и добросовестной службы.

В этой системе координат фейки и манипуляции станут не просто досадной помехой, а реальной угрозой для благополучия. Ведь каждый факт биографии, каждый эпизод жизни будет влиять на итоговый «рейтинг доверия», а значит, и на перспективы человека в социальной жизни и бизнесе.

Мнение редакции может не совпадать с точкой зрения автора