Основано на доверии: как ИИ меняет правила игры защиты пользователей

Технологии обмана

Согласно данным Positive Technologies, на конец III квартала 2024 года социальная инженерия по-прежнему оставалась самым распространенным методом атак как на организации (50%), так и на частные лица (92%). Эксперты ожидают, что в 2025 году будет больше фишинговых атак с применением ИИ, и социальная инженерия будет выходить на новый уровень.

Для повышения эффективности создаваемых сценариев злоумышленники могут использовать ИИ-технологии для подделки голоса или изображения, выдавая себя за доверенных лиц с целью получения выгоды. По данным исследования MTS AI и Б1, в 2024 году каждая пятая российская компания стала жертвой успешной атаки с использованием дипфейков.

По прогнозам компании F6 (раньше F.A.C.C.T.), в 2025 году роль ИИ в кибератаках будет увеличиваться, включая создание с его помощью более убедительных дипфейков и автоматизированного фишинга. Это подчеркивает необходимость усиления мер по созданию безопасной среды для пользователей на цифровых платформах со стороны бизнеса.

Обмани меня, если сможешь

В современном бизнесе, где цифровые технологии играют ключевую роль, осознание рисков, связанных со спуфингом (кибератаки, при которых злоумышленники осуществляют цифровую подмену личности доверенного лица или устройства) и дипфейками, становится критически важным. И более 90% представителей бизнеса осознают угрозы, которые эти технологии представляют для их компаний. В ответ на эти вызовы многие организации начинают внедрять системы искусственного интеллекта для защиты пользователей от потенциальных атак, основанных на методах социальной инженерии.

Ранее компании тратили много времени на ручной анализ жалоб пользователей для выявления новых видов обмана пользователей. Однако с появлением больших языковых моделей (LLM) этот процесс значительно упростился. Решения на основе генеративного ИИ способны быстро обрабатывать огромные объемы данных и предоставлять сводные отчеты о наиболее распространенных проблемах. Это, в свою очередь, позволяет бизнесу оперативно реагировать на возникающие угрозы и эффективно защищать своих пользователей.

Тем не менее существует проблема, которую невозможно решить только с помощью технологий генеративного ИИ: если пользователь добровольно передает свои личные данные или деньги злоумышленникам, остановить его крайне сложно. Поэтому компаниям необходимо анализировать поведение пользователей на своих платформах с помощью метода, известного как «скоринг сессии». Этот подход позволяет сравнивать текущее поведение пользователя с его предыдущими действиями, что помогает выявлять подозрительные паттерны и отслеживать изменения во взаимодействии с сервисом. Даже если каждая сессия уникальна, можно обнаружить общие действия нарушителей.

Возводить укрепления

Сегодня для защиты пользователей цифровых платформ также важна актуализация данных, то есть скорость их обновления, качество и полнота получаемой информации играют важную роль. Особенно это касается данных, получаемых извне, таких как скоринговые оценки по номерам телефонов. Быстрая реакция на изменения, например смену владельца номера, позволяет оперативно выявлять возможные попытки взлома учетной записи и предотвращать действия злоумышленников.

Кроме того, необходимо ограничивать распространение ресурсов, которые незаконно собирают персональные данные граждан, а также противодействовать решениям типа fraud as a service, которые упрощают жизнь злоумышленникам (например, автоматизированные парсеры контактов). Эти инструменты становятся основой для социальной инженерии.

Если говорить о ключевых направлениях для повышения безопасности пользователей, можно выделить несколько важных аспектов:

• Усложнение доступа для злоумышленников. Внедрение онлайн-платформами усовершенствованных инструментов для защиты пользователей значительно увеличивает стоимость создания новых профилей или кражи аккаунтов, что делает использование таких площадок более затратным и, как следствие, менее привлекательным для злоумышленников.

• Введение верификации пользователей через различные каналы. Использование сайта «Госуслуги», ID-банков и документов помогает предотвратить создание новых профилей после блокировки предыдущих.

• Замыкание коммуникаций внутри безопасного контура. Платформы стремятся оставить все общение в своем контуре, где работают ML-модели, анализирующие коммуникацию на предмет триггеров возможных злоупотреблений. Например, если модель фиксирует попытку перевода общения в сторонний мессенджер, пользователю будет выдана подсказка о потенциальной опасности такого общения.

• Формирование репутационной системы. Используя сложный набор метрик для оценки надежности пользователей и учитывая множество параметров (от скорости ответов на сообщения до точности описаний товаров), репутационная система выдает пользователю некоторый балл и рекомендации по улучшению поведения.

• Развитие инструментов безопасных сделок. Организация доставки, оплаты товаров и услуг или онлайн-бронирование через встроенные инструменты на платформах создает защищенную среду для транзакций.

• Обучение пользователей. Информирование пользователей о возможных рисках и проведение обучающих кампаний для повышения цифровой грамотности пользователей помогает создать более защищенную среду.

Бизнес внедряет эффективные меры защиты пользователей, что, в свою очередь, приводит к удорожанию теневых услуг поиска информации о гражданах России. Например, согласно данным аналитиков DLBI, в 2024 году стоимость незаконного доступа к информации о россиянах увеличилась в 2,5 раза и составила 44 300 рублей. Это значительно усложняет задачу злоумышленников по разработке новых схем обмана.

Таким образом, чем выше становится цена для злоумышленников за обман в интернете, тем больше усиливается уровень безопасности пользователей. Бизнесу крайне важно создать такие условия, при которых действия злоумышленников становятся экономически невыгодными. Это, в свою очередь, приведет к снижению числа преступных действий и уменьшению рисков для граждан. В результате пользователи смогут чувствовать себя более защищенными и уверенными в том, что их персональные данные и финансовые средства находятся под надежной охраной. Эффективная защита данных не только способствует укреплению доверия к онлайн-сервисам, но и создает более безопасную цифровую среду для всех участников.

Мнение редакции может не совпадать с точкой зрения автора