Люди и алгоритмы: как «Авито» обеспечивает безопасность 70 млн пользователей

Кто стоит за безопасностью 

Четыре года назад в «Авито» появился департамент доверия и безопасности — Trust & Safety. К этому моменту в компании была уже развита модерация, но, как рассказывает Рыбинцев, одной ее не хватало. Чем крупнее площадка и чем больше на ней пользователей, тем выше вероятность, что она привлечет внимание нарушителей. 

«Нам важно, чтобы пользователи чувствовали себя защищено, доверяли друг другу и, в конечном итоге, доверяли сервису. Поэтому все технологии, которые мы создаем, так или иначе нацелены на повышение безопасности», — объясняет спикер. Этим направлением в компании сейчас занимаются сотни человек — это большие продуктовые и технические команды, инженеры, разработчики, дата-сайентисты. Кто-то работает непосредственно в департаменте Trust&Safety, кто-то в смежных командах. 

Департаменты «Авито», отвечающие за данные и безопасность, работают в «хитрой связке», рассказывает Салтанов: «На самом деле у нас одна кросс-функциональная команда. Мы опытным путем выяснили, что это самый эффективный подход. Чтобы не было такого, что одни придумали, другие задачу поставили, третьи что-то сделали и вышло не то, что нужно. Именно работа сообща позволяет добиться в кратчайшие сроки наилучших результатов».

Безопасность коммуникаций

Задача этой большой кросс-функциональной команды — создавать технологии и инструменты, которые помогают продавцам и покупателям на платформе чувствовать себя уверенно при совершении сделок. Особое внимание уделяется безопасности коммуникаций на платформе. Это неудивительно, ведь большая доля сделок здесь проходит по модели С2С ­— люди знакомятся, обсуждают условия сделки, договариваются о встрече или оформлении доставки. 

«Изначально нам было очень важно обеспечить безопасное общение людей, обеспечить им приватность, чтобы люди могли не бояться, что их телефон попадет в базу спамеров или что им отправят фишинговую ссылку, — рассказывает Салтанов. — Мы запустили с нуля мессенджер, запустили защиту номера, которая позволяет спрятать настоящий номер и выдать временный. Мы сделали свои звонки через приложение. Это все было сделано как раз для того, чтобы обеспечить безопасное общение. Эти продукты можно развивать и дальше, создавая совершенно новые бизнес-сценарии».

«Может показаться, что встроенный чат ­— это что-то базовое и простое. На самом деле, это не так, потому что в день в нем происходит больше шести миллионов диалогов, и мы должны знать, что там нет спама, что там не пытаются отправить какую-то опасную ссылку или обмануть. Наша автоматическая система следит за триггерами, и если обнаруживает их — сразу реагирует. Даже в такой, казалось бы, простой технологии под капотом работают алгоритмы», — добавляет Рыбинцев.

«Умные» технологии для защиты сделок

«Умные» алгоритмы работают не только в чате. Машинное обучение используется практически везде на платформе: в поиске, в модерации объявлений, проверке отзывов на предмет возможных накруток. Рыбинцев подчеркивает, что только в одной модерации задействованы сотни моделей машинного обучения, и их постоянно улучшают и дообучают.

«Например, у нас есть набор правил, которые надо соблюдать. Некоторые обусловлены законодательством, некоторые — нашими внутренними требованиями. Правил много, а объявлений еще больше. И у нас есть несколько сотен алгоритмов, которые проверяют каждое объявление на соответствие каждому правилу. Если система сомневается, она отправляет объявление на проверку человеку, эксперту ручной модерации. 99% сообщений проверяется автоматически, и только 1% вручную. При ручной проверке мы фиксируем информацию о действиях специалиста, обрабатываем и отправляем в систему для ее переобучения», — объясняет он. 

Сейчас технологии «Авито» позволяют вычислять уже на этапе попытки регистрации тех пользователей, которые ранее были заблокированы за нарушения правил. На площадке есть алгоритмы, которые связывают профили по особенностям поведения и другим невидимым признакам.  Если система заподозрит, что за профилем стоит нарушитель — она отправит его на дополнительную ручную проверку. 

Еще один способ повышения прозрачности сделок — развитие инструментов верификации, то есть проверки подлинности профиля. Проверку можно пройти с использованием документов, реквизитов компании, банковских ID или профиля на «Госуслугах». Прохождение проверок и получение специальных цифровых бейджей открывает также доступ к дополнительным функциям на площадке — расширенной статистике и аналитике, что помогает вести бизнес.

По данным «Авито», нарушителей правил платформы от общего числа пользователей — доли процента. Главная цель компании — создать для них такие условия, чтобы продолжать оставаться на платформе для них стало совсем невыгодно. Помимо инструментов защиты сделок «Авито» развивает репутационную систему, которая позволяет давать преимущества добросовестным продавцам, а еще много работает в области повышения цифровой грамотности интернет-пользователей. За четыре года работы департамента Trust&Safety жалобы на недопустимое поведение на платформе сократились почти в 100 раз, по словам спикеров.

Что касается будущего развития классифайда, герои интервью выделяют направление искусственного интеллекта и машинного обучения, в том числе генеративных моделей. Этими технологиями площадка пользуется давно, ключевые направления их применения сейчас — общение покупателей и продавцов и создание более востребованных объявлений. Также «Авито» подчеркивает, что сейчас все классифайды пытаются двигаться в сторону маркетплейсов — максимально «приземляя»  сделки на платформе. Еще один важный пункт — специализация. Каждое направление на площадке будет более конкретным в плане интерфейса и функций.