В мае городской совет Сан-Франциско запретил полиции и другим местным органам власти использовать технологию распознавания лиц. Власть приняла позицию правозащитников: технология может использоваться не только для поимки преступников, но и как инструмент тотальной слежки за гражданами.
Действительно ли система распознавания лиц представляет угрозу гражданским свободам? И станет ли этот запрет прецедентом для мировой общественности?
Спустя несколько дней после решения совета Сан-Франциско, 18 мая, в The New York Times вышел материал про то, как по всей Америке технология распознавания лиц помогает отправлять преступников за решетку.
В частности, подозреваемого в сексуальном нападении на 15-летнего подростка в Пенсильвании не могли вычислить около трех лет. Несмотря на то, что перед преступлением он сам отправил пострадавшему свое фото — пусть и нечеткое. Журналист сделал вывод, что без системы распознавания лиц у полиции не было шанса поймать преступника.
Что произошло в Сан-Франциско
США исторически позиционируют себя как оплот демократии, где сильно развиты гражданские права и свободы. Любое их притеснение остро воспринимается общественностью и правозащитниками.
Всего в США установлено порядка 50 млн камер видеонаблюдения. Это в 4 раза меньше, чем в Китае, и почти в 12 раз больше, чем в Великобритании. С помощью видеонаблюдения в США в 2010-2016 годах было арестовано более 2 800 преступников, а в 2018 полицейские продвинулись в раскрытии более 8 000 дел.
На данный момент в США нет федерального закона, регламентирующего применение технологии распознавания лиц. Правила обработки биометрических данных законодательно закреплены только в некоторых штатах. Например, в штате Иллинойс закон BIPA (Biometric Information Privacy Act) обязывает организации, которые собирают биометрические данные, информировать об этом граждан и в письменной форме объяснять, зачем это делается.
Калифорния стоит особняком в вопросе защиты биометрических данных. В 2018 году был принят закон CCPA (California Сonsumer Privacy Act). Согласно ему, с конца 2020 года все фотографии человека будут приравнены к биометрическим данным, то есть их будет запрещено использовать и обрабатывать без персонального согласия владельца. В первую очередь закон CCPA в нынешней редакции касается бизнеса, собирающего биометрические данные человека. Но закон еще может быть доработан и по отношению к госструктурам.
В начале 2019 года суд Калифорнии постановил, что полицейские не имеют права заставлять людей разблокировать телефон с помощью отпечатка пальца или функции распознавания лица. До этого полицейские имели на это формальные права.
Поэтому недавнее решение совета Сан-Франциско запретить использовать технологию распознавания лиц полицейским выглядит последовательным.
Парадокс происходящего заключается в том, что Сан-Франциско — колыбель мирового технологического прогресса, место, где технологии впервые появляются на свет, а затем находят применение во всем мире. И здесь же они сталкиваются с первыми запретами на использование.
Нужно ли обществу распознавание лиц
Сама технология face recognition способна приносить явную и ощутимую пользу: в начале года московские полицейские поймали похитителя картины из Третьяковки, в метро Шэньчжэня теперь можно оплатить проезд «лицом», а бизнес во всем мире научился предотвращать кражи и узнавать клиентов еще при входе в магазин.
Тем не менее, система распознавания лиц порождает конфликт двух общественных интересов.
Чувство безопасности. Система дает уверенность, что потенциальный преступник не уйдет от правосудия: его поиск становится эффективнее за счет распознавания лиц. Кроме того, информационные технологии позволяют в реальном времени фиксировать сам факт преступления — полиция Китая, например, умеет определять драку по характерным взмахам рук и ног;
Право на конфиденциальность и личное пространство. Для системы наблюдения изначально нет различий между преступником и законопослушным гражданином: за всеми наблюдают одинаково. Здесь простая аналогия: некоторых водителей удивляет и даже оскорбляет, когда их останавливают для проверки документов, — на их взгляд, останавливать должны «только нарушителей». Однако система не может выявить преступника без одинаковых условий для всех объектов. Предугадывать преступления до их совершения умели только в «Особом мнении» Филипа К. Дика.
Никто не против, чтобы видеонаблюдение велось в аэропортах или на социально значимых объектах — вся мировая общественность выступает за безопасность и борьбу с терроризмом.
Наиболее прогрессивные государства регламентируют работу систем распознавания лиц, не ущемляя прав граждан. Например, в Евросоюзе с 2018 года действует закон GDPR, защищающий все биометрические данные человека (в том числе фотографии) от использования и обработки в любых целях, за исключением оказания медицинской помощи или угрозы национальной безопасности.
Но система распознавания лиц в руках некоторых государств вызывает опасения. Всем знаком пример социального рейтинга в Китае. Со стороны (тем, кто никогда там не жил) кажется, что в Китае наступила эра киберпанка — человеческая культура демонстрирует упадок на фоне растущего технологического контроля со стороны властей.
Отчасти тому есть неоднозначные подтверждения. В начале мая была обнаружена открытая база данных жителей двух районов Пекина — она была собрана с помощью системы распознавания лиц. Однако удивительно в этой истории другое: база не была никак защищена. Китай тратит большие деньги на повсеместное внедрение системы распознавания лиц. Но есть ощущение, что эти деньги тратятся больше на устрашение, а не на контроль.
Что будет дальше
Запрет в Сан-Франциско может стать прецедентом для всей Америки. С марта 2019 в Сенате разрабатывается законопроект, который должен сформировать единые правила работы с биометрикой для бизнеса: фотографии будут приравнены к конфиденциальным данным, а их обработка будет запрещена без согласия человека. Законопроект уже поддержали несколько сенаторов и Microsoft.
В рынок технологий распознавания лиц вкладываются большие деньги. У частных и государственных инвесторов есть свой интерес. В 2017 году весь рынок распознавания лиц оценивался в $2,9 млрд, а к 2022 году он будет стоить уже более $9,6 млрд. В мае китайский разработчик системы распознавания лиц Face++ (компания Megvii — разработчик технологий ИИ) привлек $750 млн в преддверии IPO. Запреты и существенные ограничения могут негативно сказаться на бизнесе и технологическом развитии в целом.
Не стоит забывать, что инструментов слежки за гражданами у государств всегда хватало и без распознавания лиц. Отследить перемещения человека можно по банковской карте или сим-карте. Нельзя купить билет на поезд или самолет без паспорта. Более того, во многих крупнейших аэропортах мира перед вылетом нужно сдавать отпечатки пальцев — например, в Лос-Анджелесе, Лондоне, Мумбаи, Шэньчжэне.
Технологии могут использоваться и восприниматься по-разному. История показывает, что прогресс можно замедлить, но нельзя остановить. Технологии не стоит запрещать, однако можно и нужно регулировать прикладные аспекты их использования.