Крупнейший поставщик камер полиции в США отказался от функции распознавания лиц

«Мы думаем, что сейчас не следует монетизировать эту технологию до тех пор, пока не будут решены этические вопросы», — рассказал Forbes генеральный директор Axon Рик Смит.

«Проблемы точности и предвзятости, которые существуют сегодня, в будущем, вероятно, будут решены, и это породит новые препятствия, — говорит Смит. — Как только технология будет усовершенствована, нам придется работать с этическими ограничениями».

Угроза тотальной слежки

Смит говорит, что использование технологии полицией сейчас таит опасность массовой слежки за гражданами. Пока же Axon использует распознавание лиц при обработке записей с нательных камер для решения более простых задач.

«Предположим, случилась перестрелка с участием полиции и общественность требует опубликовать видеозапись, тогда полиции придется скрывать лица. В некоторых случаях нужно скрыть только часть лиц, но оставить все остальные, и в такой ситуации вам нужно, чтобы программа могла отличить «те самые лица».

Смит говорит, что такое использование технологии распознавания лиц в работе полиции может способствовать увеличению прозрачности правоохранительной системы, однако эта технология пока еще на стадии разработки.

Кто ограничит власти?

Axon (ранее был известен под названием Taser International — по названию своего первого электрошокера) тесно работает со своим советом по этике, который сотрудничает с представителями правозащитных организаций, включая Американский союз защиты гражданских свобод (ACLU), говорит Смит. Принятое решение основывается на 42-страничном отчете Совета по этике искусственного интеллекта и полицейских технологий Axon, который компания создала в прошлом году.

ACLU одобрил решение Axon отложить внедрение технологии распознавания лиц в официальном заявлении, содержащем отсылки к закону о требованиях к нательным камерам, который запрещает использование функции распознавания лиц и других биометрических систем наблюдения в нательных камерах правоохранительных органов. Законопроект был принят в Калифорнии в мае и одобрен Сенатом в июне.

Смит говорит, что этот законодательный акт выглядит как шаг в правильном направлении, однако важно, чтобы и компании задумывались о последствиях использования своих технологий.

«Это [решение] не было принято из-за требований закона, — говорит Смит. — Мы понимаем, что такое саморегулирование может привести к более качественному законодательству в долгосрочной перспективе. Если бы компания начала продавать нательные камеры с распознаванием лиц просто потому, что у нас есть такая возможность, при всех существующих сегодня этических проблемах это привело бы к быстрому принятию новых законов, которые позднее оказались бы контрпродуктивными».

А что конкуренты?

Впрочем, конкуренты пока готовы продавать технологию правоохранительным органам. В мае акционеры Amazon проголосовали против того, чтобы запретить компании продавать правительству программу Rekognition, в которой, как было доказано, заложены предубеждения в отношении гендера и расы.

Член совета по этике Axon Барри Фридман не считает, что решение компании нанесет ущерб ее финансовым показателям. «Я не думаю, что, если отрасль поступит должным образом, прибыль корпораций сократится», — заявил Forbes Фридман, который также руководит проектом по исследованию работы полиции в Университете Нью-Йорка. «Просто то, что мы изобрели технологию, не означает, что мы должны завтра же начать ее применять», — добавил он.

Выручка Axon в первом квартале 2019 года выросла на 14% по сравнению с прошлым годом и достигла $116 млн, причем $50 млн были получены от продажи нательных камер. В 1990-х годах компания стала лидером рынка электрошокеров и начала разрабатывать более продвинутые инструменты вроде программы Redaction Studio, которая с помощью искусственного интеллекта находит и замазывает лица в видеозаписях, используемых полицией. В некоторых случаях сокрытие лиц позволяет опубликовать записи, что используется для повышения прозрачности работы полиции.

«Это тот случай, когда некоторых клиентов может сманить конкурент, который в отличие от нас предлагает [функцию распознавания лиц], но мы думаем, что правильные решения укрепляют бизнес», — уверен Смит.