Между этикой и прогрессом: почему развитие технологий не всегда полезно для человека
Сегодня работодатели могут столкнуться с юридическими проблемами, если спросят кандидатов про их возраст, религию, национальность или сексуальные предпочтения. Зато они могут использовать социальные сети, чтобы отсеять неподходящих людей на основе их убеждений, взглядов и привычек.
Законодательство многих стран запрещает кредиторам осуществлять дискриминацию по признаку инвалидности, пола, политических взглядов и национальности. Тем не менее банки могут отказать в кредите тем, чьи друзья на Facebook имеют плохие платежные истории, или тем, чей профессиональный опыт, указанный в «Одноклассниках», не соответствует аналогичной информации в Facebook. А еще тем, кого специально разработанный алгоритм сочтет социально нежелательными.
Одна из причин этого заключается в том, что законы в разных странах не успевают за развитием технологий, и с каждым годом этот разрыв становится все более заметным. Сегодня эти проблемы касаются уже не только сфер трудоустройства и кредитования. Сегодня технологии развиваются экспоненциально и затрагивают каждого. Поэтому эффективные законы и этические стандарты должны стать руководящими принципами, существования общества, и для их изменения необходим общественный консенсус.
Масштабные изменения, которые раньше занимали столетия, теперь случаются раз в несколько лет. Не так давно был создан сайт для знакомств с соседями по студенческому общежитию Facebook, мобильные телефоны были доступны только состоятельным людям, дроны стоили миллионы и использовались для военных действий, а суперкомпьютеры применялись для секретных правительственных исследований. Сегодня любители могут сконструировать дроны самостоятельно, а у жителей бедных африканских деревень есть доступ к Facebook через смартфоны, обладающие большей вычислительной мощностью, чем Cray 2 — суперкомпьютер, который в 1985 году стоил $17,5 млн и весил 2500 килограммов. Полное исследование генома человека, которое стоило $100 млн в 2002 году, сегодня можно сделать за $1000. Возможно, через пару лет оно будет стоить как чашка кофе.
При этом единая этика цифрового мира до сих пор не сформирована. Первые законы о защите частной жизни начали появляться только в конце XIX века, когда газеты впервые начали публиковать личную информацию, а бостонский адвокат Сэмюэль Уоррен возражал против сплетен, опубликованных о его семье. Идея о том, что каждый человек имеет право быть оставленным в покое, так же, как и право на частную собственность, легла в основу законодательства о защите частной жизни. С тех пор пробелы в законодательстве о защите частной жизни восполняются в геометрической прогрессии. Все это привело к острой общественной дискуссии о том, как защитить персональные данные и сохранить баланс между сбором и аналитикой больших данных и тотальной слежкой.
«Принцип зеркала»
Этическая оценка инноваций — это комплексная задача. Пока философы размышляют над этим вопросом, корпорации каждый день вынуждены отвечать на него. Один из принципов, о котором я прошу всех задуматься и который применяю ежедневно для оценки этического влияния всех своих проектов — «принцип зеркала». Он заключается в том, чтобы развивать те технологии, которые могли бы пригодиться мне самому.
Если взглянуть на технологии и услуги в широком смысле, то станет очевидно, что некоторые инновации проходят проверку «принципом зеркала», в то время как другие способствуют злоупотреблениям в работе с персональными данными, усилению контроля над людьми и использованию данных для противоправных действий.
Когда аналитику больших данных используют при строительстве телекоммуникационной сети, чтобы обеспечить связью территории, где люди живут, работают или путешествуют, потенциально это сделает жизнь людей лучше. Когда из интернета отфильтровывается информационный мусор, чтобы показать пользователям только «полезный» контент, это помогает экономить время и делает жизнь проще.
Все вышеперечисленные примеры легко проходят тест на «принцип зеркала».
Гораздо сложнее обстоит дело с теми технологиями, которые делают возможными новые модели злоупотребления доступом к данным. Наглядный пример — интернет вещей со множеством сенсоров. Эта технология дает огромные потенциальные преимущества для эффективной работы транспорта, энергетических систем и обеспечения безопасности. Но почти любое действие в системе генерирует данные, которые могут быть систематизированы, изучены и монетизированы. И хотя этот процесс не приносит людям непосредственного вреда, то, как они будут впоследствии использованы, должно вызывать множество вопросов.
Вот почему именно сегодня перед нами стоят вопросы не только формирования этической базы для технологий, но и всеобщего их принятия и исполнения. Думаю, что одной из основ новой этики, которая сформируется в нашем обществе, станет предсказание последствий внедренных технологий и исполнение обязательств по их этичному применению. Когда и кем они будут приняты эти обязательства? Кто будет следить за их исполнением? Эти вопросы на какое-то время остаются открытыми.