«Вы можете улыбаться и хлопать в ладоши, но уже завтра окажетесь в ГУЛАГе»: автор Sapiens напугал Давос
Израильский историк и философ Юваль Ной Харари в последние годы превратился в одного из самых влиятельных мыслителей мира. Его нон-фикшен-бестселлеры «Sapiens. Краткая история человечества» и «Homo Deus. Краткая история будущего» распроданы совокупным тиражом свыше 30 млн экземпляров, к его прогнозам прислушиваются ведущие визионеры Кремниевой долины, и даже разные редакции переводов его книг провоцируют глобальные общественно-политические скандалы. Неудивительно, что 43-летний футуролог стал одним из главных спикеров Международного экономического форума в Давосе в 2020 году. Несколько дней назад мы рассказывали об основных тезисах из дискуссии Харари с основателем Huawei Жэнем Чжэнфеем, а сегодня представляем краткий пересказ его мини-лекции на сессии, посвященной рискам и угрозам XXI века. Подробнее со многими из этих идей можно познакомиться в последней на данный момент книге израильтянина — «21 урок для XXI века».
- Подрывные технологии могут разрушить самую суть нашего общества множеством способов — от создания класса «бесполезных» людей из-за широкого внедрения искусственного интеллекта до неконтролируемой экспансии колониализма данных и цифровых диктатур.
- Автоматизация рабочих процессов уничтожит миллионы и миллионы рабочих мест. Неясно, насколько быстро люди научатся осваивать новые профессии. Да, технологии создадут достаточное количество альтернативных рабочих мест, но сможет ли, к примеру, 50-летний водитель грузовика, которого только что заменили беспилотной технологией, заново обрести себя в профессии разработчика программного обеспечения или учителя йоги? А ведь людям, вероятно, придется не единожды проходить такое вынужденное переобучение — революционный переход на алгоритмы искусственного интеллекта не произойдет в один момент, нас ждет каскад больших и очень больших перемен.
- В прошлом люди много и активно боролись против эксплуатации в разных ее формах. Но XXI век делает более актуальной другую борьбу — против собственной «бесполезности». Стать «бесполезным» сегодня гораздо опаснее, чем «эксплуатируемым». Из тех, кто не сможет победить в этой борьбе, сложится целый новый класс. Это будут бесполезные с точки зрения экономической и политической систем люди. И пропасть между ними и могущественной элитой будет только расти.
- Эта социальная дифференциация захватит не только классы, но и целые страны. В XIX веке мы уже наблюдали, как пионеры индустриальной революции Британия и Япония первыми внедрили новые технологии и тут же принялись захватывать мир и эксплуатировать другие народы. Если мы не усвоим эти уроки, история повторится и в XXI веке искусственный интеллект (ИИ) позволит передовым государствам — прежде всего Китаю и США — совершить скачок в развитии, грозящий всем остальным банкротством или превращением в цифровые колонии. Эффект от внедрения ИИ должен быть равномерно распределен по планете.
- Просто представьте себе, что случится с развивающимися экономиками, если текстиль или автомобили станет выгоднее производить в Калифорнии, а не, к примеру, в Мексике? А что будет с элитами ваших стран, если в Сан-Франциско или Пекине будут храниться все данные об истории их болезней и другая чувствительная персональная информация? Когда у вас достаточно данных, не нужно посылать никуда солдат — отстающие страны и без того вынужденно станут вашими сателлитами.
- Еще один риск неравномерного освоения технологий — появление цифровых диктатур, способных постоянно следить за всеми своими гражданами. Этот риск можно уместить в самое, вероятно, важное уравнение XXI века: B*C*D=AHH, где B — биологические знания, C — компьютерные вычисления, D — данные, а AHH — умение «хакнуть» каждого отдельного человека. Если у вас есть все аргументы для этой формулы, вы взломаете мое тело, мой мозг, мое сознание и поймете меня лучше, чем я сам.
- Система, основанная на формуле, сможет предсказывать чувства и решения человека, манипулировать ими и в конечном итоге решать за него. В прошлом о такой системе мечтали многие тираны, но ни у кого из них не было достаточно представлений о биологической природе человека, развитых технологий и массива данных, доступных сегодня. Мы больше не какие-то там загадочные души, мы животные, которых можно взломать.
- Да, вся эта информация может использоваться и во благо, например для создания эффективной системы здравоохранения. Но представьте себе попадание наших аргументов в руки условного нового Сталина — тогда всем нам грозит диктатура, невиданная доселе. А ведь претенденты на роль этого нового Сталина уже есть — давайте подумаем, какой будет та же Северная Корея через двадцать лет? На граждан там смогут надевать биометрические браслеты, замеряющие все данные, и когда человек будет слушать по радио речь верховного лидера, «большой брат» будет знать, что он думает о правителе на самом деле. Вы можете улыбаться и хлопать в ладоши, но если вы в этот момент злы, то уже завтра утром окажетесь в ГУЛАГе.
«Наш дом в огне-2»: о чем Грета Тунберг рассказала в Давосе
- Не думайте, что от подобных режимов можно скрыться в зажиточных укромных уголках вроде Давоса: не верите — спросите Джеффа Безоса. В том же сталинском режиме коммунистическая элита была под колпаком в первую очередь. Это справедливо и для цифровых диктатур будущего: чем выше иерархия, тем внимательнее за вами будут следить. Так что если вы получили подозрительное сообщение по WhatsApp от какого-то принца, не открывайте его!
- Люди все больше и больше будут доверять искусственному интеллекту, передавать свои знания и умения алгоритмам. В принципе уже сегодня миллиарды пользователей считают, что Facebook лучше них выстроит их собственную картину дня, Google подскажет, правдива ли та или иная информация, Netflix выберет фильм для просмотра, а Amazon и Alibaba посоветуют следующую покупку. Те же алгоритмы в недалеком будущем теоретически легко могут предсказать за человека, куда ему идти работать и с кем заводить брак, а компаниям и банкам — кого нанимать на работу и кому одалживать. И даже центробанки способны опираться на ИИ в расчете оптимальной ставки. Все это будет происходить только потому, что так решил компьютер.
- Человеческий мозг уже сегодня не может вместить в себя все те знания о биологии, всю ту вычислительную мощность и все те данные, что хранятся в компьютере. Все это ведет к тому, что однажды мы попросту перестанем понимать решения искусственного интеллекта. Даже в относительно свободных странах люди рискуют потерять контроль над собственной жизнью и государственным управлением. То, как работает финансовая система, уже сегодня понимает в лучшем случае 1% человечества. Через двадцать лет этот показатель может снизиться до нуля.
- В свете наступления искусственного интеллекта мы сталкиваемся с философским банкротством — у нас нет ресурсов и инструментов, чтобы осознать и объяснить происходящие перемены. Политические и бизнес-элиты посредством новых технологий могут создавать на Земле рай и ад по своему усмотрению. Но философы пока не могут концептуально осмыслить эти перспективы. В итоге в этом новом цифровом аду рискует оказаться все человечество.
- Подрывные технологии грозят и нашему биологическому устройству. В ближайшие десятилетия искусственный интеллект и биотехнологии способны дать нам богоподобные свойства, вплоть до искусственного создания новых людей, органической жизни, сформированной разумным замыслом. Армии, корпорации и государства могут использовать новые умения и для манипуляций — формировать у зависимых от них граждан особый набор свойств. Это будет раса лояльных дисциплинированных людей, не умеющих сострадать, быть творцами и духовно глубокими личностями.
- Все это не приговор, а лишь один из сценариев развития. ИИ и биотех позволят построить в XXI веке разные по устройству общества. Если вы боитесь каких-то из описанных мною угроз, в ваших силах повлиять на то, чтобы эти угрозы не реализовались. Но нам точно понадобится глобальная кооперация. Лидерам важно помнить, что ни одна страна в одиночку не справится с рисками вроде ядерной войны и климатической катастрофы. То же и с ИИ.
- Важно доверие — государства должны быть уверены, что сосед не поставит подножку и не разработает в одиночку смертоносную технологию. Потому что в противном случае не будет иметь значения, кто был первым, — проиграет все человечество.
- Сегодня власти отдельных стран должны понять, что противостояние между национализмом и глобализмом — искусственный конструкт прошлого. Такой коллизии нет в повестке, национализм — не про ненависть к иностранцам, а про любовь к согражданам. В XXI веке, чтобы защитить свою страну, вы должны кооперироваться с иностранцами. Всякий честный националист сегодня обязан быть глобалистом.
Браудер в Давосе поспорил с Орешкиным о будущем России
- Хороший пример такой кооперации — чемпионат мира по футболу. Это одновременно и соревнование между национальными сборными, и образ глобальной гармонии, в которой все соглашаются участвовать по одним и тем же правилам. Если вы любите чемпионаты мира, считайте, что вы уже глобалист. Осталось только перенести единые правила с футбола и на климатические угрозы, и на опасные технологии.
- Договориться будет непросто, но надо помнить, что человечество уже смогло перешагнуть закон джунглей, по которому жило и развивалось много веков. Согласно этому закону, нации не могли обходиться без регулярных конфликтов, а мир всякий раз воспринимался лишь как временное затишье между прошедшей и будущей войнами. Нынешний глобальный миропорядок, несмотря на все недостатки, позволил нам построить процветающую и эволюционирующую систему. Мир больше не значит «перемирие».
- Но не стоит успокаивать себя этими мыслями. Да, сегодня в мире больше людей кончают жизнь самоубийством, чем погибают на войнах, порох стал менее смертоносным порошком, чем сахар, а большинство стран (за редкими примечательными исключениями вроде России) не мечтают о захвате территорий соседей и больше тратят на образование и медицину, чем на оборону. Это больше не джунгли. Но и благополучие иллюзорно: страны забывают, насколько в реальности хрупко устройство мира, и недооценивают то, что мы имеем. Планета напоминает дом, жители которого просто спят в нем, но не ремонтируют. Он продержится еще сколько-то лет, но однажды, если мы ничего не изменим, рухнет. И мы вернемся в джунгли.
- Конечно, даже если человечество уничтожит само себя, это будет еще не конец света. Кто-то, вероятно, выживет. Возможно, крысы. Выживут и изобретут новую цивилизацию. И даже учтут наши ошибки. Но мне бы хотелось верить, что апокалиптический сценарий не сбудется и ответственность за решение проблем возьмут на себя лидеры, которые собираются здесь, в Давосе.