Станут ли роботы Терминаторами: физики и лирики против прагматиков
Письмо против бесконтрольного использования A. I. (artificial intelligence) — искусственного разума — в военных целях, подписанное более чем тысячей ученых мира, компьютерных бизнесменов и экспертов в области новых технологий (Стивен Хокинг, Илон Маск, Стив Возняк, Ноам Хомский и др.), породило едкие комментарии прагматиков. Мол, ненатуральному интеллекту далеко до принятия собственных решений.
Письмо, напомню, появилось на фоне громкого научного эксперимента, доказавшего, что уже сейчас примитивный искусственный разум способен к самостоятельному мышлению. Тем не менее нас заверяют, что беспокоиться человечеству не о чем, в реальной жизни Терминаторы не появятся, — читайте опубликованный на Forbes комментарий консультанта ПИР-Центра Олега Демидова. Он доказывает, что боевые роботы еще долго не будут обладать высокоразвитым интеллектом, способным выйти из-под контроля. Подлинные угрозы, по Олегу Демидову, это компьютерные сбои и атаки хакеров.
По мне, компьютерные сбои и атаки — сами по себе достаточный повод для запрета роботов в военной отрасли. Но спорить с профессионалом не буду. Меня занимает иной парадокс. Что бы сделал Стивен Хогинг, если бы ему предложили подписать письмо против бесконтрольного использования и развития A. I. всего-то лет десять назад? Полагаю, он заявил бы примерно следующее: «Если бы я мог, то покрутил бы пальцем у виска». Ведь бояться искусственного разума еще недавно могли лишь психопаты-лирики, опасающиеся даже собственной тени.
Но уже сегодня впервые в истории современной науки, истории новых технологий и современного бизнеса, впервые в истории человечества ученые приняли позицию дилетантов-поэтов: писателей, режиссеров, которые давно предрекали, что развитие искусственного разума грозит человечеству.
Причем позицию не только серьезных писателей и режиссеров, но и создателей массовой культуры. Ведь «Терминаторы» — это безусловно масскульт, хотя первые два фильма 1984 и 1991 годов сделал талантливый Джеймс Кэмерон. Массовая культура, к которой принято относиться свысока, оказалась — по отношению к будущему человечества — более провидческой, нежели наука. Что наука теперь признала сама — спустя лет тридцать.
Если говорить о кино, наиболее важными для формирования той идеологии опасений перед A. I., которой в итоге заразились «физики», подписавшие письмо вместе с Хокингом, представляются три фильма. Первый, разумеется, «2001: Космическая Одиссея» Стенли Кубрика, сделанный еще в 1968 году по сценарию, написанному режиссером вместе с Артуром Кларком. Там человечество отправляется на встречу с иноземным интеллектом. И компьютерный разум, управляющий кораблем, приходит к выводу, что более достойно представит человечество, нежели те примитивные астронавты, что находятся на его борту. Следовательно, людей надо уничтожить.
На втором месте в этом списке — два первых «Терминатора», утверждающих, что искусственный разум взял в будущем власть в свои руки и ведет войну на полное уничтожение остатков человечества.
Третий — недооцененный и даже не увиденный многими триллер Алекса Пройаса «Я — робот» (сделанный по мотивам сочинений фантаста Айзека Азимова), вышедший в 2004 году. Там действие происходит в 2035-м и детектив, которого играет Уилл Смит, расследует убийство знаменитого ученого, «папы» роботов нового поколения, по всем признакам, совершенное роботом. В подозреваемых оказывается робот по имени Санни. В отличие от своих бездушных собратьев, Санни испытывает эмоции, видит сны, способен лукавить. Это фактически человек, но не просто, а с приставкой «сверх-».
На фоне детективного расследования развиваются две коллизии:
1) Сверхмозг — суперкомпьютер будущего, — которому доверено защищать человечество от всех неприятностей, в какой-то момент при помощи подчиненных ему роботов фактически решает загнать людей в тюрьму. Почему? Именно потому, что в него заложена программа защиты человечества. А что есть главная угроза человечеству? Само агрессивное и глупое человечество. С его войнами, экологическим саморазрушением и пр. Вот сверхмозг приходит к выводу, что человечество надо спасать от него самого и единственная возможность защитить — взять его под тотальный контроль. Если говорить о военных роботах, против которых выступили сейчас Хокинг и др., то эта тема уже сейчас актуальна. Военные роботы, всякие там дроны с боевой начинкой, запрограмированные на защиту человечества, ради этой защиты способны уничтожить кого угодно;
2) Сверхмозг побежден, контролируемые им роботы покорно бредут под конвоем в собственные тюрьмы — попросту на склады. И тут на возвышенности перед ними появляется свободный робот, уже упомянутый Санни (который в фильме, похоже, и замыслил всю сложную интригу и только притворялся нашим слугой) — и роботы поднимают головы. Они видят своего Мессию. В их затуманенных командами, еще секунду назад подконтрольных железных мозгах явно начинают зарождаться первые несанкционированные мысли. Пробуждается самосознание.
Вы скажете: ерунда полная. Отвечу: нет. Бояться искусственного разума — логично. Дело даже не в том, что любая компьютерная программа может дать сбой или ее могут сбить с толку хакеры. Дело в том, что мы сейчас наблюдаем малое дитя, которому предстоит взрослеть и развиваться. И если уже сегодня, на самом первом этапе нашей с ним совместной жизни, это дитя способно сильно нас озадачивать (пусть и благодаря заложенным в него программам) и даже болеть, подхватывая и передавая вирусы, и уже обыгрывает в шахматы чемпиона мира, то отчего не предположить, что со временем оно обретет способность к саморазвитию и создаст свою идеологию, свою религию, только до поры прикидываясь, будто навечно смирилось с уготованной ему обслуживающей ролью? От обезьян к нам, от нас – к искусственному разуму.
Но бог с ними, с роботами. Обратим внимание на другую важную вещь.
Письмо Стивена Хокинга и др. об опасности искусственного интеллекта, похоже, положило конец одному из самых давних и принципиальных споров в послевоенной истории XX века. А именно: кто значимее для судьбы человечества — физики или лирики?
В СССР были уверены, будто этот спор — наш фирменный, истинно человеческий, социалистический. Начало ему положило опубликованное в «Комсомольской правде», кажется, 1959 года письмо инженера Полетаева, который написал, что наше время — для рациональных людей, не всяких там мечтателей-поэтов, а для тех, кто дело делает. Ему страстно возразил Илья Эренбург. Дискуссия перекатилась в переполненные молодежью залы. Оттепель была, однако.
На Западе, между тем, дискуссия возникла раньше. Еще в 1957-м знаменитый швейцарский писатель Макс Фриш опубликовал роман «Homo Faber», по которому в 1991-м не менее знаменитый немецкий режиссер Фолькер Шлёндорф сделал фильм «Странник». Эта трагическая история человека, который, не зная того, становится любовником собственной дочери, глубоко концептуальна. Естественно, Фриш был на стороне «лириков» — и жестоко потрепал в своем романе «физика». Судьба, то бишь правящая миром иррациональность, наказывает в его романе не случайного человека, а мутанта с новым типом мышления — строгого, научно-технического. Наказывает идеолога рациональности, ни признающего ни Бога, ни искусство. По теории вероятности он никак не мог на просторах мира – а он по служебным обязанностям перелетает из страны в страну и с континента на континент – натолкнуться на собственную дочь от какой-то связи черт его знает когда и где. Но судьба эту дочь ему мстительно подсовывает.Так и с роботами. Ну никак они не должны стать Терминаторами, уверяют нас сегодняшние, все рассчитавшие рационалисты. А ведь кто его знает.
Письмо Хокинга об опасности искусственного разума — удивительнейшее признание физиков не только в том, что лирики в данном вопросе оказались прозорливее. Это еще и констатация факта, что лирики для мира важнее. Они точнее предсказывают его перспективы и угрозы.
Наконец-то подведен итог дискуссии: рацио или интуиция? Интуиция. Теперь физики и лирики — по одну сторону баррикады против совсем уже закостенелых прагматиков. Будь ты поэт, будь ты ученый — не проворонь мир облученный.