В ожидании виртуальных богов. Какое будущее предсказывает «самый точный прогнозист искусственного интеллекта»

Если и существует одно-единственное слово, суммирующее все мечты и желания восходящей элиты, так это сингулярность — одновременно предсказание, программа и свод доктрин. Как предсказание сингулярность описывает тот лучезарный момент, когда возможности технологий преодолеют рамки физики и сознания, как мы их мыслим сегодня. Технологический прогресс внутри военных лабораторий, частных исследовательских центров и хакерских домов будет ускоряться до тех пор, пока чистая энергия инноваций не высечет долгожданную искру — и в ту же секунду человечество физически и метафизически сольется с компьютерами воедино. Как только исчезнут различия между человеком и машиной, материя пробудится и наступит новая эра — эра бестелесного коллективного разума, что был некогда Homo sapiens, а теперь объединит всю Вселенную в вечном экстазе. Во всяком случае, на бумаге так оно все и выглядит. Сингулярность стала одной из самых популярных тем трансгуманизма — эклектичного набора теорий, согласно которым человеческий вид, конвертируя мощности мозга во все более совершенные формы технологий, однажды вырвет контроль над собственной эволюцией у природы и просто решит, как ему дальше быть и взаимодействовать со Вселенной. В отличие от трансгуманистических фракций, одержимых биологией и генетикой, сингулярность считает компьютеры — в особенности создание передового искусственного интеллекта — катализатором якобы неизбежной и преднамеренной трансформации человеческого вида.

Теснее всего с этой концепцией связан писатель, изобретатель и техуправленец Рэй Курцвейл. Сегодня он известен преимущественно как проповедник оторванных от жизни идей (и сингулярность — только одна из них), но его ранние высказывания на этом фоне кажутся верхом осмотрительности. В своей речи на конференции 1984 года он сетовал на чрезмерно оптимистичные прогнозы теоретиков ИИ, которые то и дело твердили, что святая святых их отрасли, «универсальный искусственный интеллект» — компьютерный разум, эквивалентный человеческому по возможностям, если не по устройству, — был вопросом ближайшего десятилетия или двух, снова и снова садясь в лужу. Их романтизм, по его словам, привел к «кризису доверия», преследовавшему теперь все поле исследований ИИ.

В 1990 году MIT Press издало первую книгу Курцвейла «Эпоха мыслящих машин», содержащую прогнозы двадцати экспертов. Сам автор, демонстрируя прежнюю сдержанность, ограничился экстраполяциями, основанными на уже разрабатываемых технологиях — например, портативных беспроводных компьютерах. Но на заре нового тысячелетия Курцвейл переосмыслил себя как технопрорицателя. С выходом в 1999 году сиквела «Эпоха духовных машин» он стал ведущим поставщиком технологического романтизма, который когда-то ругал. Он верно предсказал, что в 2009 году «будут пользоваться в основном портативными компьютерами, значительно более легкими и тонкими». Провидческий дар не так впечатлял, если вы знали (как знал Курцвейл), что исследования и разработки в этой области на момент написания книги шли полным ходом. Его более основательные прогнозы на 2019 год не оправдались: «Стремительный экономический рост и процветание [sic] продолжатся». К 2099 году, полагал футуролог, «основанные на программном коде люди», оставив докибернетических предков далеко позади, будут принимать разные ипостаси по собственному желанию — этакие виртуальные боги. После книги «Сингулярность уже близко» 2005 года на Курцвейла снизошла наконец слава главного гуру эзотерического техномистицизма. Никто отныне не смел сказать, что разработка ИИ зашла в тупик. Совсем скоро, предвещал Курцвейл, компьютеры будут мыслить как люди. Более того, после сингулярности не останется никаких различий между человеком и машиной, между физической и виртуальной реальностью... В конечном итоге вся Вселенная впитает наш разум. Такова ее судьба.

Что стряслось с прежним, осмотрительным Курцвейлом? Циники решили, что он снизошел до гипербол ради новостных заголовков и хороших продаж. И правда, «Сингулярность уже близко» стала бестселлером по версии New York Times и разошлась 250-тысячным тиражом за 10 лет. Особенно горячо книгу приняли в Кремниевой долине. Основатель Wired Кевин Келли назвал ее «эпохальным документом», предвестником «рождения утопии». На суперобложке красовался отзыв Билла Гейтса:

«Я не знаю никого, кто предсказывал бы будущее искусственного интеллекта точнее Курцвейла».

Другие рассматривали его преображение под иным углом. «Он гений. Один из главных торгашей современности», — заявил биолог и блогер Пол Захари Майерс. Курцвейл утверждал, что если его критики в академических и других кругах не способны увидеть надвигающуюся сингулярность, как увидел ее он, то лишь потому, что безнадежно отстали от жизни. «Ученых учат быть скептичными, высказываться осторожно», — писал он. Но экспоненциальный темп развития инноваций по Курцвейлу означал, что скептицизм и осторожность теперь угрожают «интересам общества».

«Интересы общества» для него заключались в том, чтобы ускорить наступление сингулярности — то есть обеспечить американские корпорации всеми необходимыми ресурсами и подогнать под них все существующие законы. Неудивительно, что Курцвейл со своей теорией завоевал столько поклонников среди руководителей крупнейших техкомпаний — Гейтс не был исключением. С точки зрения пиара безудержный и якобы научно обоснованный оптимизм, с которым он расписывал дивное цифровое будущее, был настоящей находкой для Кремниевой долины. В декабре 2012 года стало известно, что Курцвейл устроился в Google. Это привлекло мое внимание.

Почему господствующая мировая корпорация оказывала такое доверие чудаковатому техномистику? Какие у нее планы на него? Последние патентные заявки Курцвейла — «заменяющий пищу напиток», подслащенный яичным белком, шумоподавляющий «снотворный» шлем и «поэтический скринсейвер» — намекали, что его лучшие годы как изобретателя позади. И все же он получил должность технического директора, что звучало весьма солидно. Я читал, что основатели Google Ларри Пейдж и Сергей Брин были его поклонниками еще со студенческих лет в Стэнфорде. Пейдж пригласил Курцвейла в компанию, услышав синопсис его последней на тот момент книги «Эволюция разума» об искусственном интеллекте. Столь выдающееся предложение свидетельствовало не только о глубокой уверенности в компетентности нанимаемого, но и согласии с его взглядами.

Это поднимало следующие вопросы. О чем говорило то, что лидеры корпорации, наделенной большей властью, чем многие правительства, готовы молчаливо поддерживать то, что Курцвейл называл сингулярианством? Неужели эти знаковые и могущественные техмагнаты верили в пророчество о том, что человеческая эволюция кончится неотвратимым слиянием с машиной, а наши биологические индивидуальности будут принесены в жертву бессмертному коллективному разуму?

Возможно ли это вообще? Если сингулярианство имело основания, то восхождение в Google Курцвейла однажды предстанет решающим моментом в истории, сравнимым с обращением императора Константина в христианство. Но даже если сингулярность была лишь чокнутой мечтой, наваждением великовозрастных фанатов научной фантастики, которым посчастливилось разбогатеть, то у меня все равно оставались вопросы. Перво-наперво, у кого можно разжиться тем, что эти парни курили?