Квантовая копия личности: будем ли мы вживлять микрочипы в мозг ради бессмертия
Философ и специалист по когнитивной психологии Сьюзан Шнайдер в колонке для Financial Times писала, что объединение человеческого мозга с искусственным интеллектом (ИИ) — как в разрабатываемых компанией Илона Маска Neurolink нейроинтерфейсах — может стать «самоубийством для человеческого разума». Парадокс в том, размышляет она в этой колонке, что такие разработки призваны в том числе помочь человеку достичь бессмертия своего разума.
Шнайдер довольно критично настроена по отношению к проекту Маска — после публикации видео с обезьяной, играющей в компьютерную игру с помощью вживленного чипа, она выступила с предостережениями об угрозах, которые несет эта технология: «Хотя потенциальные терапевтические возможности нейрочипов впечатляют, меня беспокоит их вероятное широкое распространение в будущем. Без соответствующего регулирования ваши мысли и биометрические данные могут быть проданы тем, кто предложит больше денег, люди могут оказаться вынуждены пользоваться нейрочипами, чтобы сохранить работу в будущем, в котором искусственный интеллект превзойдет нас в работе».
AI (искусственный интеллект) и его возможности и перспективы — главный предмет научного интереса Сьюзан Шнайдер и ключевая тема ее новой книги «Искусственный ты: машинный интеллект и будущее нашего разума». В ней она исследует различные теории в области ИИ и человеческого сознания и размышляет об этических, философских и научных последствиях массового распространения таких технологий. На русском языке книга выйдет в декабре в издательстве «Альпина нон-фикшн». Forbes публикует отрывок.
Во что верят технооптимисты
Технооптимизм в отношении машинного сознания (или просто технооптимизм) — это уверенность в том, что, если человечество создаст развитый универсальный ИИ, то оснащенные им машины будут обладать сознанием. Мало того, они, возможно, будут вести более сложную и богатую оттенками ментальную жизнь, чем люди. В настоящее время технооптимизм пользуется довольно большой популярностью, особенно среди трансгуманистов, части ИИ-специалистов и научных средств массовой информации. Но на мой взгляд технооптимизму, как и биологическому натурализму, недостает теоретической поддержки. Хотя может показаться, что он имеет в своей основе определенные представления о разуме из области когнитивистики, на самом деле это не так.
Технооптимизм действительно вдохновляется когнитивистикой — междисциплинарной областью знания, изучающей мозг. Чем больше данных о мозге получают специалисты по когнитивистике, тем больше кажется, что с практической точки зрения мозг лучше всего представлять как процессор для обработки информации, и что все мыслительные функции имеют вычислительный характер. Вычислительная теория разума стала в когнитивистике чем-то вроде исследовательской парадигмы. Это не означает, что мозг имеет архитектуру стандартного компьютера. Более того, конкретный вычислительный формат мозга служит темой бесконечных споров.
Сторонники вычислительной теории разума с их упором на формальное алгоритмическое описание ментальных функций склонны признавать возможность машинного сознания. Эту теорию можно сформулировать следующим образом:
- Вычислительная теория сознания: сознание можно объяснить с вычислительной позиции; более того, именно вычислительные характеристики системы определяют природу ее осознанных переживаний и то, имеет ли она их.
Представьте, как дельфин скользит в воде в поисках пищи. Если верить сторонникам вычислительной теории, то именно внутренние вычислительные состояния дельфина определяют характер его осознанных переживаний, таких как ощущение скольжения тела в воде и вкус добычи. Вычислительная теория сознания гласит, что если какая-то другая система S (с искусственным мозгом) обладает в точности такой же вычислительной конфигурацией и состояниями, включая сигналы, поступающие в ее сенсорный аппарат, то она должна обладать сознанием так же, как сам дельфин.
Чтобы это произошло, ИИ должен в сходных обстоятельствах демонстрировать те же модели поведения, что и дельфин. Более того, он должен иметь те же внутренне связанные психологические состояния, что и дельфин, включая чувственные переживания. Назовем систему, в точности отражающую, таким образом, организацию некоторой обладающей сознанием системы, точным изоморфом (или просто изоморфом). Если ИИ обладает всеми перечисленными качествами дельфина, то в соответствии с вычислительной теорией он должен обладать сознанием. В самом деле, у этого ИИ будут наблюдаться все те же состояния сознания, что и у оригинальной системы.
Все это хорошо и замечательно, однако не оправдывает технооптимизм в отношении искусственного сознания. Вычислительная теория сознания на удивление мало может сказать о том, будет ли ИИ, который мы, вероятнее всего, создадим, обладать сознанием — она утверждает лишь, что если нам удастся построить изоморф биологического мозга, то он будет обладать сознанием. Она ничего не говорит о системах, которые не являются изоморфами биологического мозга.
В сущности, вычислительная теория сознания сводится к принципиальному признанию возможности машинного сознания: если бы мы могли создать точный изоморф, он обладал бы сознанием. Но даже если такая технология в принципе реализуема, это не означает, что она действительно будет когда-нибудь реализована. Например, космический корабль, проходящий сквозь кротовую нору, может выглядеть концептуально возможным (хотя это в настоящее время является предметом споров), но, однако, нельзя исключать, что его реальное создание несовместимо с законами физики. Например, не существует способа получения достаточного количества той экзотической разновидности энергии, что требуется для стабилизации кротовой норы. Или законы природы это допускают, но земляне никогда не достигнут необходимого уровня технического развития.
Хотя дискуссии на тему более широкой, концептуальной возможности искусственного сознания весьма ценны, я всегда подчеркиваю, что с практической точки зрения очень важно определить, сможет ли ИИ, который мы со временем создадим, обрести сознание. Так что у меня особый интерес к технической возможности машинного сознания и к тому, будут ли предприняты попытки его создать. Чтобы разобраться в этих категориях возможности, рассмотрим популярную разновидность мысленного эксперимента, в котором речь идет о создании изоморфа. Вы, читатель, будете субъектом этого эксперимента. Предлагаемая процедура оставляет все ваши мыслительные функции нетронутыми, но все же представляет собой усовершенствование, поскольку переносит эти функции на иной, более долговечный субстрат. Начнем.
Омоложение мозга
Наступил 2060 год. Вы все еще бодры и в здравом рассудке, но принимаете решение пройти процедуру профилактического омоложения мозга. Друзья советуют вам воспользоваться услугами Mindsculpt — компании, которая в течение часа заменяет части мозга соответствующими микрочипами, пока в конечном итоге мозг не становится полностью искусственным. Сидя в приемной в ожидании консультации хирурга, вы нервничаете. Не каждый день человек принимает решение заменить свой мозг микрочипами. Когда подходит ваша очередь для беседы с врачом, вы спрашиваете: «Останусь ли я при этом самим собой?»
Врач уверенно объясняет, что сознание определяется функциональной организацией мозга, т.е. абстрактным паттерном причинно-следственных взаимодействий между частями вашего мозга. Она говорит, что новые технологии сканирования и визуализации мозга позволяют получить вашу персонализированную карту разума: схему каузальных механизмов, т.е. полное описание того, как ваши ментальные состояния причинно-следственно взаимодействуют друг с другом всеми возможными способами, определяющими, какие эмоции вы испытываете, какие модели поведения выбираете, что воспринимаете и т.д. Похоже, врач и сама восхищается прецизионностью новых технологий. Наконец, взглянув на часы, она подводит итог: «Таким образом, хотя ваш мозг будет заменен микросхемами, карта разума не изменится».
Объяснение врача успокоило и ободрило вас, так что вы записываетесь на хирургическую процедуру. Во время операции врач просит вас не засыпать и отвечать на вопросы. Затем она начинает удалять группы нейронов, заменяя их искусственными нейронами на основе кремния. Первой изменению подвергается слуховая зона коры. Работая над ней, доктор время от времени спрашивает, не замечаете ли вы каких-нибудь изменений в звучании ее голоса. Вы отвечаете отрицательно, и она, закончив, переходит к зрительной зоне коры. Вы говорите, что ваше зрительное восприятие, кажется, не изменилось, так что она двигается дальше. Не успеваете вы и опомниться, как хирургическая операция подходит к концу. «Поздравляю! — восклицает врач. — Вы теперь своего рода ИИ. У вас искусственный мозг, скопированный с биологического оригинала. В медицинских кругах таких, как вы, называют изоморфами».
Что это все значит?
Цель философских мысленных экспериментов — подстегнуть воображение; вы вольны соглашаться или не соглашаться с развязкой сюжета. В данном случае говорится, что операция прошла успешно. Но как бы вы себя чувствовали после такой операции на самом деле — точно так же, как прежде, или в чем-то иначе? Вашей первой реакцией, возможно, будет вопрос, действительно ли то, что получилось, — это настоящий вы, а не какой-нибудь дубль.
Пока же будем считать, что человек после операции — это по-прежнему вы, и сосредоточимся на том, изменится ли при этом в нашем восприятии ощущаемое качество сознания. В книге «Сознающий ум» философ Дэвид Чалмерс, обсуждая аналогичные ситуации, настаивает, что ваши переживания должны остаться неизменными, поскольку альтернативные гипотезы попросту слишком притянуты за уши. В соответствии с одной из таких гипотез ваше сознание будет постепенно гаснуть по мере замены нейронов микрочипами, примерно как гаснет звук музыкального проигрывателя, когда вы плавно поворачиваете ручку громкости. В какой-то момент, в точности как звучание песни, ваше сознание просто исчезнет. Еще одна гипотеза предполагает, что до какого-то момента ваше сознание будет оставаться неизменным, а потом резко «выключится». В обоих случаях конечный результат один и тот же — свет гаснет.
Оба этих сценария и Чалмерсу, и мне представляются маловероятными. Если искусственные нейроны действительно представляют собой точные функциональные копии, как предполагает наш мысленный эксперимент, то трудно понять, почему они должны вызвать плавное угасание или резкие сдвиги в качестве вашего сознания. Такие дуплицированные искусственные нейроны по определению обладают всеми причинно-следственными свойствами, принципиально важными для вашей ментальной жизни.
Итак, кажется правдоподобным, что такая процедура, будь она проведена, привела бы к появлению ИИ, обладающего сознанием. Этот мысленный эксперимент может служить аргументом в пользу того, что синтетическое сознание возможно, по крайней мере концептуально. Но концептуальная возможность, следующая из подобного мысленного эксперимента, не гарантирует, что в случае создания продвинутого ИИ тот будет обладать сознанием.
Важно задаться вопросом, возможна ли в принципе ситуация, описанная в мысленном эксперименте? Не противоречит ли создание изоморфа законам природы? И если не противоречит, то достигнет ли когда-нибудь человечество технического уровня, достаточного для его создания? Да и захочет ли этим заниматься?
Говоря о том, возможны ли события, описанные мысленным экспериментом, отметим, что мы в настоящее время не знаем, способны ли другие материалы воспроизвести ощущаемое качество ментальной жизни. Возможно, мы узнаем это довольно скоро, когда врачи начнут использовать медицинские импланты на основе ИИ в тех частях мозга, которые отвечают за осознанные переживания.
Одна из причин, по которым это может оказаться неосуществимым, состоит в том, что осознанные переживания, возможно, зависят от квантово-механических свойств мозга. Если это так, то наука никогда не получит той информации о мозге, которая необходима для создания истинной квантовой копии вашей личности, — ведь квантовые ограничения, касающиеся измерения частиц, не позволят нам узнать точные свойства мозга, требующиеся для создания настоящего изоморфа.
Но давайте для целей нашего разговора считать, что создание изоморфов возможно. Будут ли люди их создавать? Я сомневаюсь в этом: превращение человека в обладающий сознанием ИИ путем последовательного совершенствования потребовало бы намного большего, чем изготовления нескольких нейронных протезов. Разработка изоморфа требует научных прорывов такого масштаба, который позволил бы заменить все части мозга искусственными компонентами.
Более того, развитие медицины в ближайшие десятилетия вряд ли приведет к появлению мозговых имплантов, точно воспроизводящих вычислительные функции групп нейронов, а наш мысленный эксперимент требует, чтобы все части мозга были заменены их точными копиями. К тому времени, когда эта технология будет разработана, люди, скорее всего, предпочтут расширять свои возможности, а не становиться изоморфами своего прежнего «я».
Даже если бы люди ограничились копированием способностей вместо того, чтобы совершенствовать их, то как бы нейробиологи подошли к этой задаче? В первую очередь исследователям потребовалось бы полное описание работы мозга. Как мы уже видели, программисты должны распознать все абстрактные, причинно-следственные черты, которые влияют на обработку информации системой, не полагаясь при этом на низкоуровневые свойства, не имеющие значения для вычислений. Отметим, что определить, какие свойства важны, а какие нет, не так просто. Как насчет гормонов мозга? Глиальных клеток? Даже если бы информация такого рода была под рукой, несложно представить, что работа программы, эмулирующей мозг со всей точностью и полнотой, потребовала бы гигантских вычислительных ресурсов, которые вряд ли появятся в ближайшие десятилетия.
Может быть, коммерческий императив создания изоморфов даст толчок построению более сложных умных машин? Сомневаюсь. Нет оснований считать, что самым эффективным и экономически разумным способом получения машины для выполнения определенного класса задач является обратное проектирование и точное копирование мозга. Взгляните, например, на компьютеры, выигрывающие у чемпионов мира по го, шахматам и игре Jeopardy! Они превосходят человека за счет методов, совершенно непохожих на те, что используют в соответствующей игре люди.
Вспомните, с чего мы начали разговор об изоморфах. По идее, они должны были сказать нам, могут ли машины обладать сознанием. Но когда дело доходит до определения, будут ли машины, которые мы реально сможем сконструировать в ближайшем будущем, обладать сознанием, изоморфы становятся скорее отвлекающим фактором. ИИ достигнет продвинутого уровня задолго до того, как изоморфы хотя бы приблизятся к реализации. На этот вопрос необходимо ответить раньше, особенно с учетом тех соображений этики и безопасности в отношении ИИ, о которых я говорю.
Таким образом вера технооптимистов в перспективы искусственного сознания опирается, в сущности, на ошибочную цепочку рассуждений. На их взгляд, машины смогут обрести сознание, поскольку нам известно, что мозг обладает сознанием, и мы могли бы построить его изоморф. Но никто не знает на самом деле, действительно ли мы сможем когда-либо это сделать — да и захотим ли. Ответ на этот вопрос нужно искать эмпирически, и перспектива того, что мы действительно будем это делать, сомнительна.
Нам уже сейчас жизненно важно определить, могут ли мощные автономные системы обладать сознанием или обрести его в ходе дальнейшего развития. Не забывайте, сознание в зависимости от особенностей архитектуры системы может по-разному влиять на этическое поведение машины.Например, тестирование на раннем этапе и выявление сознания может привести к освоению машиной этических норм путем привития их людьми в надежде «воспитать» машину с верными моральными ориентирами.
ИИ следует исследовать в ограниченных контролируемых средах в поисках признаков сознания. В случае обнаружения сознания необходимо будет изучить его влияние на архитектуру конкретной машины. Для получения ответов на эти насущные вопросы нужно идти дальше простейших мысленных экспериментов с точной заменой нейронов, какими бы увлекательными они ни были.