Робот не заслуживает вежливости: искусственный интеллект глазами философа
Книга написана французским философом и журналистом, который взял на себя немалый труд — не просто прочитать и обдумать то, о чем спорят вокруг ИИ последние годы, а физически облететь почти весь мир, взяв интервью у 125 специалистов: исследователей, предпринимателей, инвесторов, преподавателей, чиновников, художников. Подход, скорее характерный для представителя эмпирической науки, и, давший очень интересные плоды.
«Я хотел встретиться с ними в их естественной среде — там, где они живут и работают, среди их компьютеров и дорожных пробок, — поэтому и отправился в путешествие вокруг света, двигаясь в западном направлении: Кембридж, Оксфорд, Бостон, Нью-Йорк, Вашингтон, Сан-Франциско, Лос-Анджелес, Шанхай, Пекин, Тель-Авив, Копенгаген и, наконец, Париж», — пишет Гаспар. В этой заметке очень много цитат из получившейся книги: мне кажется полезным на стадии отзыва дать слово автору вместо того, чтобы подобно ИИ-суммаризатору составить конспект трех с половиной сотен страниц вполне увлекательного и одновременно требующего постоянных размышлений текста.
Автор предпринимает попытку понять ИИ через понимание тех разных людей, кто разрабатывает технологии машинного обучения и продукты на их основе (или воюет с ними): вот что автор пишет, например, про Евгению Куйду, основательницу стартапа Replica: «…ее русские черты немного расходились с образом предпринимательницы с Восточного побережья. Эта смесь калифорнийских технологий и славянской духовности, возможно, удачная формула воскрешения настоящих мертвых и создания фальшивых живых». Иногда это для меня такая персонификация срабатывала, иногда — нет, но всегда было интересно.
В самом начале Кениг Гаспар отмечает: «Вопрос не в том, «разумен» ли ChatGPT, а в том, кто вообще имеет право на разум. На карту поставлено наше человеческое достоинство. В технологиях нет ничего неизбежного. Это инструмент, который должен быть адаптирован к нашему представлению об истине, к нашим политическим и социальным принципам». С этими утверждениями можно не соглашаться, но интересно, куда они заведут автора.
Иногда, конечно, подчеркнутая удаленность автора от технологий и их научной и технологической подложки несколько изумляет. Вот как он описывает встречу с одной из своих героинь: «Для меня травмой стало уже то, что на экране компьютера Аврелии я увидел не папки с файлами, а черное окно, заполненное каббалистическими знаками. Дело в том, что она, как и многие ее коллеги, не снисходит до того, чтобы просто кликать мышкой по слишком удобным иконкам пользовательского интерфейса. Аврелия работает под капотом машины, поближе к ее первичным функциям. Она дает ей инструкции в форме кода». Но для большинства людей пока что именно так выглядят разработчики информационных технологий; так что взглянуть на происходящее глазами пытливого гуманитария полезно всем. Тем более, что цель автора благая — «сохранить первичную связь между технологической инновацией и философской рефлексией. И в то же время нужно сопротивляться навязчивому искушению, которое ведет к технофобии».
Впрочем, недоверие к технологиям и их апологетам в авторе очень сильно: «технология ушла от научного разума, основанного на доказательности и фальсифицируемости, став в итоге просто верой со своими кредо, ритуалами и заклинаниями».
Гаспар много внимания уделяет антропоморфизации продуктов на основе ИИ и, в особенности, на основе языковых моделей: «… нельзя доверять нашей естественной склонности к антропоморфизации ИИ... антропоморфизация — это «когнитивная простота». Пользователю проще обращаться к ИИ, приписывая ему самостоятельное существование. Однако это «эпистемологическая ошибка, и было бы опасно позволить ей исказить наши представления о мире».
Именно поэтому автор требует от знакомых детей, которым нравится общаться с голосовой ассистенткой Алексой в умной колонке, чтобы они не проявляли вежливость и ни в коем случае не говорили ей «пожалуйста» — ибо это невольно искажает их представления о мире: «Робот не заслуживает вежливости, а вежливость не должна становиться автоматической». Если пользоваться известным подходом психолога Даниэля Канемана, Кениг Гаспар требует, чтобы мы в своем поведении все время включали медленную рациональную «систему 2», не доверяя эвристикам быстрой «системы 1», которые предлагают нам общаться с собеседником как с человеком, если этот собеседник по-человечески разговаривает с нами.
Книга вообще во многом посвящена теме отрицание субъектности роботов и ИИ: «Роботы не являются ни нашими друзьями, ни нашими врагами, ни ангелами, ни демонами. Это просто инструменты. Только четко это понимая, мы сможем мирно сосуществовать с ними. С чисто научной точки зрения ИИ не мыслит, не страдает и не любит».
Но следующий собеседник автора, Стюарт Рассел, сторонник просвещенного катастрофизма, не исключает того, что другая форма субъектности, отличная от человеческой, может развиться случайно, в компьютерных экспериментах. Машина могла бы тогда обрести независимость от своего собственного кода и легко регулировать поведение людей, решения которых становятся все более предсказуемыми. Автор с этим категорически не согласен, полагая, что не бывает сверхинтеллекта без сверхорганизма.
Апелляция к телесности как абсолютно необходимому условию существования интеллекта вообще пронизывает всю книгу, и аргументы в поддержку такой гипотезы разнообразны и интересны. Интересность эта часто связана с тем, что среди собеседников Кенига Гаспара много не только европейцев и американцев, но и китайцев, чье вполне благосклонное отношение к ИИ во многом обусловлено их культурными традициями. «Как, в общем-то, и все китайцы, Хонгвей (декан факультета биологии Университета Цинхуа в Пекине) — ярый сторонник ИИ и прогресса, который он обещает человечеству. Но, как специалист в науках о жизни, он подчеркивает, что наш разум — не просто комбинация абстрактной логики с произвольной телесностью, он тесно связан с биохимическими реакциями, которые происходят в организме и управляют нашими инстинктами, эмоциями и творчеством. Наши решения зависят от наших гормонов в той же мере, что и от наших синапсов».
Отсюда следует и неприятие автором надуманных, с его точки зрения, споров о дилемме вагонетки в применении к беспилотникам: «Предполагая, что это решение возьмет на себя ИИ, мы совершим ошибку Бострома, который считает, что искусственный интеллект способен на моральный выбор. На самом деле практическое значение имеет только один вопрос: кто будет принимать решение? Иначе говоря, кто в цепочке человеческой ответственности возьмет на себя моральный выбор?».
Впрочем, автор признает, что его аргументы верны лишь для современного уровня развития прочих наук: «Искусственный интеллект не может обладать сознанием. Однако возможно, что однажды искусственное существо произведет сознательный̆ интеллект…». Но это уже разговор совсем не про сегодняшний ИИ, а про другие сущности.
Кроме проблемы телесности, исследуется еще и проблема здравого смысла (тесно связанного с телесностью); ей тоже посвящено много интересных страниц. Формулировка проблемы прекрасна: «ИИ способен избежать тысячи человеческих ошибок, но при этом может совершать ошибки, немыслимые для человека».
Автор с удовольствием развенчивает и «миф о «конце труда», который возникал на каждом этапе технической инновации, от Аристотеля до Джереми Рифкина, но всегда опровергался историей». Попутно он точно замечает: «специалисты по компьютерным наукам с изрядным скепсисом относятся к идее сверхинтеллекта, экономисты готовы посмеяться над «концом труда», ставшим фантазией социологов и политологов. Вместо того чтобы аплодировать грядущей общей автоматизации или бояться ее, нужно тщательно подготовиться к переходу на новые формы занятости. Сегодня мы не можем вообразить сущность этих рабочих мест, но причина именно в том, что человеческий̆ разум по определению не может предсказывать новое». Но чьи голоса мы слышим в прессе и соцмедиа?
Развенчивая популярные мифы, автор призывает сосредоточиться на более важных, с его точки зрения, вещах: «Споры о сверхинтеллекте скрывают от нас реальную социальную проблему, связанную с этой технологией, а именно вопрос свободы воли. «Я закончил свое долгое путешествие с убеждением, что главное качество эры ИИ — «конец свободы воли». И здесь автор погружается в обсуждение идей поведенческой экономики Даниэля Канемана: «Если и есть сегодня властелин идей на сцене ИИ, им может быть, как я выяснил эмпирически, подсчитав число цитат в своих записках, только Канеман».
Ближе к финалу книги автор использует богатую географию своих поездок, чтобы попытаться сравнить развитие ИИ в разных странах и влияние основанных на ИИ продуктов на общество и экономику. «В своих странствиях я потратил на США в три раза больше времени, чем на Китай. Слишком поздно я понял, что надо было сделать наоборот... Не парадокс ли, что надо было отправиться в тоталитарное государство, чтобы получить возможность поговорить свободно, без свинцовых оков политической корректности?». Сопоставление Китая, Европы и США интересно тем, что технологические достижения увязываются с культурными и политическими традициями, а наблюдения в значительной степени совпадают с рассуждениями Кай-Фу Ли в его известной книге «Сверхдержавы искусственного интеллекта». Для европейского философа несколько неожиданно признание очень высокого уровня как технологического развития, так и влияния на общество и экономику ИИ в Китае.
Впрочем, финальная часть книги посвящена больше геополитике, чем культуре и экономике, и здесь автор как раз долго и, на мой взгляд, совершенно не убедительно рассказывает о том, как именно Европа со своими культурными и философскими традициями может и должна стать мировым лидером в регулировании ИИ, спасающем человечество от потери личностью своей индивидуальности и свободы воли. И эта часть позволит читателю — в зависимости от своих убеждений — либо порадоваться оптимистическому для европейцев концу, либо поискать контраргументы и слабые места в позиции автора. И в любом случае — получить удовлетворение от довольно длительного общения с массой умнейших собеседников, разговаривающих со страниц книги.
Мнение редакции может не совпадать с точкой зрения автора