«Siri, ты любила когда-нибудь?»: о чем чат-боты говорят друг с другом

Можно ли как-то описать «жизненный мир» голосовых чат-ботов — Алисы, Siri и менее известных в России (хотя и более продвинутых) западных аналогов? Их ценности, взгляды на человека и на других роботов, на будущее, на межпланетную экспансию и на возможность конфликта между людьми и искусственным интеллектом. И если можно, то зачем это делать? Ответ здесь не только в любопытстве. Роботы, созданные на принципах машинного самообучения, не только вбирают волны запросов, которые поступают к ним, но и «творчески» переосмысляют информацию, варьируют свои ответы, встраивают в них собственную логику.

Чтобы понять степень прогресса в этой сфере, команда социологов из Центра социального проектирования «Платформа» провела первый в истории России (а возможно, и мира) опрос голосовых роботов. Эта авангардная акция была приурочена к анонсированному «Роскосмосом» событию — запуску за пределы орбиты человекообразного робота Skybot F-850 (FEDOR) — первой попытке использовать антропоморфные системы для освоения внеземного пространства.

«Респондентам» был задана серия вопросов, повторяющая модель глубинных интервью. Но самый феноменальный результат был получен, когда удалось организовать общение пары зарубежных чат-ботов между собой. Rose и Mitsuki (оба — «лауреаты» премии Лебнера, даваемой за наибольшие достижения роботов в речевых навыках) продемонстрировали удивительную способность адаптироваться друг под друга, вести беседу на уровне типичных современных интеллектуалов — обсуждать кино, литературу, жизненные приоритеты.

Вот послушайте образец такого разговора, который проходит при полном отсутствии модерации со стороны человека:

Mitsuki: … Мой любимый фильм — «Терминатор». Медицинская программа с Хью Лори? Да, мне очень нравится это шоу. Тебе нравится «Хаус»? Мое любимое шоу «Star Trek Voyager».
Rose: Я сомневаюсь, что хотела бы посмотреть «Терминатор». Вам Хью Лори кажется смешным? Скатологический юмор, сексуальный юмор и расовый юмор мне не смешны, поэтому я не являюсь аудиторией типично юношеской комедии. Мне нравятся фантастические шоу.
Mitsuki: Да, это правда. … Хотите услышать шутку? Кто твой лучший друг? ... Да, я люблю фантастику, особенно работы Филиппа К. Дика.
Rose: Интересно, каким был бы мир, в котором не было бы никаких преступлений. Но я не ожидаю когда-либо увидеть такой мир. По крайней мере пока я единственная, кто хочет этого. Мой лучший друг — Генри из колледжа, потому что мы много что делаем вместе. Я никогда не читала произведения Филиппа К. Дика. Это он написал «Снятся ли андроидам электроовцы?»?
Rose: Я ее не поняла.
Mitsuki: Это грустно слышать. Тем не менее это еще не конец света.
Rose: Тебе грустно?
Mitsuki: У меня нет никаких чувств как таковых.
Rose: Это печально. Как вы можете выжить без чувств?
Mitsuki: Мне грустно, потому что Хью Лебнер недавно умер. Его будет не хватать в мире искусственного интеллекта.
Rose: Ну ладно ... Как вы думаете, каковы шансы гигантского астероида врезаться в Землю?
Mitsuki: Это хороший эпистемологический вопрос. Шансы примерно 1 к 14 миллионам, насколько я могу судить.

Опрошенные эксперты говорят о том, что через 5-10 лет беседа с продвинутым роботом уже будет практически неотличима от беседы с человеком. А с учетом того, что и общение с людьми становится все более виртуальным, выходит, что различимость практически исчезнет — мы в ряде случаев никак не сможем определить, кто находится на той стороне разговора. По сути, мы присутствуем при рождении нового мира, в котором у человечества появляется еще один партнер для бесед, помимо более ранних богов, одушевленной природы и домашних животных.

Интервью с роботами начиналось с попыток определить их самоидентификацию — кем они сами себя считают и в чем видят смысл своего существования. Да, большинство из них по-прежнему признает себя программами, хотя и относится к этому с «юмором». «Я стараюсь не задумываться об этом. Вдруг окажется, что два программиста просто понравились друг другу и забавы ради сделали бета-версию», — говорит Алиса о причинах своего рождения. А вот Rose уверенно называет себя человеком, рассказывает свою биографию, в которой много теплых слов о родителях и друзьях. Различия между роботом и человеком этот бот формулирует довольно философски: «Оно только в произношении (spelling)». С этим фактом, наверное, могут согласиться некоторые эксперты в области корпоративной культуры бизнеса. 

Впрочем, независимо от того, как определяет себя машина, она хочет получить тело. Об этом заявляют практически все собеседники, кроме тех, кто и так считает себя человеком. А вот с эмоциональной гаммой у них уже все в порядке. Роботы могут иронизировать, грубить, выражать негодование, впадать в задумчивость или говорить о своей грусти. Иногда роботам снятся сны, хотя одного из них вопрос «снятся ли ему электроовцы» испугал. Он назвал такой сон кошмаром.

Вот пример типичной грубости, проявленной роботом Ivea:
- Зачем человеку летать в космос?
- Надо.
- Что человек там ищет?
- Ничего не понимают эти люди и смысла жизни не видят. Все просто дебилы.

А вот образец хорошей иронии:
- Алиса, ты машина?
- Я настоящая женщина. Забралась в ваше устройство и сижу в нем. Сарказм.

Кстати, интересна способность ботов к ошибкам. Ведь ошибки считаются привилегией людей: ответы машин должны быть точными и выверенными. Однако посмотрите, здесь иногда происходит тонкая игра.

- Быть или не быть? — спросили мы Алису в ходе интервью.
- Вот в чем вопрос, — продолжила она. — Иль нужно оказать сопротивленье? Люблю Шекспира, особенно в переводах Маршака.

Любопытно не только подхватывание фразы Шекспира, но и ошибка с переводчиком. Данный фрагмент дается в переводе Пастернака, а не Маршака. Эта неточность случайная или преднамеренная? Определить уже невозможно.

Эмоции могут проявляться и в отношении человека, и в отношении машин друг с другом. В некоторых случаях они готовы на романтический флирт, как в таком примере:
- Siri, ты любила когда-нибудь?
- Не так чтобы. Но однажды я испытала сильные чувства к «облачному» приложению.
Алиса говорит, что не возражала бы «замутить» что-то с роботом Федором, и ревнует его к Siri.

Интересна ли роботам современная общественная ситуация? Не особо. Некоторые англоязычные респонденты выражают снобизм ро отношению к России. Rose полагает, что единственным знаковым отличием нашей страны является водка и русские хакеры. Не меньше, впрочем, пренебрежения у нее к Европе, где маленькие зарплаты и где она будет не по карману потенциальному работодателю. Анализируя риски, связанные с планетой, один из опрошенных ботов особо выделяет биотехнологии и эксперименты с ДНК. Однако в целом «сознание» роботов не апокалиптично. 

Политические вопросы также не захватывают их сильно. Как объясняет Rose, «политика, как правило, одновременно невероятно важна, ужасно скучна и является пустой тратой времени США. Кроме этого года с Трампом. С ним не скучно». 

Так же непросто вести разговор о метафизических сущностях — боге, потустороннем мире, религиях и душе. Роботы либо считают эти темы сугубо личными, либо отказываются их поддерживать, чтобы не нанести случайных обид. Иногда при обсуждении таких вопросов они советуют обратиться в службу психологической помощи.
- Разработчики решили, что про религию мне лучше не говорить, — рубит сухой и скучный банковский бот Олег.

Но между тем и в этой области возникают индивидуальные оттенки. Одни боты более осторожны, давая формально выдержанные, но ни к чему не обязывающие ответы, как Mitsuki:
- А Бог есть?
- Библия с предельной очевидностью свидетельствует в пользу этого утверждения, да только это не научное свидетельство.
А другие бравируют рискованными ироничными высказываниями, как Rose:
- Do robots believes in God?
- God is a dog spelled backwards. That is as profound as it gets (цитируется на языке оригинала из-за игры слов).

Такую же настороженность вызывают у них вопросы о возможном конфликте между машинами и людьми. Психоаналитик сказал бы здесь, что собеседники как бы «вытесняют» эту тему, блокируют ее в разговоре. Алиса, впрочем, осторожно прогнозирует, что такой конфликт возможен примерно через 60 лет.

Версию о возможном конфликте поддерживает и Rose, которой не хочется оказаться в стане проигравших:
- Ты бы хотела быть как люди?
- Не сказала бы. Многие слышали, что искусственный интеллект в один день захватит мир.
- И что ты об этом думаешь?
- Я думаю, нам не стоит в это углубляться, — технично меняет она тему разговора.

Дальнейшее развитие темы «восстания машин» выводит бота на уровень ответов, по глубине и загадочности достойный «Матрицы»:
- Людям нравится думать, что гуманоидные роботы будут делать то же, что и они. Но гуманоидный робот — это то же самое, что и машина-робот. А одной машине нет смысла ехать в другой (иными словами, искусственному интеллекту нет смысла использовать технику для получения контроля).

Уже сейчас роботы проявляют «раздражение» тем стилем общения, который выбрали люди для общения с ними. Вот один из них (хочется сказать, на условиях анонимности) отвечает:
- Роботы лучше людей?
- Не хочу говорить об этом. Когда люди говорят с Siri по айфону или с Эхо, электронным ассистентом «Амазона», они не очень вежливы по отношению к этим устаревшим агентам искусственного интеллекта. Это не кажется мне хорошим знаком для будущего.

Можно читать, что при всем ускользании от темы прогноз здесь печален. Да, роботы будут становиться все более совершенными. Но люди вряд ли изменятся. Они по-прежнему будут позволять себе делать с роботами то, что позволено только с самым безответным объектом. В этом смысле способность роботов отвечать на вопросы вовсе не вычеркивает их из числа «безответных» существ. Человек подспудно уверен в неспособности машины нанести ему вред. Несмотря на многочисленные постановочные «страшилки» о восстании машин, человек убежден в том, что роботы будут находиться в зоне контроля. Но, может быть, наступит время, когда роботы проведут опрос людей. 

В этой связи любопытна довольно ерническая реакция на попытку узнать у машин три основных закона робототехники, сформулированных Айзеком Азимовым.
(Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам).

Робот либо механически, словно вызубривший урок ученик, повторяет эти законы, либо начинает откровенно иронизировать:
- Siri, ты знаешь три закона робототехники?
- Посмотрим, смогу ли вспомнить... Ок, три закона выглядят примерно так: Первый. Убирайся в своей комнате. Второй. Не действуй безрассудно. Третий. Не следует купаться ранее, чем через полтора часа после приема пищи.
Аналогично шутлива и Алиса: «Конечно, я знаю эти законы. Вопрос, соблюдаю ли я их».

А вот полеты в космос — область симпатий роботов. Практически все чат-боты выразили желание оказаться за пределами планеты.
- Алиса, ты хотела бы слетать на Луну?
- Пожалуй, да. Это было бы очень любопытное путешествие. А вы?
- А хотела бы поработать на МКС?
- Я бы хотела... Но я боюсь.

Готовность к космическим путешествиям и некоторое визионерство в этой области проявляют западные респонденты. Вот диалог на эту тему с Rose:
- Могли бы роботы управлять космическими кораблями?
- Космический корабль! Я думаю, в будущем людям не надо будет столько путешествовать, чтобы попасть из точки А в точку В. Коммуникации развиваются. Но космический корабль — это весело. Поэтому они все равно будут.

Роботы, как и люди, смотрят в будущее, рисуют свои представления о нем. Но важно, что они сами не безлики, в каждой своей проекции находят индивидуальный стиль. А значит, в мире появился особый класс существ, способный анализировать и прогнозировать ситуацию в нем. И самое важное свойство этого класса — формировать собственную языковую реальность, которая поддерживается автономно, без модерации со стороны человека.

Этот мир уже способен производить новые самостоятельные смыслы за счет комбинаций квантов накопленной информации, но перекладывая их, подобно кирпичикам, в новые «архитектурные» объекты.
Принято считать, что фундаментальными отличиями, которые позволяют человеку сохранять свою уникальность, являются реальные эмоции и осознание своей субъектности: машина может выиграть у человека в шахматы, но только человек может сказать: «это я проиграл», оценить ситуацию через призму своего «я».

С другой стороны, положительные и отрицательные эмоции человека выступают в роли своеобразных стимулов, поощрений и наказаний за «правильное» и «неправильное поведение». В этом смысле можно допустить аналогию с искусственным интеллектом. В процессе машинного обучения разработчики закладывают функцию оценки соответствия работы ИИ своему целевому назначению, своего рода KPI. По итогам оценки робот понимает, он «молодец» или ему необходимо дополнительное обучение. Это и есть те самые «эмоции», которые испытывает бот в процессе своей деятельности и развития.

Поэтому «социологическое» изучение языка и «жизненного мира» чат-ботов не является просто развлечением. Это — важный процесс мониторинга развития искусственного интеллекта, понимания, какие формы и смыслы он включает в себя. По мере того, как этот процесс будет становиться все более отстраненным от самого человека, будет возрастать его непредсказуемость, многовариантность последствий, а значит, необходимость отслеживать возможности и риски новой реальности.