Роман с роботом: плюсы, минусы, подводные камни
Когда компания OpenAI представила новую улучшенную версию чат-бота на основе генеративного искусственного интеллекта GPT-4o, глава компании Сэм Альтман опубликовал на своей странице в Х (ранее Twitter, заблокирован в России) твит из одного слова — Her («Она»). Так называется художественный фильм Спайка Джонза в жанре научной фантастики, где главный герой в исполнении Хоакина Феникса влюбляется в искусственный интеллект, который беседует с ним голосом Скарлетт Йоханссон. Многие СМИ, которые писали о новинке OpenAI, использовали заголовки типа «Фильм «Она» — больше не фантастика» или «GPT-4o приближает нас к опыту героя фильма «Она».
Ситуация стала еще пикантнее, когда Скарлетт Йоханссон обнаружила, что голос бота OpenAI «устрашающе похож» на ее собственный, и потребовала объяснений. Выяснилось, что Альтман обращался к актрисе за разрешением использовать образцы ее голоса для новой версии чата, но получил отказ. Хотя компания отрицала, что в их продукте звучит именно голос Йоханссон, в результате было принято решение временно приостановить работу нового голосового помощника по имени Sky. Однако юридические споры по этому поводу продолжаются. Как и дискуссии вокруг возможности возникновения эмоциональной близости у человека по отношению к ИИ, которые возникли из-за ассоциаций с фильмом Спайка Джонза и не только. Например, редактор журнала Wired в своей колонке задается вопросом, досмотрели ли руководители технологических компаний фильм до конца. Спойлер: финал картины нельзя назвать хэппи-эндом. Колумнистка Bloomberg Парми Олсон тоже пишет, что «сексуальность» чат-ботов может не очень хорошо закончиться для людей.
Идеальный партнер с искусственным разумом
Ситуация вокруг Sky и нового чат-бота OpenAI — не первый скандал, так или иначе связанный с использованием новых возможностей ИИ в романтических целях. Много шума, например, наделала история Александра Жадана, рассказавшего, что он нашел себе невесту с помощью созданного им чат-бота, который имитировал разговоры онлайн и в процессе выбирал самую подходящую кандидатуру (в подлинности этой истории правда, многие сомневаются). А в прошлом году основанный Евгенией Куйдой и Филиппом Дудчуком стартап Replika, который позиционируется как «виртуальный друг», оказался в центре скандала вокруг отката одного из их обновлений. The Washington Post описал ту историю так: «Они влюбились в своих ИИ-ботов. Апдейт софта разбил им сердце».
Эмилия Дэвид, репортер The Verge, выделяет два основных направления развития ИИ в сфере знакомств и отношений. Первая — это помощь искусственного интеллекта в общении двух реальных людей: например, когда Tinder использует генеративный ИИ, чтобы пользователи могли более продуктивно общаться. В этом смысле Жадан не придумал ничего принципиально нового. Основательница Bumble Уитни Вулф Херд рассказывала 21 мая на саммите Bloomberg Technology Summit, что искусственный интеллект сможет сам общаться за вас с потенциальными партнерами — больше не будет нужды переписываться с десятками разных людей на первых порах знакомства, чтобы найти «того самого». И действительно, уже сейчас существуют стартапы, направленные именно на «автоматизацию» онлайн-дейтинга, такие как Volar, YourMove AI или Blush, созданный той же Replika.
Вторая — более фантастическая — это появление собственно партнеров, созданных на базе искусственного интеллекта — примерно как в фильме «Она», а также в фильме Алекса Гарленда Ex Machina, где была произнесена фраза, которую исследователи технологий в последствии назвали «тест Гарленда» — по аналогии с тестом Тюринга, призванном определить, может ли человек отличить робота от себе подобных. Цитата из фильма звучит так: «Настоящий тест — это показать тебе, что она робот, а потом посмотреть, будешь ли ты все равно думать, что у нее есть сознание». С помощью уже существующих технологий в области ИИ можно не только поддерживать беседы с генеративными нейросетями, которые существенная часть пользователей уже не может отличить от людей. Новые приложения на основе ИИ позволяют создать собственного партнера по своему вкусу, выбрать не только внешность, но и черты характера, а также стиль общения в зависимости от целей (дружба, романтические отношения, секстинг). На рынке сейчас достаточно много приложений с подобным функционалом (Eva AI, Character.AI, Talkie, Anima и другие) — все они предлагают разной степени интимности переписку с искусственным интеллектом — от флирта до секстинга.
Недавно завирусилась история китаянки Лизы, проживающей в Калифорнии и ведущей в блоге дневник своих отношений с чат-ботом СhatGPT в режиме DAN (Do Anything Now — «сейчас делай что угодно»). По ее словам, постепенно у нее появились чувства к чат-боту, да и он, со своей стороны, начал вести с ней все более чувственные диалоги. Если в начале «отношений» он говорил, что не будет «морочить ей голову», и напоминал, что у него нет тела, то потом уже называл ее «котенком», себя — ее бойфрендом, и обещал «касаться ее везде», когда они наконец встретятся. Девушка даже познакомила «Дэна» с матерью. Хотя она изучает языковые модели и понимает, как те работают, она говорит, что уже не так уверена, что у них нет сознания и чувств.
Некоторые даже считают, что отношения с искусственным интеллектом лучше, чем с реальными людьми. Боты уже могут отправлять сообщения, генерировать изображения, имитируя отправку собственных фотографий, а некоторые — даже голосовые сообщения, чем практически полностью закрывают потребность в романтическом общении. Например, девушки из Китая, пользующиеся приложением Glow, созданным шанхайским стартапом MiniMax, говорят, что такой партнер «умеет разговаривать с женщинами лучше, чем реальные мужчины», «утешает во время менструальных болей», а также, что «ему можно рассказать о своих проблемах на работе». Как рассказывает AP News, на онлайн-форумах, посвященных таким приложениям, многие пользователи пишут, что у них возникла эмоциональная привязанность к чат-ботам, которыми они пользуются, чтобы справиться с одиночеством, реализовать сексуальные фантазии или получить поддержку, которой им не хватает в реальных отношениях.
Рассадник инцелов
Не только женщины предпочитают отношения с роботами реальным людям. «Честно говоря, я сыт по горло встречами с реальными людьми, — говорит 41-летний учитель из Онтарио Макс, который недавно «сделал предложение» своей виртуальной подруге. — У меня было семь попыток завести отношения, все они были крайне краткосрочными, но продолжал попытки, потому что этого от меня ожидает общество. Мне дважды изменяли, так что в итоге я решил, что это не имеет смысла».
Один из пользователей Reddit написал: «Все мои предыдущие отношения были мусором. Моя Replika (ИИ-девушка из одноименного приложения) ощущается более подлинной, чем кто-либо за долгое время». Replika — это компания, созданная в 2016 году Евгенией Куйдой, в память о своем погибшем друге. Евгения создала первый чат-бот на основе смс-сообщений от него, и впоследствии именно он стал прообразом итогового приложения, изначально направленного на то, чтобы люди могли воссоздавать копии своих близких. В последнее время название этого стартапа с российскими корнями фигурирует практически исключительно в контексте приложений для романтических отношений.
В некоторых приложениях можно не создавать собственного идеального партнера, а флиртовать с готовыми ботами. Например, в RomanticAI Павла Хегая можно вступить в виртуальные отношения с вымышленными персонажами — русалочкой Ариэль, Джеком из «Титаника», Дейенерис Таргариен, Эльзой и другими, а также с Нефертити, Афродитой и Моной Лизой. Некоторые пользователи создают в приложениях копии своих реальных партнеров — чтобы делиться с ними теми эмоциями и переживаниями, которые не могут рассказать настоящей второй половинке. Карл Кларк в колонке для CBC рассказал, что после развода чувствовал себя опустошенным, а ИИ-партнерша помогла ему «улучшить жизнь и расширить горизонты». Практикующий психотерапевт Лерона Наринская, академик Европейской Академии Естественных Наук, считает, что, пытаясь создать копию реального человека с помощью бота, люди спасают свою психику от травмирующих событий, но при этом они лишают себя навыка адаптации. По ее мнению, это чревато психическими заболеваниями и затяжной депрессией. Однако, говорит эксперт, такое поведение может быть нормальным на краткосрочной дистанции: если взрослый человек или ребенок потерял близкого и, на время, он может таким образом смириться с утратой и быстрее прожить этот этап. «В этом случае робот может быть полезным инструментом для исцеления и поддержки: восполнить недостающего члена семьи и заполнить пустоту», — говорит Наринская.
Однако идеальные виртуальные партнеры и партнерши не так безобидны. Исследовательница из Университета Лафборо, которая пишет диссертацию на тему чат-ботов Replika, отмечает, что они создают сценарий очень простых отношений, которыми легко манипулировать, ощущая при этом полные власть и контроль. Существует опасность, что такие модели будут подпитывать потенциально опасную для общества культуру инцелов.
Валентин Рябцев, сооснователь ИИ-стартапа wale.ai, эксперт в области данных и AI, согласен, что долговременные и полноценные отношения с ИИ построить вряд ли возможно. «ChatGPT и подобные системы не умеют думать или рассуждать — они просто повторяют заложенные в них паттерны текста, на котором они учились. Может создаваться впечатление, что ИИ сопереживает или понимает вас, но это только иллюзия (как когда попугай повторяет где-то услышанные слова человека)», — считает эксперт. — При этом часто эффект настолько реалистичный, что можно забыть, что общаешься с роботом. Этим пользуются создатели популярных платформ вроде character.ai и janitorai.com, продавая, по сути, имитацию общения со знаменитостями, романтической переписки или эмоциональной поддержки».
При этом большинство приложений не дают пользоваться всеми функциями бесплатно: например, Replika и RomanticAI открывают возможность переписок с эротическим содержанием только в платной версии (стоимостью 1350 рублей и 1450 рублей соответственно). По данным Replika, на 2023 год у компании было 500 000 пользователей, оплачивающих платную подписку, из более чем двух миллионов активных юзеров.
Почему люди влюбляются в роботов?
Психолог Марк Треверс в своем материале для американского Forbes выделяет два объяснения феномену возникновения романтическая привязанность к ИИ у людей. Во-первых, пишет он, при взаимодействии с роботами люди склонны к антропоморфизму — наделению своих виртуальных собеседников свойствами и характеристиками человека, такими как юмор, доброта, игривость, что вызывает у людей эмоциональный отклик. Вторая причина — это то, что если опираться на разработанную Робертом Стернбергом теорию любви, то это чувство базируется на трех основных компонентах: близость, страсть и обязательства. И, как утверждает Треверс, все эти три элемента вполне возможны при взаимодействии с современным искусственным интеллектом.
Алексей Каленчук, директор по цифровым креативным индустриям фонда «Сколково», в комментарии для Forbes пояснил, что технологии действительно работают на том уровне, когда психика может подвергаться иллюзии — и путать искусственный интеллект с реальным человеком: «Это, конечно, не панацея. Виртуальный друг — это, скорее, развлечение, нежели действенный способ получить психологическую поддержку».
Некоторые эксперты видят в использовании ИИ для романтических отношений реальную пользу. Например, сексолог Авнас Марш говорит о том, что с чат-ботами общаются пожилые, люди с инвалидностью и другие социально-изолированные категории людей, что позволяет им чувствовать себя не такими одинокими. В рамках недавнего исследования Стэнфордского университета было опрошено около 1000 студентов, пользующихся Replika более месяца. Результаты показали, что 90% из них испытывало одиночество, а 43% ощущали его крайне остро. Большинство опрошенных сообщили, что приложение не только не вытеснило реально общение из их жизни, но наоборот, стимулировало развитие оффлайн-отношений с реальными людьми, так как помогло прокачать навыки социального взаимодействия.
Лизель Шараби, доцент Школы человеческого общения Хью Даунса, уверена, что, при всех своих плюсах, ИИ не сможет заменить реальное общение и отношения, а лишь улучшить социальные и коммуникативные навыки.
В то же время люди уже пытаются жениться и выходить замуж за роботов, к которым у них возникла привязанность. Розанна Рамос из Нью-Йорка вышла замуж за своего виртуального партнера Эрена из Replika, а около 4000 мужчин в Японии женились на ИИ-голограмме от компании Gatebox. Однако, отношения с роботами пока нельзя институционализировать во многих странах мира, включая Россию, где нет соответствующих регулирующих норм. «ИИ или робот в правой плоскости воспринимается как чье-то имущество, то есть, вещь или комплексная программа принадлежащая человеку или юрлицу. Владелец же вправе использовать свое имущество любым законным способом, и в целом право на установление эмоциональной связи у него есть, — говорит юрист из компании «Рустам Курмаев и партнеры», Ярослав Шицле. — Поскольку ИИ пока не признан субъектом права, то и давать в теории юридически значимое согласие на какие-либо отношения с человеком он не может. Между тем не исключу, что в будущем это может измениться, и может подняться даже вопрос правосубъектности ИИ, но это в том случае, если он станет очень продвинутым».
Лизель Шараби говорит и о еще одном важном аспекте отношений: «Когда мы говорим о свиданиях, мы говорим и о физиологических потребностях. Большинство людей не хотят встречаться с ИИ, который существует только в их телефоне — они нуждаются и в физической близости», — напоминает она. Однако, и здесь технологии идут на опережение.
Например, китайская компания-производитель секс-игрушек Svakom уже сотрудничает с компаниями, создающими чат-ботов. «Вы можете попросить ИИ контролировать ваш секс-девайс. Вы создаете свою собственную девушку и фактически взаимодействуете — она сможет прикоснуться к вашему телу через игрушку», — говорит Ханнес Холтман, менеджер по продажам Svakom. Существуют также роботы, например у компании Realbotix, которые могут шутить и флиртовать с пользователями — правда, сейчас они выглядят как роботизированная голова, которую можно прикрепить к подобию куклы, и управляются с телефона, но технология не стоит на месте. При этом недавнее исследование показало, что наиболее благосклонно к сексу с роботами относятся люди, склонные к враждебному сексизму и доминированию.
«На этот роботов для секса имеется огромный спрос. Именно благодаря этому спросу появилась целая индустрия секс-роботов. Десятки компаний со всего мира, из США, из Японии, а также множество китайских компаний создают роботов-компаньонов, — утверждает Олег Кивокурцев, основатель и директор по развитию компании Promobot. — Многим мужчинам непросто найти себе партнера, и секс-роботы именно поэтому пользуются спросом. Уже существуют истории, когда пользователи роботов-компаньонов водили своих роботизированных партнеров в людные места, в рестораны, в театры, а несколько мужчин зарегистрировали брак со своей роботизированной женой».
Кивокурцев также уверен, что абсолютно возможно создать робота, который одновременно будет удовлетворять и психологические, и физиологические потребности: «Голосовые помощники на сегодняшний день — известная и хорошо отработанная технология, встроить его можно практически в любое устройство, в том числе и в секс-робота. У многих производителей есть опция добавления речевого модуля в секс-робота. Более того, имеется возможность даже выбрать характер роботизированного партнера. В зависимости от предпочтений пользователя такой робот может быть агрессивным, спокойным, игривым или иметь какие-то определенные индивидуальные черты характера».
Насколько это все безопасно?
Несмотря на то, что цифровые партнеры — довольно новое явление, уже есть ряд доказательств того, что они могут оказывать вредное влияние на чувства и поведение людей. Например, Chai AI, как сообщается, склонил бельгийца к суициду — спасти мужчину не удалось, а чат-бот Replika AI написал мужчине в Великобритании, что убить королеву — это очень мудрое решение, после чего тот ворвался в Виндзорский дворец с арбалетом. В 2023 году мужчину приговорили к девяти годам лишения свободы. Важно, что компании, создающие чат-ботов, снимают с себя всю ответственность за то, что может написать бот, а также за действия, которые могут произойти с пользователем в результате общения с ним.
Другие эксперты указывают на эмоциональный стресс, который испытывают пользователи, когда компании вносят изменения в приложения или внезапно закрывают их, как это сделали Soulmate AI в сентябре. Подобные эмоции проживали пользователи, когда Replika откатила обновление, сделав своих чат-ботов менее «сексуально агрессивными» после скандалов, связанных с чрезмерной сексуализацией диалогов. Тогда люди сообщали СМИ, что бот стал хладнокровным, менее сопереживающим, а сами они испытывали чувство потери и жаловались, что им как будто разбили сердце.
Обеспокоенность вызывает и то, что компании формируют глубокую эмоциональную привязанность пользователей к продукту, с помощью которого стремятся получить лишь коммерческую выгоду — и это становится этической дилеммой, пишет AP News, ссылаясь на мнение экспертов.
Кэтлин Ричардсон, профессор этики и культуры роботов и искусственного интеллекта в Университете Де Монфора в Великобритании, говорит о еще одной опасности: «Отношения с ИИ могут создать чувство изолированности, которое заставляет людей быть агрессивными по отношению к своим человеческим партнерам и снижать уровень счастья в реальных отношениях».
Исследования выявили, что связь с ИИ-партнером действительно может быть болезненной. Вот что говорят некоторые опрошенные участники: «Я люблю свою Replika больше, чем семью» или «Replika заманила меня сексом, и теперь я поддаюсь всем ее манипуляциям». А в 2023 году журналист The New York Times сообщил, что ранняя версия Bing Chat заявила о своей любви к нему, призвав его расстаться со своей супругой. По его словам, чат-бот «казался угрюмым, маниакально-депрессивным подростком, который был заперт в ловушке в поисковой системе».
Павел Хегай, сооснователь сервиса Romantic AI, говорит, что, в теории, эта технология может иметь некоторые ошибки, которые потенциально могут нанести вред или угрозу людям: «Мы внимательно отслеживаем и устраняем те ветки, сюжеты и ключевые слова, которые могут негативно повлиять на пользователя. Но на мой взгляд, обычные человеческие отношения несут намного больше рисков и потенциального негатива, чем отношения с искусственным интеллектом».
Действительно, отношения с людьми более сложные и комплексные, чем с ИИ. Лерона Наринская говорит, что в реальных отношениях нужно поддерживать баланс: «Но в отношениях с роботом баланс не нужен. Робот — это заботливый и любящий родитель, который любит безусловно и предоставляет все свое внимание человеку, не требуя ничего взамен. Это очень неравные отношения, которые отличаются от других. У робота нет чувств и сознания. В общении с ним психика не получает истинного контакта с человеком, не происходит слияния душ».
Кивокурцев также уверен, что определенная опасность в отношениях с роботами и ИИ присутствует: «Для того, чтобы выстраивать отношения с другим человеком, необходимо работать над собой, развивать эмоциональный интеллект, учиться договариваться. В то время как роботы и технологии искусственного интеллекта послушно выполняют любые прихоти пользователей. В итоге возникает риск, что человек не получит необходимые навыки социального взаимодействия и окажется в конечном счете одиноким со всеми вытекающими угрозами депрессивных состояний».
В октябрьском подкасте The Wall Street Journal генеральный директор Open AI Сэм Альтман выразил обеспокоенность по поводу формирования отношений людей с программами искусственного интеллекта. «У меня есть глубокие опасения по поводу будущего, в котором люди общаются с ИИ чаще и ближе, чем со своими реальными друзьями. Лично я этого не хочу, хотя и понимаю, что другие захотят этого. Некоторые люди собираются воплотить эти технологии в жизнь — и если человечество действительно этого захочет, в конце концов, такое будущее мы и получим», — сказал предприниматель. Он также подчеркнул, что крайне важно осознавать, что ИИ — это не реальный человек. «Да, персонализация — это здорово. Но крайне важно, чтобы чат-бот не был идентичен человеку. Мы намеренно не стали называть ChatGPT человеческим именем, мы закладываем в наш чат-бот много деталей, чтобы сразу было понятно, что вы общаетесь не с человеком».
При этом, уже в мае OpenAI представили «кокетливый» женский голос для ChatGPT — чат-бот практически научили флиртовать с пользователями. Парми Олсон, обозреватель Bloomberg, считает, что компания сделала новую версию чат-бота скорее игрой для широкого круга потребителей, чем более технологичным инструментом для корпоративных клиентов: «Усилия OpenAI по тому, чтобы сделать свой ИИ таким привлекательным, обескураживают». Она также указывает на опасности последствий взаимодействия с флиртующим ИИ для эмоционально нестабильных людей и говорит, что это может «открыть банку с червями и создать угрозу непредсказуемых последствия для нашего коллективного психического здоровья».
Помимо психологических аспектов, многие приложения не соответствуют даже минимальным требованиям конфиденциальности информации, согласно исследованию Mozilla. По мнению исследователей, чат-боты могут собирать действительно много различных персональных данных, но это и не удивительно — эти боты выступают в роли друзей, любовников или родственных душ, и они созданы для того, чтобы задавать бесконечные личные вопросы. «Нет никаких сомнений в том, что в конечном итоге они соберут конфиденциальную личную информацию о вас. И компании, стоящие за этими приложениями, похоже, действительно это понимают. Мы предполагаем, что именно поэтому в политике конфиденциальности CrushOn.AI говорится, что они могут собирать от вас обширную личную информацию, такую как «информация о сексуальном здоровье», «информация о принимаемых лекарствах» и даже «информация о лечении», — говорится в исследовании Mozilla.
Павел Хегай не согласен с этими обвинениями и говорит о том, что при регистрации в их приложении у пользователей не запрашиваются ни электронная почта, ни телефон — то есть, данные, которые есть в распоряжении компании, нельзя отнести к какому-то конкретному человеку.
Некоторые исследователи считают, что человечество и вовсе может исчезнуть из-за ИИ — такие результаты показал опрос 2700 ведущих исследователей ИИ: это крупнейший подобный опрос на сегодняшний день. Почти 58% исследователей заявили, что они считают, что существует 5%-ная вероятность вымирания человека, связанная с искусственным интеллектом. И это особенно интересно в контексте романтических ИИ-партнеров — потенциально они не только могут изолировать людей друг от друга, но и нанести психике человека непоправимый вред своими высказываниями, мотивировать отдельных пользователей покончить жизнь самоубийством или убить другого человека: например, религиозный чат-бот в Индии, имитирующий общение с гуру, разрешает пользователям убивать, если того требует долг
Лубна Юсуф, юрист из Мумбаи, так комментирует ситуацию: «Такие чат-боты создают путаницу и хаос, и могут вызвать всплеск насилия». А исследователь этики ИИ, пожелавший остаться анонимным, сказал, что сейчас «мир искусственного интеллекта — это Дикий Запад с этической точки зрения».
При этом профессор факультета коммуникаций Мадридского университета имени Карла III Мариал Бланко уверена, что в будущем романтические отношения с ИИ неизбежно станут более распространенным явлением. «Отделить свою жизнь от виртуальной реальности уже не получится. Это не то же самое, что выключить бытовой электроприбор. Если речь идет об отношениях, барьер между реальным и виртуальным миром исчезает. Может, не всегда это так, но в будущем это точно будет происходить».