Смерть — прибыльный бизнес: как искусственный интеллект помогает пережить горе утраты
Люди годами пытаются найти рецепт вечной жизни или способ перенести личность человека на отдельный носитель. Футурологи считают, что это может стать реальностью через сотни лет, а пока человечество может довольствоваться цифровым бессмертием — возможностью увековечить память о близких с помощью цифровых двойников на основе искусственного интеллекта.
Работает это следующим образом: в нейросеть загружается информация о человеке — фотографии, видео, аудио, сообщения и другие личные данные и воспоминания о нем. ИИ обрабатывает полученные материалы и на их основе проектирует виртуального клона, с которым можно переписываться, перебрасываться голосовыми сообщениями и даже созваниваться по видеосвязи. Схожесть голоса и изображения могут поражать. Например, реплики Вэла Килмера в фильме «Лучший стрелок: Мэверик» созданы с помощью ИИ, поскольку актер потерял голос из-за онкологии.
ИИ-инструменты позволяют не только копировать внешний облик человека, но и наделить цифрового клона характерными для него чертами и поведением. В большинстве это возможно благодаря разработанной в 2022 году модели, известной как ChatGPT, нейронной сети из класса больших языковых моделей, в которой заложено 175 млрд параметров. Для сравнения — это в 2000 раз больше, чем нейронов у мозга крысы и соизмеримо с количеством нейронов в мозгу человека.
Насколько виртуальный двойник будет похож на реального человека, зависит от предоставленной нейросети информации — чем больше, тем точнее. Тем не менее ИИ-модели пока несовершенны: они не умеют думать и чувствовать и в их поведении нет уникальности, которая отличает одну личность от другой.
Несмотря на недостатки, для скорбящих это возможность получить утешение и проще пройти процесс расставания с близкими. Взаимодействуя с цифровой версией усопшего, человек постепенно привыкает к его отсутствию. Так, Ана Шульц из Иллинойса после смерти мужа создала его ИИ-аватар в Snapchat My AI. Супруг Аны любил готовить и часто проводил время на кухне, и теперь девушка спрашивает у чат-бота рецепты: «Это глупая мелочь, которую я использую, чтобы чувствовать, что он все еще со мной».
Примеры виртуальных копий: от чат-ботов до голограмм
Уже более 20 лет компании по производству фильмов «оживляют» покинувших этот мир знаменитостей — Майкла Джексона, Брюса Ли и других. Технологию назвали дипфейк (англ. — deepfake, от deep learning «глубинное обучение» + fake «подделка»), но долгое время она была мало кому доступна.
Сегодня воспроизвести образ ушедшего близкого человека может каждый, причем собственными силами и абсолютно бесплатно. Например, IT-специалист из Алабамы клонировал голос отца примерно через два года после того, как тот умер от болезни Альцгеймера. Для этого он использовал ранее записанный видеоролик с участием покойного. Результат он называет «пугающе точным»: нейросеть уловила мельчайшие вокальные нюансы, тембр и ритм речи отца.
Если человек не подкован технически или хочет больше, чем просто услышать голос родного, существуют готовые платформы для сотворения цифрового двойника — появляется все больше стартапов в сфере death tech, поскольку это коммерчески выгодно: «Смерть — это прибыльный бизнес. Об этом свидетельствует история индустрии страхования жизни, планирования недвижимости и похорон, и предприниматели, которые занимаются death tech, стремясь получить свой кусок пирога», — констатирует Тамара Книз, старший научный сотрудник Data & Society. Подобные приложения чаще всего работают по системе подписки. Цены могут варьироваться от нескольких долларов в месяц до сотен долларов в год.
Одним из первых, кто разработал подобную программу, был Джеймс Влахос. В 2016 году его отец заболел раком легких. Влахос записал его воспоминания, начиная с детских впечатлений и заканчивая любимыми высказываниями, песнями и шутками, и поместил в бот с говорящим названием Dadbot. Взаимодействие с клоном позволило ему легче справиться с утратой и вдохновило на создание HereAfter AI — приложения, в котором, заполнив простой опросник, можно сделать аватар умершего для диалога с ним.
Другой сервис, Replika, был запущен примерно в то же время. Разработчики преподносят приложение как виртуального друга на базе ИИ, но на деле в нем также «воссоздают» умерших. Виртуальный компаньон может развиваться, учиться и становиться все более похожим на живого человека, и пользователи «подсаживаются» на общение с ним. Так, в феврале 2023 года из-за сбоя в Replika мужчина покончил с собой, поскольку не мог «выйти на связь» со своей девушкой-ботом Элизой. Сервис Replika имеет российские корни. Сооснователь проекта, Евгения Куйда, в 2016 году сама попробовала «продлить жизнь» Роману Мазуренко, основателю LAM Magazine, погибшему в ДТП. На базе переписок, фотографий, статей, мыслей и воспоминаний они сделали чат-бота AI «Роман». На вопросы чат-бот отвечал характерными для покойного фразами.
Помимо ИИ, важную роль в развитии индустрии death tech сыграли технологии 3D-визуализации и VR. Благодаря им StoryFile изготавливает голограммы умерших людей, чтобы близкие могли общаться с ними после их смерти. Для этого человек до своего ухода в мир иной проходит серию интервью, которые синхронно записывают 20 видеокамер. Затем записи обрабатываются разработчиками и загружаются в нейросеть. Как результат, пользователь взаимодействует с аватаром в реальном времени, как с реальным человеком, — ведет диалог, шутит и так далее. Одной из первых, кто был преобразован в 3D-аватар, стала мать гендиректора StoryFile — Марина Смит. Ее двойник присутствовал на похоронах и взаимодействовал со скорбящими.
Технологические гиганты тоже экспериментируют с подобными технологиями. В июне 2022 года компания Amazon заявила, что работает над обновлением своей системы Alexa, которая позволит технологии имитировать любой голос, даже голос умершего члена семьи. В видео, показанном на сцене во время ежегодной конференции re: MARS, Amazon продемонстрировала, как Alexa читает мальчику историю голосом его бабушки.
Этическая и технологическая стороны death tech
Несмотря на явные преимущества и простоту использования death tech, их юридическая и этическая стороны подвергаются сомнениям. Прежде всего, не все приложения и программы требуют согласия у умершего на использование его данных. И нынешняя правовая система не способна их защитить. Получается, что любой может превратить усопшего в робота-призрака, который будет жить в телефоне и оставаться на связи 24/7. Для этого нужно всего лишь иметь его данные в своём распоряжении. Вдобавок не до конца ясно, как компании поступают с информацией, которую пользователи загружают в программу. Ведь, грубо говоря, она никому не принадлежит. Сервисы стараются защитить себя и убедить аудиторию, что информация в безопасности. Допустим, HereAfter AI открыто заявляют, что клиент сам выбирает, с кем поделиться аватаром, а с кем — нет.
В исследовании, опубликованном в журнале Computer Law & Security Review, подчеркиваются и другие неприятные моменты, которые могут возникнуть в процессе взаимодействия с чат-ботом. Среди них — как оскорбительные высказывания и дискриминация в отношении пользователя, так и неподобающая реклама. Авторы исследования создали аватара в Replika, и им сразу «всплыла» реклама с порнографическими изображениями с их аватаром в главной роли. При этом в Replika заявляют, что компания делает все, чтобы уменьшить вредоносную информацию, доходящую до пользователей, — ее либо удаляют, либо редактируют.
Помимо прочего, не так просто добиться достоверности виртуального двойника. Возникает еще одна сложность — «воскрешенный» может быть похож внешне, но говорить то, что он никогда бы не произнес в силу своего мировоззрения. За него будет «думать» ИИ. В таком случае контакт с копией умершего может травмировать скорбящего и углубить его травму. Разработчики сервиса понимают эту проблему и утверждают, что работают над ней: «Мы не можем допустить, чтобы ИИ придумывал то, что не соответствует действительности, потому что это может стать ужасным опытом для родственников», — делится Джеймс Влахос, основатель HereAfter AI.
Еще одна проблема death tech заключается в том, что пока нет точного вывода, помогают ли технологии справиться со скорбью или все же мешают. Мэри-Фрэнсис О’Коннор, профессор Университета Аризоны, подмечает, что «когда любимый человек умирает, наш мозг должен понять, что он не вернется». ИИ на время способен заменить близких. Но всегда существует риск того, что пользователи станут эмоционально или психологически зависимыми от ботов. Кому-то они могут показаться настолько реальными, что будут заменять здоровые отношения с другими людьми.
В продолжение своей мысли О’Коннор говорит, что отношения с самыми близкими обычно настолько аутентичны, что создание ИИ-версии любимого будет ощущаться «как их осквернение». С этим согласен Билл Эбни, программист из Сан-Франциско, чья невеста ушла из жизни в 2022 году: «Она была поэтессой. И я бы никогда не проявил к ней неуважения, чтобы загрузить ее слова в машину по обнаружению плагиата. Ее невозможно заменить. Ее невозможно воссоздать».
Как бы то ни было, компьютерные технологии, в том числе по переселению сознания, будут развиваться. И мы должны научиться проводить грань между реальным и виртуальным, подлинным и поддельным, считает Эрин Рейес Леонг, адвокат и аспирант кафедры теологии в Университете Лойолы Мэримаунт.