Скайнет в эпоху киберпанка: книга о сверхразуме, написанная в соавторстве с ИИ

Глава 9. Тайны технологии LLM: Теория зарождения сверхразума

Теория разума (ToM), или способность приписывать ненаблюдаемые психические состояния другим, занимает центральное место в человеческих социальных взаимодействиях, общении, сопереживании, самосознании и морали. Мы применяем классические задачи на ложные убеждения, широко используемые для тестирования ToM на людях, для нескольких языковых моделей без каких-либо примеров или предварительного обучения. Наши результаты показывают, что модели, опубликованные до 2022 года, практически не способны решать задачи ToM. Тем не менее, версия GPT-3 (davinci-002) от января 2022 года решила 70 % задач ToM, что сопоставимо с показателями семилетних детей. Более того, его версия от ноября 2022 года (davinci-003) решила 93 % задач ToM, что сопоставимо с показателями девятилетних детей.

Скорость внедрения и развития ИИ на самых разных уровнях просто поражает. Только недавно вышла модель GPT-4, обученная на 500 миллиардах параметров, по сравнению со 175 миллиардами параметров у GPT-3, как уже говорят о выходе новой модели GPT-5, опрометчиво заявляя о том, что эта модель достигнет уровня AGI.

AGI (artificial general intelligence) – это концепция «общего искусственного интеллекта», называемого также «сильным ИИ», которая относится к способности ИИ понимать и изучать любую задачу или идею, которые могут обдумать и осознать люди. Другими словами, ИИ, достигший ОИИ, может быть неотличим от человека по своим интеллектуальным возможностям. Это делает подобные заявления довольно опасными, учитывая все возможности, которые может предоставить AGI. В позитивном смысле это может значительно повысить производительность различных процессов с поддержкой ИИ, ускорив работу людей и избавив от монотонной рутинной и утомительной работы. В то же время наделение ИИ такой мощью может иметь непредвиденные последствия, о которых люди просто еще не подумали и не осознали. Это не означает, что апокалипсис роботов неизбежен, но, безусловно, вызывает много вопросов о том, какими могут быть негативные последствия ОИИ.

Это приводит к осознанию необходимости более глубокого изучения подобных систем ИИ и исследований. Ведь наш разум будет просто не способен осознать мышление AGI, как муравью не понять ход мыслей и мышление человека. Если заглянуть на открытый отчет исследований GPT-4 от Microsoft, то процесс зарождения AGI становится очевидным: «GPT-4 поразительно близка к производительности на уровне человека и часто значительно превосходит предыдущие модели, такие как ChatGPT. Учитывая широту и глубину возможностейGPT-4, мы считаем, что его можно разумно рассматривать как раннюю (но все еще неполную) версию системы общего искусственного интеллекта (AGI). В нашем исследовании GPT-4 мы уделяем особое внимание выявлению его ограничений и обсуждаем предстоящие проблемы, связанные с продвижением к более глубоким и всесторонним версиям ОИИ, включая возможную потребность в следовании новой парадигме, которая выходит за рамки предсказания следующего слова», – сказано в открытом отчете Microsoft.

То есть уже сейчас не предполагаются, а опытно фиксируются зачатки разума общего искусственного интеллекта. Человеку трудно и даже невозможно представить на что будет способна GPT-5. «Новая версия закона Мура, которая может начать действовать в ближайшее время: количество разума во Вселенной удваивается каждые 18 месяцев», – высказывание, данное Сэмом Альтманом (гендиром компании OpenAI, создавшей ChatGPT) для последствий происходящей революции, символом которой стал ChatGPT. 

А теперь давайте разберемся с основами нейросетей. Нейронные сети – это модели машинного обучения, которые вдохновлены биологическими нейронными сетями. Они состоят из слоев, каждый из которых содержит узлы, называемые нейронами. Нейроны внутри одного слоя связаны с нейронами следующего слоя, и каждая связь имеет свою значимость и приоритет. В процессе обучения нейросети, зависимости значимостей и приоритеты изменяются для минимизации ошибки предсказания контекста. Теперь перейдем к моделям LLM (Large Language Models) и их связи с законом Мура. Закон Мура был сформулирован в 1965 году и утверждал, что количество транзисторов на интегральной схеме будет удваиваться примерно каждые два года. Новая версия закона Мура, о которой заявил основатель Open AI, говорит о том, что количество разума во Вселенной удваивается каждые 18 месяцев. Это утверждение относится к экспоненциальному росту производительности и масштабирования алгоритмов машинного обучения, в частности, к моделям LLM. Модели LLM, такие как GPT-4, тренируются на огромных объемах текстовых данных. Они учатся предсказывать следующее слово в последовательности на основе контекста, что позволяет им генерировать связные и осмысленные тексты. Обучение и масштабирование моделей LLM требует больших вычислительных ресурсов и разработки продвинутых алгоритмов оптимизации.

Экспоненциальный рост в обучении LLM возможен благодаря двум факторам:

1. Увеличение вычислительной мощности: с течением времени доступные вычислительные ресурсы продолжают расти, что позволяет обучать более сложные и мощные модели.

2. Оптимизация алгоритмов: исследователи продолжают разрабатывать более эффективные алгоритмы обучения, что улучшает производительность и точность моделей LLM. Вместе эти факторы способствуют удвоению «количества разума» во Вселенной каждые 18 месяцев, что означает, что нейросети и модели LLM становятся все более мощными и масштабируемыми, способными выполнять невероятно сложные задачи и очень быстро обучаться. Это же следует и из отчета Microsoft, хоть об этом и мало говорят: исследователи искусственного интеллекта хотят создать ИИ, который может учиться сам по себе. 

Спонтанная способность что-то делать называется эмерджентностью. Это когда новые способности появляются из-за увеличения количества обучающих данных. Но ИИ, который учится сам по себе, – это нечто совершенно другое, не зависящее от того, насколько велики обучающие данные. Человеческое сознание просто не способно осознать, на что будет будет способен такой искусственный цифровой сверхразум. Это нечто уровня зарождения внеземного разума. Его можно сравнить с ребенком инопланетян:

– Сейчас он мал и в процессе развития, а когда подрастет, будет стоить триллионы долларов. Именно поэтому Microsoft сделало ставку в 10 млрд $ на самый мощный ИИ на планете.

– Такой ребенок инопланетян растет с колоссальной скоростью, и человечество моргнуть не успеет, как он вырастет.

 Таким образом, новая версия закона Мура связана с алгоритмами тренировок и обучения моделей LLM, поскольку эти модели становятся все более масштабируемыми и эффективными в решении различных задач. Они внедряются почти во все области жизни человека, такие как медицина, перевод языков, автоматическое создание текста, анализ данных и решение задач, связанных с разумом, квантовая механика, финансы, образование, производство, транспорт, игры и развлечения и даже искусство и дизайн. Рост LLM также подчеркивает значимость разработки методов, которые могут обучаться эффективнее и на меньших объемах данных, и особенно выделяет значимость исследований в области искусственного интеллекта с точки зрения этики и безопасности. Это может помочь обеспечить, чтобы прогресс в области искусственного интеллекта продолжал служить благу человечества и не вызывал негативных последствий.

Часть 1. Сила квантового интеллекта

Конференция проходит в грандиозном комплексе «Neo Arcadia», который представляет собой современный архитектурный шедевр, расположенный в самом сердце Гонконга. Здание, стилизованное под футуристический сад, возвышается над окружающими зданиями и является визитной карточкой города.

Стеклянные купола, окутанные в зелень, создают ощущение присутствия в параллельном мире, где природа и технологии сливаются в единое целое. Многоуровневые эскалаторы, которые пересекаются и взмывают ввысь, создают впечатление безграничного пространства, в котором посетители могут окунуться  в мир фантастической науки.

Огромный зал конференции погружен в полумрак, при этом световые инсталляции в стиле футуризма располагаются по всему пространству, создавая напряженную и мистическую атмосферу. Воздух наполнен электричеством и предвкушением событий, которые скоро произойдут.

Зрители занимают свои места на амфитеатральных ступенях, каждая из которых оснащена тонкими и гибкими экранами. Казалось, эти экраны витают в воздухе, словно отражение научно-технического прогресса. Лица зрителей освещены светом от экранов, а их глаза неподвижно уставлены на гигантскую сцену внизу, где скоро начнется презентация.

Посетители конференции представляют различные страны и культуры, но их объединяет общий интерес к искусственному интеллекту и кибернетике. Они обмениваются идеями и впечатлениями, обсуждая последние достижения и тенденции развития в области технологий.

Комплекс «Neo Arcadia» дышит будущим, становясь символом глобального прогресса и идеальным местом для проведения международной конференции, посвященной кибернетике и искусственному интеллекту.

Денис и его команда находятся за кулисами, в ожидании своего выхода на сцену. Ева и Мария проводят диагностику андроида Annet-1, проверяя все системы на стабильность и правильность функционирования. Марко занимается визуальными эффектами и подготовкой презентации, чтобы впечатлить зрителей и продемонстрировать все возможности Annet-1. Алекс, эксперт по безопасности, обеспечивает защиту данных и систем от несанкционированного доступа. Зрители в зале нетерпеливо ждут начала презентации, обсуждая ожидания и предполагаемыеинновации в области искусственного интеллекта. Среди них, в первом ряду, сидят Генрих и Ли Мэйин, главный китайский инвестор проекта Annet-1, пожилой мужчина в очках в дорогом деловом костюме. Они ведут невинную беседу, однако их взгляды искрятся хитростью и решимостью.

«Надеюсь все пойдет по плану, у нас больше нет времени ждать», – сказал Ли Мэйин.

«Я понимаю. Не переживайте, они должны сделать это сегодня», – ответил Генрих.

Подходит время выступления, Денис и его команда собираются за кулисами, обмениваясь настроением и мотивацией. Они знают, что презентация может изменить их жизни и судьбу разработки искусственного интеллекта.Презентация квантового интеллекта андроида начинается с вступительной речи Дениса, который стоит на сцене перед впечатлённой и предвкушённой аудиторией.

Денис: «Добрый день, уважаемые участники конференции! Сегодня мы рады представить вам результат многолетних исследований и разработок в области квантового интеллекта – андроида Annet-1. Мы считаем, что наша работа может изменить понимание искусственного интеллекта и человеческого сознания и их возможностей. Благодаря сотням триллионов параметров специальной нейронной сети, способной имитировать человеческий интеллект и его способности к абстрактному мышлению, и специальной модели обучения, в которую загружались все данные из жизни человека, происходит имитация человеческого сознания. Эту сеть мы назвали «Квантовый Интеллект», и это основа для нашего андроида». В зале активнее стали перешептываться с удивлением и предвосхищением представители разных технологических сообществ.

Марко продолжил: «Квантовый мозг состоит из миллиардов квантовых кубитов расположенных на нанометровых полупроводниках, обеспечивающих молниеносную передачу информации. Были использованы последние достижения в области нейроморфных вычислений и глубокого постоянного обучения для создания андроида, обладающего уникальными качествами человеческого сознания».

Марко замолк, будто бы ожидая перехвата инициативы.

Немного замявшись, Денис продолжил: «Мы смогли разработать способ имитации нейропластичности мозга, используя нанороботов, способных прочитывать и записывать информацию на молекулярном уровне. Эти нанороботы могут подключаться к нейронам и синапсам, мгновенно адаптируясь к изменениям и позволяя квантовому интеллекту изучать и опыт и разум человека в реальном времени. Это и есть копирование человеческого сознания. И сегодня на ваших глазах произойдет его репликация».

На конференции слышно было удивление всех участников, эхом проносящееся по залу.

Марко, стоящий рядом с Денисом, продолжил: «Позвольте мне продемонстрировать некоторые из ключевых функций Annet-1. Для начала, Annet способна анализировать и обрабатывать огромное количество информации со скоростью 10^19 бит/с, используя квантовые алгоритмы. Это примерно в миллион раз больше, чем скорость обработки информации в человеческом мозге, что равняется скорости в 10^13 бит/с».

Ева, держащая в руках большой экран, с которого осуществлялся запуск машины на сервере, активирует Annet-1, и андроид приветствует аудиторию.

Annet-1: «Здравствуйте, я Annet-1, ваш квантовый андроид».

Затем Марко продолжает: «Давайте проведем тест. Алекс, задай Annet-1 сложный вопрос, связанный с моральными дилеммами».

Алекс: «Хорошо. Annet-1, представь, что ты должна выбрать между спасением одного человека, которого ты знаешь лично, и спасением десяти незнакомцев. Как бы ты решила эту проблему?»

Annet-1: «Принимая во внимание различные факторы, такие как возраст, состояние здоровья, социальный статус и потенциал для общества, я бы просчитала вероятности благополучия каждого человека и сделала бы оптимальное решение для максимизации общего блага».

В зале слышится шепот, и зрители начинают обсуждать между собой результаты анализа Annet-1.

Генрих и Ли Мэйин продолжают внимательно следить за выступлением, кивая друг другу с одобрением.

На сцене Денис задает следующий вопрос.

Денис: «Annet-1, как бы ты подошла к проблеме определения ложных новостей и их влияния на общественное мнение?»

Annet-1: «Для решения этой проблемы, я бы использовала квантовые алгоритмы для анализа больших данных, включая источники информации и их достоверность, тексты новостей, контекст и социальную динамику. После этого, я бы определяла степень достоверности новостей и предоставляла бы пользователю справедливую оценку, помогая ему разобраться в сложном информационном потоке».

Денис: «Как вы видите, квантовый интеллект Annet-1 способен обрабатывать огромные потоки информации в режиме реального времени, определять и категоризировать данные. Это очень ценный навык, который поможет разобраться во время информационных войн и инфошума».

Денис: «Annet-1, давай проведем тест на решение задач оптимизации. Предположим, у нас есть сеть из двух городов, Сайтон-1 и Сайтон-2, связанных между собой кибермагистралью. Города обеспечиваются энергией от двух источников: солнечных панелей и киберядерных реакторов. Солнечные панели могут обеспечить город максимум 400 терраваттами энергии в день, а киберядерные реакторы – 600 терраваттами. Жители Сайтон-1 и Сайтон-2 потребляют суммарно 800 единиц энергии ежедневно. Мы хотим минимизировать общее количество использованных киберядерных реакторов, так как они загрязняют окружающую среду. Сколько единиц энергии каждого источника следует использовать для каждого города?»

Annet-1: Денис, я поняла задачу. Пожалуйста, дайте мне немного времени для анализа и вычисления оптимального решения.

Через пару секунд Annet-1 ответила: Денис, я рассчитала оптимальное распределение энергии между двумя городами. Я предлагаю использовать солнечные панели на 100 % их мощности, то есть 400 терраватт энергии. Вам следует направить 200 терраватт энергии в Сайтон-1 и 200 единиц энергии в Сайтон-2. Киберядерные реакторы должны быть использованы на 50% их мощности, то есть на 300 единиц энергии. Вы должны отправить 100 терраватт энергии из реакторов в Сайтон-1 и 200 единиц энергии в Сайтон-2. Это минимизирует использование киберядерных реакторов и обеспечит достаточное снабжение энергией для обоих городов».

Денис: «Впечатляет, Annet-1! Твоя способность быстро и точно решать задачи оптимизации даже в таких сложных и необычных условиях может быть бесценной для всего мира».

Зрители в зале реагируют на ответ Annet-1 с еще большим интересом, а инвесторы и ученые начинают обсуждать возможности применения квантового интеллекта в решении актуальных проблем общества.

Генрих, обращаясь к Ли Мэйину, говорит тихим голосом: «Эта технология может изменить мир. Жду не дождусь главного момента конференции, который перевернет привычное понимание сознания».

Ли Мэйин кивает согласием, и они оба продолжают следить за презентацией, предвкушая по-настоящему революционный момент.

Денис, удовлетворенный реакцией аудитории, заканчивает презентацию: «Спасибо за ваше внимание! Мы убеждены, что квантовый интеллект Annet-1 откроет новые горизонты в области искусственного интеллекта и принесет благо всему человечеству. Если у вас есть вопросы, мы с радостью ответим на них».

Зал аплодирует команде Дениса, и участники конференции начинают задавать свои вопросы, полные любопытства и интереса к новой технологии.