От Аристотеля до Альтмана: почему «эмерджентность» — ключевой термин для понимания ИИ
Термин «эмерджентность» (наличие у системы свойств, не присущих составляющим ее элементам) ввел в 1875 году философ Джордж Льюис, хотя явление уже было давно известно людям. На протяжении многих веков человеческое любопытство возбуждал факт возникновения чего-то совершенно нового в сложных системах, причем это никак не следовало из свойств составных элементов системы — и тем удивляло. Почему на поверхности песка возникают ровные волны? Как термиты строят колоссальные крепкие башни, если у них нет архитектора и никаких планов? Как по мере развития социальных связей между людьми возникают новые стабильные общественные институции? Те читатели этой колонки, кому когда-то пришлось (не обязательно по своей воле) изучать марксистскую философию, вспомнят закон перехода количества в качество, сформулированный Энгельсом: он, по сути, очередной раз демонстрировал попытку понять эмерджентные явления, а если и не понять, то хотя бы постулировать их неизбежность. Не зря же говорят: «Предупрежден — значит, вооружен».
Все эти размышления, от Аристотеля до наших дней, оставались сугубо описательными: они констатировали, что в мире регулярно происходят внезапные события в результате накопления медленных изменений, но вот с предсказательной силой этих размышлений дела обстояли плачевно. В относительно простых системах можно было хотя бы спрогнозировать суть внезапного изменения, хотя и не всегда момент его наступления: соломинки однажды переломят спину верблюду, хотя какая будет последней, сосчитать почти нереально. Но чем дальше системы были от простой механики, тем труднее становилось предположить даже суть внезапно возникающих в них явлений. Хуже того, для уже случившихся эмерджентных событий часто не удается найти и однозначно определить последовательность постепенных изменений и пороговую точку в них, приведшую к возникновению нового — появление жизни служит тому ярким примером. Эмерджентность вроде бы налицо, а вот споры на тему «как так вышло?» не стихают в научном сообществе.
В итоге практическая бесполезность понятия эмерджентности сделала его достаточно маргинальным: поговорить на досуге занимательно, применить для пользы дела не получается. Но тут вдруг оказалось, что цена правильных ответов составляет сотни миллиардов, если не триллионы, долларов. Причиной стало то, что если не понимание, то хотя бы воспроизведение давнего эмерджентного события стало фокусом развития цифровых технологий, миллиардных инвестиций, всемирного интереса политиков и в итоге почти всего человечества. Нейрофизиолог Вильям Калвин в 2006 году пророчески писал, что понимание квантового скачка, приведшего к возникновению интеллекта у приматов, поможет понять, как возникает и развивается ИИ. Но тогда это словосочетание мало кого возбуждало. Ученый напоминал: если разгладить все складки коры головного мозга шимпанзе, то ее площадь будет примерно равна площади газетной страницы. В случае человеческого мозга — четыре страницы. Калвин справедливо замечал: такой не очень впечатляющий количественный рост сам по себе вряд ли достаточен для возникновения нашего интеллекта, должно было что-то произойти со свойствами коры при монотонном увеличении ее размера. По его предположению, свою роль сыграли специализированные ее функции, в частности, связанные с языком.
По мере развития больших языковых моделей многие исследователи заговорили про эмерджентность, в 20-х годах нашего века слово стало популярным. Разработчики моделей заговорили о своих надеждах и тревогах, связанных с внезапным поведением моделей по мере роста их сложности. Авторы типичных высказываний «языковые модели способны на вещи, которые никто никогда не обсуждал при их создании» прекрасно отдают себе отчет в том, что сюрпризы, увы, не всегда радуют. Они на собственном опыте знают, что эмерджентность приводит подчас к появлению крайне нежелательного поведения моделей.
Сторонники понятного и предсказуемого мира отрицают эмерджентность как таковую по вполне понятным причинам — она явно противоречит принципу предсказуемости. Поэтому неудивительно, что вспыхнувшее обсуждение эмерджентности в поведении и способностях языковых моделей сопровождалось появлением исследований, в которых авторы оспаривали наличие самого феномена. В 2023 году исследователи из Стэнфордского университета прямо утверждали: пресловутое эмерджентное поведение — просто манипуляция метриками, которые демонстрируют скачки по мере достижения определенной сложности модели на одних и тех же обучающих данных. Дескать, если правильно подбирать метрики, то никаких скачков нет, и свойства моделей всегда предсказуемо изменяются по мере их усложнения. Отсюда делался обрадовавший многих встревоженных людей вывод: нам не грозит неожиданное появление общего ИИ. Его появление явилось бы эмерджентным событием, а таковых не бывает.
Точка в споре, однако, пока не поставлена. Миллиарды долларов и невероятные человеческие интеллектуальные усилия, вкладываемые в гонку современных ИИ-моделей, для многих инвесторов и разработчиков — как раз ставка на эмерджентность: все надежды не просто на монотонное улучшение, а на квантовый скачок, подобный когда-то случившемуся с нашими предками по пути от обезьяны к человеку. Весь азарт и интрига гонки к общему ИИ для них в том и состоит, что появление такого интеллекта может случиться неожиданно — и никто не знает, по достижению какого именно уровня сложности. Приз невероятно велик, он оправдывает миллиардные ставки, расходуемые на поддержание лидерства в сложности моделей, он окупит все для того, кто первым сорвет этот плод. Продолжавшийся веками теоретический спор про эмерджентность в итоге, возможно, не просто впечатляюще разрешится, но его результат будет для нас всех иметь серьезные последствия, и не только финансовые.
Мнение редакции может не совпадать с точкой зрения автора