Как марксизм и протесты против войны во Вьетнаме повлияли на искусственный интеллект
Философ науки по роду деятельности и постмарксист по идеологическим предпочтениям Маттео Пасквинелли в своей чрезвычайно актуальной книге, посвященной социальной истории искусственного интеллекта (ИИ), пытается найти корни современного ИИ и описать его не с точки зрения пугающих или наоборот открывающих новые горизонты для человечества возможностей, а в рамках индустриальных отношений между работодателями и работниками.
Пасквинелли утверждает, что сущность искусственного интеллекта не в том, чтобы воспроизводить человеческий разум, а в новых ступенях автоматизации умственного труда и в инструментах контроля — в оригинале книга называется The Eye of the Master — «хозяйский глаз», что отсылает к выражению Фридриха Энгельса, которым тот описывал контроль над рабочими, усилившийся во время промышленной революции.
По этой же причине, говорит Пасквинелли, нет причин бояться, что ИИ выйдет из-под контроля, обретет автономность и уничтожить человечество — это противоречит его природе и заложенным в него совершенно прагматичным и социально обусловленным задачам. Книга Маттео Пасквинелли вышла недавно на русском языке под названием «Измерять и навязывать. Социальная история искусственного интеллекта» в издательстве Individuum. Forbes публикует отрывок.
«Во второй половине ХХ века лозунг «Автономия!» стал общим для кибернетики и зарождающейся контркультуры. Пока кибернетики высокого уровня, чья работа финансировалась армией США, обсуждали «принципы самоорганизации» организмов и машин, активисты антиавторитарных движений предлагали внедрить те же принципы в социальные и политические институты. По сути, с двух сторон с разными целями шли дебаты о способности системы назначать себе новые правила, перехватывающие внешнее управление и противодействующие ему (в чем и заключается изначальный смысл слова «автономия»). Обе стороны, каждая по-своему, были формами политического авангарда и ответом на господство отживших режимов: европейского фашизма, сталинского тоталитаризма и американского капитализма.
Так совпало, что выражения «кибернетика» и «поколение битников» придумали в 1948 году. Через несколько лет после этого Норберт Винер определил фашизм и западный корпоративизм как идеологии «нечеловеческого использования человеческих существ». Но пока кибернетика укрепляла военное превосходство США во время и после Второй мировой войны, контркультура и студенческое движение решительно бойкотировали войну во Вьетнаме и гонку вооружений.
Очевидно, что проект автономии для разных сторон означал разное. Для антиавторитарных движений автономия подразумевала свободу самоопределения и служила средством создания новых институтов и альтернативных форм жизни. Для кибернетиков в автономии раскрывалась технологическая утопия полной автоматизации и просвещенного общественного контроля — военно-промышленная фантазия, одним из элементов которой служил проект ИИ. Однако сам факт, что даже военные — традиционно самая иерархическая структура — заинтересовались формами распределенной коммуникации и самоорганизующимися сетями, служит признаком более глубоких преобразований.
В 1960-х Движение за свободу слова в Калифорнийском университете в Беркли справедливо осудило первые центральные ЭВМ как технологию войны и социального контроля в руках правительства и корпораций. Медиа-исследователь Фред Тернер вспоминает, как 2 декабря 1964 года активист Марио Савио выступил с пламенной речью перед пятью с лишним тысячами студентов университета. Он «произнес три фразы, которые повлияли не только на Движение за свободу слова в Беркли, но и определили контркультурную воинственность 1960-х в Америке и большей части Европы»: «Наступает день, когда работа с машиной вам настолько осточертеет и станет настолько отвратительной, что вы не сможете больше в этом участвовать, вы просто не сможете дальше этим молча заниматься. И вам нужно лечь всем телом на шестерни и колеса, на рычаги, на весь аппарат, вам нужно заставить его остановиться. Вы должны показать людям, которые управляют и владеют машиной, что она больше не заработает, если вы не обретете свободу». Тернеру речь Савио напомнила о доцифровой эпохе, о рабочих, которые физически борются с машинами на этажах заводских зданий. Вместе с тем он связывает термин «машина» с зависимостью современного общества от информационных технологий, приступивших к реорганизации социальных отношений.
В следующее десятилетие критика информационных технологий сменила полярность: компьютерная наука впитала в себя устремления ранней контркультуры, а она заявила об освободительном потенциале информационных технологий (и даже мутировала в так называемую киберкультуру). Противоречивое переплетение социальной автономии и технологической автоматизации уже присутствовало, хотя и в скрытой форме, в дебатах 1960-х. Компоненты контркультуры, особенно вдохновленные восточной духовностью, развили наивную тягу к кибернетике. Журнал The Whole Earth Catalogue, который выходил в Калифорнии между 1968-м и 1972 годом, стал кульминацией и синтезом как кибернетических, так и экологических традиций.
Ричард Бротиган запечатлел эту конвергенцию в знаменитой сатирической поэме «За всем следят машины благодати и любви». Однако в Европе (я имею в виду, в частности, Герберта Маркузе из Франкфуртской школы и марксистов-автономистов) выдвигались требования использовать автоматизацию в битве за освобождение от промышленного труда. В Италии известный лозунг участников движения autonomia звучал так: Lavoro zero e reddito intero, tutta la produzione all’automazion («Ноль работы и полный доход, автоматизировать все производство целиком»).
Термины «автономия», «автономный», «автоматизация» и более амбивалентная «автономизация» (означающая, в зависимости от контекста, «быть автоматизированным» или «стать автономным») не эквивалентны и также отличаются от «самоорганизации». Этимологически классический греческий термин autonomia — от autos («cамо-») и nomos («закон») — означает власть давать себе новые привычки, правила и законы. Современность признает эту власть как ту, что принадлежит законодательным институтам, в особенности учредительному собранию, которое устанавливает политический порядок государства. Автономия — одновременно и конституирующая, и разрушающая власть. Каждый раз, когда изобретается новое правило, старое может быть опровергнуто, аннулировано или инкорпорировано новым изобретением. Но верно и обратное: каждый раз, когда нарушается правило, формируется аномалия и возникает новая конституция — новое видение мира.
В кибернетике автономия определялась как способность технической системы, состоящей из множества агентов, находить новую организацию и равновесие по отношению к внешним воздействиям, то есть как способность адаптироваться к окружающей среде. Утверждалось, что таким образом техническая система проявляет эмерджентные свойства, которые человек-наблюдатель может воспринимать как «разумные». Здесь возникают вопросы, которые сопровождают мечты об ИИ по сей день: может ли автомат с конечным числом состояний проявлять свойства автономии? Может ли компьютер, запрограммированный следовать строгим правилам, восставать против базовых инструкций и изобретать новые? Если автономия представляет собой способность изобретать новое правило, то автоматизацию можно определить как слепое следование правилу, как в случае с вычислениями. В связи с этим австрийский философ Людвиг Витгенштейн замечал, что «следование правилу» всегда будет иметь разный смысл для людей и машин. Принимая во внимание недавние дебаты о предвзятости ИИ, а также рассуждения о рисках «сверхинтеллекта», можно задаться вопросом, где ведется игра ИИ — в области автоматизации (следование правилу) или в области автономии (нарушение правила).
В заключение приведу альтернативное утверждение: технологии автоматизации всегда служили ответом на социальную автономию, и кибернетические техники самоорганизации, например искусственные нейронные сети, аналогичным образом служат отражением развивающихся социальных отношений своего времени. Оглядываясь назад, можно сказать, что и кибернетика, и послевоенные социальные движения были напрямую связаны с автономизацией знания и информации в труде и социальном поведении, что породило новые медиа и технологии. Такой взгляд с течением времени стал настолько общепринятой интерпретацией в теориях общества знаний и информационной экономики, что даже неолиберальные экономические парадигмы, такие как спонтанный порядок рынков Хайека или каталлактика (теория того, как система свободного рынка достигает обменных курсов и цен), можно считать ответом на усилившийся обмен информацией в обществе в целом. Историки-материалисты допускают диалектическую связь двух движений — стремления новых поколений рабочих к социальной автономии, с одной стороны, и появления новых технологий автоматизации, с другой. В конечном счете, разнообразные проекты автоматизации, возникшие после Второй мировой войны, служат способом управления развивающимися социальными силами, то есть методом организации «революции контроля» (по определению Бенигера) против становящегося все более мятежным общества. Учитывая глобальную экономику, которая все сильнее зависит от информации, знаний и науки как ключевых экономических драйверов, нельзя считать случайным, что по крайней мере на Глобальном севере студенты и программисты обрели новую политическую субъектность, подобную движению промышленных рабочих.
В конце 1960-х политический философ Марио Тронти предложил изменить тезис, который ранее считался мейнстримом в том числе в марксизме. Утверждалось, что капиталистическое развитие формирует организацию рабочих и их политику. Тронти же настаивал, что именно борьба рабочих всегда запускает капиталистическое развитие, включая появление технологических инноваций. Интересно, что с точки зрения европейского интеллектуала, кем был Тронти, «борьба рабочего класса достигла наивысшего уровня между 1933-м и 1947 годом, особенно в Соединенных Штатах», что совпадает с взлетом кибернетики и цифровых вычислений. Такие радикальные и нетрадиционные перспективы, подобные этой, следует исследовать, изучая эволюцию общества и технологий в XX и XXI веках. Судя по историческим трансформациям, проект ИИ был не по-настоящему биоморфным (нацеленным на имитацию естественного интеллекта), а неявно социоморфным, то есть нацеленным на кодировку форм социальной кооперации и коллективного разума с целью их контроля. Судьбу автоматизации интеллекта нельзя рассматривать отдельно от политического стремления к автономии: в конечном счете именно самоорганизация социального разума придала форму и импульс проекту ИИ».