Дипфейки, репетиторы и запрещенные слова: как Китай планирует регулировать ИИ
О том, что такое генеративный искусственный интеллект и как его можно применять в быту, массовая аудитория узнала в начале этого года, когда поднялся шум вокруг ChatGPT. За очень короткое время эти технологии проникли буквально во все аспекты жизни людей: от написания дипломов и генерирования изображений для выставки до издания детских книг, полностью созданных с помощью искусственного интеллекта.
Китай, который пытается бороться с США за технологическое лидерство, не мог остаться в стороне от этого тренда. Более того, как пишет The New York Times, представители китайского технологического сообщества «шокированы и деморализованы» тем, что они настолько отстали в области технологий искусственного интеллекта, что ChatGPT придумали не они. Удручает их и то, что китайский эквивалент чат-бота недостаточно хорош, чтобы составить конкуренцию американскому. В то же время в США обеспокоены тем, что Китай может, приложив усилия, достичь лидерства в области генеративного ИИ, чему могут способствовать соответствующие амбиции китайских властей.
Применять существующие технологии в Китае уже начали — это привело к сокращению на 70% вакансий для художников компьютерных игр, к увольнениям копирайтеров и дизайнеров из рекламных агентств и как минимум одному аресту за использование искусственного интеллекта для генерирования фейковых новостей.
В гонку за место лидера по развитию и внедрению искусственного интеллекта Китай вступил не сегодня. «Автократические правительства хотели бы иметь возможность предсказывать местонахождение, мысли и поведение граждан. А искусственный интеллект — это, по сути, технология прогнозирования», — считает профессор экономики Гарварда Дэвид Ян. Илон Маск недавно даже похвалил Китай за успехи в области ИИ, сказав: «Если китайский народ решает преуспеть в чем-то, у него это получается, с ИИ будет так же». Неизвестно, насколько это отражает его веру в китайский народ, учитывая, что произнес он эти слова, выступая по видеосвязи на организованной китайским правительством конференции в Шанхае. Кроме того, Китай — один из главных рынков электрокаров для Tesla.
Запрет на дипфейки
До недавнего времени эксперименты по внедрению ИИ проникали практически во все сферы жизни граждан Китая. Например, в 2019 году компания Squirrel AI в сотрудничестве со средней школой в Ханчжоу начала внедрять ИИ как аналог репетиторства. Один из учеников решил опробовать технологию для помощи с заданиями по математике — и к концу семестра его результат вырос с 50% до 62,5%. Через два года на финальном экзамене перед старшей школой он справился с 85% заданий. К августу 2019 года Squirrel AI привлекла более $180 млн, открыв более 2000 образовательных центров по всей стране. А в конце 2018-го получила статус «единорога», и капитализация компании превысила $1 млрд.
В июле 2021-го в Китае запретили работу коммерческих курсов дополнительного образования для младшей и средней школы. Тогда основной целью было ограничение репетиторства как вида деятельности, а искусственный интеллект, который для этого использовался, оказался затронут запретом только косвенно. С прошлого года, однако, правительство КНР взялось именно за ИИ-технологии.
В апреле 2023-го Администрация киберпространства Китая опубликовала черновик закона о регулировании генеративного искусственного интеллекта в стране. До 10 мая он находился в публичном доступе для комментирования, а сейчас проходит раунд редактирования перед утверждением финальной версии — пока неизвестно, сколько времени займет доработка, потенциально закон может быть принят к концу года. После вступления закона в силу регулятор будет определять, какие данные можно использовать для разработки алгоритмов. Согласно черновику, под регулирование попадет любой генеративный искусственный интеллект и любые инструменты, которыми он пользуется: код, тексты, изображения, аудиозаписи и другие.
«Такие черновые правила — последний кирпич в регулирующей конструкции, которую Китай выстраивает вокруг искусственного интеллекта и связанных с ним технологий», — сообщила DigiChina Хелен Тонер, глава по грантам на стратегические и фундаментальные исследования Центра безопасности и новых технологий Джорджтаунского университета. Для лучшего понимания документа стоит обратиться к принятому в конце 2022-го закону о регулировании глубоких нейронных сетей, или так называемых дипфейков. Такая технология позволяет синтезировать изображение с помощью искусственного интеллекта и затем наложить его на существующие видео. Один из самых известных примеров применения этой технологии — TikTok-аккаунт с «идеальной» копией актера Тома Круза.
Закон о дипфейках вступил в Китае в силу 10 января 2023 года и стал основанием для апрельского черновика. Он уже затрагивал технологии генерирования текста, но лишь поверхностно, и в основном фокусировался на видео- и аудиоконтенте. Скорее всего, это связано со стремительным развитием искусственного интеллекта, работающего с текстовыми запросами вроде ChatGPT от OpenAI, и генерирующего изображения, например Midjourney. В новом документе появились более четкие требования к компаниям и используемым данным, однако вопросов остается немало.
По мнению Хелены Тонер, неизвестно, как будет исполняться требование исключить «контент, нарушающий права интеллектуальной собственности». В технологиях искусственного интеллекта используется огромный массив данных, авторские права на которые определить практически невозможно. Еще более сложным кажется требование регулятора «обеспечить достоверность, точность, объективность и разнообразие данных». Если эти пункты будут приняты без значимых изменений или юридических определений и детализации, китайским компаниям будет сложно набрать необходимое количество данных. Это может дать фору иностранным компаниям, которые пока не обременены регулированием ни разработки генеративного искусственного интеллекта, ни данных для создания и улучшения алгоритмов.
Такой вариант регулирования отличается, например, от закона, предложенного в ЕС. Закон еще не вступил в силу, но уже прошел этап голосования в Европарламенте в июне этого года. Следующий шаг — трехсторонние переговоры в Совете Евросоюза с участием евродепутатов, Еврокомиссии и стран — государств ЕС. Чиновники ЕС планируют принять итоговую версию документа до конца 2023 года.
Согласно документу, системы на основе искусственного интеллекта будут разделены на четыре категории по риску: минимальный (или его отсутствие), ограниченный, высокий и неприемлемый. К категории с высоким уровнем риска Европарламент отнес любые технологии, которые работают с персональными данными граждан в сферах правосудия, бюрократии, здравоохранения, образования, транспорта и трудоустройства. Такие технологии не будут применяться до прохождения всех этапов проверки и получения разрешения на их внедрение в любой государственный орган стран — государств ЕС. Технологии вроде социального рейтинга, которые тестируются и применяются в Китае, будут запрещены как угроза безопасности. Это одно из ключевых отличий — технологии, запрещенные в ЕС, останутся и продолжат развиваться в КНР. Правда, уже под строгим надзором регулятора. Однако дипфейки планируют строго регулировать и в ЕС, и в Китае, чтобы предотвратить создание и распространение заведомо ложного или дискриминирующего контента.
Другой спорный пункт затрагивает юридическую ответственность за контент, созданный при помощи искусственного интеллекта. Согласно черновой формулировке, компаниям придется отвечать за любое изображение, аудиофайл, текст и любые другие материалы, которые получатся от взаимодействия пользователя с программой. Более того, регулятор может потребовать от компаний, чтобы итоговый контент был «правдивым и точным», а также чтобы они приняли меры «для предотвращения генерации ложной информации».
Это кажется довольно трудноосуществимым по нескольким причинам. Искусственный интеллект ChatGPT и подобные ему языковые модели учатся с помощью массивов данных из множества источников. Некоторые из них могут публиковать недостоверную или неточную информацию. От этого вряд ли получится полностью защититься. Большинство существующих генеративных технологий создают контент без оглядки на правдивость и ложность. Cтрогие требования к модерации данных, скорее всего, потребуют дополнительных инвестиций и усложнят процесс разработки. Для Китая это может означать создание барьеров для стартапов и небольших компаний. «Это уникальная комбинация попыток регулировать не только контент, но и техническое ноу-хау, и неизвестно, справится ли главный регуляторный орган Партии CAC [Cyberspace Administration of China, Администрация киберпространства Китая]», — считает Пол Триоло, старший юрист, попечитель кафедры китайского бизнеса и экономики Центра стратегических и международных исследований. Старший аналитик консалтинговой компании Wedbush Securities Дэниел Айвз отмечает, что более жесткие нормы регулирования означают, что китайские технологии будут на шаг позади в этой «игре престолов».
Как развивался ИИ в Китае, пока его не начали ограничивать
В 2022 году в Китае стали появляться аналоги генеративного искусственного интеллекта. Например, сразу несколько компаний изобрели свой аналог Midjourney — Tencent представила Different Dimension Me, Baidu — ERNIE-ViLG, и Taiyi от исследовательской лаборатории IDEA.
Нейросеть Different Dimension Me, позволяющая создавать изображения в стиле аниме, быстро стала довольно виральной у молодой аудитории, преимущественно в TikTok. Однако вскоре у приложения обнаружилось множество недочетов. Помимо сгенерированных милых картинок, в соцсетях стали появляться сообщения о том, какие изображения алгоритм распознать не может. Different Dimension Me практически не распознавал людей с более темными оттенками кожи или размера плюс-сайз. Такая проблема отнюдь не редка для сферы искусственного интеллекта, и это одна из частых причин критики технологии. Разработчики алгоритмов «кормят» их объемным количеством данных, но это не означает их разнообразие. В случае с аниме репрезентация разных тел и оттенков кожи встречается редко и искусственный интеллект плохо распознает изображения, которых не знает.
Другая проблема — политическая цензура в Китае, которая распространяется и на искусственный интеллект. Вскоре после публикации демоверсии другой нейросети, ERNIE-ViLG, пользователи обнаружили ряд запрещенных слов. Некоторые из них пробовали вводить различные слова вроде «Тяньаньмэнь» (площадь, на которой в 1989 году прошла серия антиправительственных восстаний) или фамилии видных политиков. На такой запрос программа выдавала ошибку — «найдены чувствительные слова, пожалуйста, попробуйте снова». В сентябре 2022-го программа сменила формулировку и в ответ на запросы со словами из «черного списка» стала выдавать ответ: «Введенный текст не соответствует правилам. Пожалуйста, попробуйте еще раз после корректировки».
Модерация генерируемого контента существует для большинства подобных сервисов. Например, DALL-E 2 не позволяет пользователям создавать сексуализированный контент и использовать лица политиков и публичных людей, а Midjourney для борьбы с порнографией превентивно блокирует все слова, связанные с репродуктивной системой человека. В случае с искусственным интеллектом вопрос в том, кто и как определяет, что является необходимой модерацией, а что — избыточной цензурой.
Популярность таких сервисов и особенности китайской политической системы, активно использующей цензуру, стали главными причинами стремительной разработки норм регулирования. Помимо опасений распространения ложной информации в формате видео, пользователи стали генерировать видео с политиками и публичными людьми Китая. Из-за этого правительство решило сделать ответственными за подобный контент разработчиков и тех, кто работает над алгоритмами и технологиями генеративного искусственного интеллекта. «Интересно во всем этом, что давление оказывается на нескольких участников рынка: на магазины приложений, на разработчиков и на платформы — у всех своя зона ответственности», — считает Кендра Шефер, партнер в исследовательской организации Trivium China.
По данным государственного СМИ China Daily, ссылающегося на статистику Министерства науки и технологий, за 2022 год количество заявок на патенты в области искусственного интеллекта и количество опубликованных научных статей было самым крупным в мире. Еще в 2017 году правительство КНР выделило искусственный интеллект как ключевую область роста. К 2030 году Китай планирует стать мировым лидером в сфере ИИ-технологий. Было определено 17 приоритетных областей, среди которых — умные транспортные средства и дроны, а также нейроморфные чипы, имитирующие работу мозга. Китай вряд ли откажется от своей цели и потенциально может рассматривать будущий закон как инструмент не только регулирования, но и акселерации развития определенных отраслей искусственного интеллекта.
Успехи Китая в развитии ИИ-технологий лишь усилили противостояние страны с США. Две сверхдержавы давно соревнуются в сфере технологий и стараются ограничивать друг друга в силу своих возможностей. Например, Министерство торговли США разрабатывает способ замедлить развитие искусственного интеллекта в Китае через ограничение доступа к облачным вычислениям. В течение лета администрация Байдена планирует доработать план и принять новые меры для сдерживания технологического развития Китая.
К чему может привести регулирование ИИ
Пока в КНР ждут финального текста закона о регулировании генеративного искусственного интеллекта, вопрос, как быть сейчас с такими продуктами, крайне актуален. Компания Baidu начала разработку чат-бота Ernie еще в 2019 году. По своей сути он похож на ChatGPT и другие технологии, которые создают и понимают текстовую информацию. Компания планировала завершить этап внутреннего тестирования в марте этого года. Будущие правила регулирования сферы искусственного интеллекта могут изменить траекторию развития этого чат-бота.
«Китайские сервисы, очевидно, будут подвергаться политической цензуре. Однако они при этом появляются в рамках системы, которая будет стремиться вписать их в существующие продукты и услуги», — считает Рожье Кримерс, лектор университета Лейдена в Нидерландах. В феврале Baidu сообщала о планах интегрировать Ernie в ПО нескольких местных производителей автомобилей. Кримерс предполагает, что это может означать четкое сегментирование применения технологий искусственного интеллекта. «Люди обычно не просят свою машину или тостер поделиться соображениями о политике или дать совет в области личных отношений», — сказал он.
По его мнению, скорее всего, технологии искусственного интеллекта будут применяться в рамках 14-й пятилетки (2021-2025 годы) для создания сервисов для людей с инвалидностью и в менее благополучных сельских регионах — ИИ может помочь решить проблему предоставления качественных образовательных и медицинских услуг в районах, где есть нехватка учителей и врачей. Потенциально это может привести к другой модели развития таких технологий: не через громкие истории или виральные маркетинговые стратегии, а через тесное взаимодействие с государством. В случае Китая это может означать значительную поддержку не только в финансах, но и в вопросах скорости внедрения технологий и широте их распространения.
Кроме Baidu, развитием генеративного искусственного интеллекта заняты и другие технологические компании, многие из которых либо аффилированы с научно-исследовательскими центрами, либо имеют свои лаборатории для экспериментов. Среди таких компаний — техногигант Tencent, крупнейшие площадки онлайн-торговли Alibaba и JD, родительская компания TikTok ByteDance, Huawei, онлайн-медиа и разработчик игр NetEase и многие другие. Новые правила наносят всем им серьезный ущерб и потенциально ставят на паузу грандиозные планы каждой из компаний. Помимо крупных компаний, в Китае формировались стартапы и потенциальные «единороги» от сферы искусственного интеллекта. Для их планов новые правила регулирования создают очевидные препятствия.
Сюй Чэнган из центра исследований китайской экономики и институтов в Стэнфорде в интервью The New York Times сказал, что при новых ограничениях появление такого сервиса, как TikTok, в Китае было бы невозможным. Он полагает, что Китай может повторить пример СССР, где государственное управление мешало развитию технологических инноваций. «Исторические примеры, — говорит он, — показывают нам, что общенациональное привлечение всех ресурсов не может соперничать со свободным развитием, которое происходит естественным путем».