Машина справедливости: как ИИ используют в судебной системе в Латинской Америке
Государство опережает бизнес
Латинская Америка уступает странам глобального Севера в развитии генеративного искусственного интеллекта, включая НИОКР и коммерческие приложения. В Северном полушарии объем инвестиций в эти технологии достиг $190 млрд, тогда как в Латинской Америке — всего $8,2 млрд.
Если в развитых странах драйвером роста выступает частный сектор, то во многих странах латиноамериканского региона генеративный искусственный интеллект внедряют в первую очередь государственные структуры. Согласно исследованиям, в Латинской Америке уровень использования ИИ в госсекторе значительно опережает его внедрение в бизнесе. Одна из причин — узкая сфера применения искусственного интеллекта. Он эффективен далеко не во всех отраслях, а те, где его использование оправданно, занимают небольшую долю в экономике региона. Лидером по интеграции ИИ на государственном уровне является Аргентина, но при этом в коммерческом секторе страна — один из аутсайдеров региона.
В странах Латинской Америки, где госаппараты исторически отличаются низкой эффективностью, внедрение искусственного интеллекта мгновенно дает заметный эффект, ускоряя и оптимизируя административные процессы. Философия сокращения государства и оптимизации бюрократии — один из главных принципов аргентинского «президента с бензопилой» Хавьера Милея. Поэтому его администрация закономерно сделала ставку на искусственный интеллект и активно продвигает его внедрение в госаппарат, превращая Аргентину в лидера этого процесса в Латинской Америке.
Альтман и Милей
В мае 2024 года Хавьер Милей встретился с Сэмом Альтманом, сооснователем OpenAI, и предложил сделать Аргентину центром искусственного интеллекта. Одной из тем обсуждения была потенциальная возможность обойти законодательные ограничения, с которыми сталкиваются разработчики ИИ в США. Эти ограничения были установлены исполнительным указом президента Джо Байдена, который требовал от компаний передавать правительству результаты тестов на безопасность перед выпуском ИИ-систем, устанавливал стандарты кибербезопасности, вводил обязательную маркировку ИИ-контента, усиливал контроль за авторскими правами, а также предусматривал жесткие меры против потенциальной дискриминации и негативных последствий для рынка труда.
В начале 2025 года Дональд Трамп благополучно отменил этот указ, заявив, что он чрезмерно ограничивает развитие ИИ и усиливает правительственное вмешательство в технологический сектор.
В январе 2025 года Дональд Трамп совместно с Сэмом Альтманом и рядом других предпринимателей объявил о запуске совместной компании OpenAI, SoftBank Group и Oracle для развития искусственного интеллекта. Инвестиции в этот проект, как было сказано, могут составить $500 млрд. На этом фоне инициатива по инвестициям в Аргентину пока дальнейшего продолжения не получила, вероятно, как минимум на время потеряв актуальность.
Аргентинские власти тем не менее свой технооптимизм пока не растеряли и неуклонно двигаются по пути передового освоения новых технологий. Один из членов аргентинской делегации, глава Совета экономических советников Демиан Рейбель пояснил позицию президента: «ИИ — это самая важная тема в мире, а у нас есть огромные территории, холодный климат в [Патагонии], энергоресурсы и идеи свободы, отсутствие регулирования и свобода предпринимательства, которые продвигает президент. Представьте себе не три, а четыре центра ИИ: США, Китай, Европа и… Аргентина».
Такие инициативы аргентинского президента и амбициозный план сделать страну лидером в области искусственного интеллекта проявились в разных сферах, в том числе в судебной системе.
Аргентинские судьи против рутины
Высокопоставленные судьи и другие представители пенитенциарной системы Аргентины призвали к повсеместному внедрению технологии искусственного интеллекта в аргентинское правосудие в октябре 2024 года во время конференции SAIAConf — крупнейшего мероприятия по ИИ в стране. Докладчики отчитались о достижениях: искусственный интеллект уже применяется в автоматизации заявок на получение гражданства Аргентины и систематизации приговоров в уголовной юстиции, а также помогает в администрировании тюрем, рассчитывая баллы за поведение заключенных в зависимости от их участия в образовательных и трудовых программах.
Аргентинские судьи считают, что искусственный интеллект помогает автоматизировать рутинные процессы, позволяя сосредоточиться на главных аспектах дела. По мнению модератора дискуссии конференции Дэвида Мельника, правосудие должно быть быстрым, эффективным и гуманным, так как без оперативности оно теряет свою суть. «Если правосудие не быстрое, это уже не правосудие», — резюмировал он.
Аргентинская судебная система действительно сталкивается с серьезной проблемой медлительности: средний срок рассмотрения гражданских дел достигает 33 месяцев, тогда как в Испании и Португалии, странах с похожими правовыми традициями, этот процесс занимает от пяти до 11 месяцев.
Прокуратура Буэнос-Айреса также начала использовать генеративный ИИ для предсказания судебных решений по делам о выплате зарплат в госсекторе. Сотрудники загружают документы в ChatGPT, который анализирует их, классифицирует и готовит проект решения. Таким способом было вынесено уже 20 решений. Исследования прокуратуры показали, что ИИ сократил время подготовки документа с часа до 10 минут. «Мы больше не главные действующие лица, а редакторы», — отметил заместитель генерального прокурора Хуан Корвалан в комментарии изданию Rest of World. Его команда работает над снижением рисков утечек данных и кибератак, но признает, что анонимизация персональных данных в судебных документах еще не завершена.
Использование искусственного интеллекта в судебной системе Латинской Америки открывает новые возможности для повышения эффективности разбирательств, но несет и серьезные риски. По мнению Даниила Черных-Аипова, заместителя председателя коллегии адвокатов «Сулим и партнеры», одним из ключевых преимуществ является повышение предсказуемости судебных решений. «Стандартизация подходов к однотипным делам может снизить субъективность, которая неизбежно присутствует при принятии решений человеком. Еще одно преимущество — существенное ускорение судебного процесса», — отмечает эксперт.
В то же время риски остаются значительными. Среди главных угроз Черных-Аипов выделяет проблему конфиденциальности данных, особенно при использовании открытых ИИ-сервисов, где информация о сторонах дела может оказаться незащищенной. Кроме того, ошибки генеративных моделей представляют серьезную проблему: «По данным Стэнфордского университета, в юридических инструментах на основе генеративного ИИ подобные ошибки встречаются примерно в 17% случаев, а для судебной системы, где точность формулировок имеет критическое значение, такой показатель представляется неприемлемо высоким», — поясняет он. Не менее важным риском остается алгоритмическая предвзятость, когда субъективные оценки разработчиков ИИ могут приводить к систематической дискриминации отдельных групп населения, что несовместимо с принципами правосудия.
Граждане стран с высоким уровнем коррупции и низким доверием к правительству в опросах обычно выражают большую поддержку использования искусственного интеллекта в государственных процессах, показало исследование BCG. В таких странах, как Китай, Индонезия и Саудовская Аравия ИИ зачастую рассматривается как инструмент повышения прозрачности и снижения коррупционных рисков. В более демократических и менее коррумпированных государствах, таких как Швейцария и Эстония, жители предпочитают, чтобы решения принимали люди.
Поговорите с Boti
Не менее активно в Аргентине развивается и сфера гражданских онлайн-сервисов. Так, в Буэнос-Айресе чат-бот Boti с помощью больших языковых моделей (LLM) автоматически обрабатывает до 80% пользовательских запросов, что снижает нагрузку на кол-центры и повышает доступность госуслуг. Чат-бот предоставляет актуальную информацию о здравоохранении, включая вопросы зависимости, донорства крови и органов, сексуального здоровья, полового воспитания и кампаний по вакцинации. Кроме того, чат-бот позволяет записываться через WhatsApp (принадлежит компании Meta, которая в России признана экстремистской организацией и запрещена) на различные городские услуги, например, на получение нового экземпляра удостоверения личности (DNI), его замену, или оформление и продление водительского удостоверения.
Поскольку использование Boti предполагает, что граждане могут делиться с ним личной информацией, в том числе интимного характера, естественным образом возникает вопрос о рисках утечки данных, собранных государством. В Аргентине они нередки, что объясняется устаревшим законодательством о приватности. Уже скомпрометированы более 65 млн записей, хранившихся в государственных базах данных на протяжении многих лет, включая фотографии на документы и водительские права, что привело к росту мошенничества с поддельными данными. Кроме того, чат-боты, интегрированные с WhatsApp, могут собирать подробные цифровые профили пользователей без их согласия и передавать их компаниям-посредникам. Это создает риски нарушения права на частную жизнь.
Аудит чат-бота, проведенный некоммерческой организацией Derechos Digitales, выявил отсутствие четкого распределения ответственности за защиту соединений, IP-адресов, точек доступа, файрволов и устройств для шифрования. Не заключены соглашения о конфиденциальности с разработчиками Boti, что повышает вероятность несанкционированного доступа к исходному коду и утечки данных. Также при разработке чат-бота не была создана система мониторинга рисков, регистрации событий и оценки последствий, что затрудняет своевременную реакцию на инциденты. Нет данных о методологии хранения логов, сроках их хранения, а также способов доступа к ним, что снижает прозрачность обработки персональных данных. Кроме того, существует недостаток информации об используемых операционных системах и технологиях на рабочих устройствах, обрабатывающих персональные данные, что усложняет проведение аудита.
Либертарианский киберпанк
Еще одна инициатива Хавьера Милея — создание специализированного межведомственного управления по применению искусственного интеллекта в сфере безопасности (UIAAS). Новое подразделение займется предиктивной аналитикой. Одна из целей — выявлять преступления еще на стадии их подготовки.
В задачи управления войдут патрулирование соцсетей, приложений и сайтов, поиск потенциальных угроз, выявление передвижений преступных групп и прогнозирование беспорядков. Также оно займется анализом записей камер видеонаблюдения в реальном времени для обнаружения подозрительной активности или идентификации разыскиваемых лиц с помощью распознавания лиц. Наибольший интерес вызывает то, что подразделению поручена задача, которую журналисты сравнивают с научной фантастикой: использование алгоритмов машинного обучения для анализа исторических данных о преступлениях и предсказания будущих правонарушений. Похоже, на Милея в свое время произвел впечатление фильм «Особое мнение», в котором система предсказания преступлений с помощью технологий позволяла арестовывать людей еще до того, как они совершили преступление.
«Необходимо применять искусственный интеллект для предотвращения, выявления, расследования и преследования преступности и ее связей», — говорится в резолюции, подписанной министром безопасности Аргентины Патрисией Буллрич, где в качестве обоснования приводятся аналогичные разработки в других странах.
Одним из примеров таких разработок может служить опыт Китая. Там компания Cloud Walk разрабатывает систему распознавания лиц, которая отслеживает перемещения людей и присваивает им рейтинг риска на основе их поведения. Например, покупка ножа, молотка и мешка может повысить этот рейтинг. Эта система интегрирована с полицейскими базами данных более чем в 50 городах страны. Другая компания, UniView, отслеживает людей, часто путешествующих в «опасные» страны, такие как Мьянма или Вьетнам, и сигнализирует полиции, если такие лица появляются на камерах.
Однако инициатива аргентинского правительства столкнулась с критикой экспертов. Мартин Бесерра, профессор аргентинского университета Кильмеса и университета Буэнос-Айреса, исследователь в сфере медиа и информационных технологий, считает, что создание такого управления противоречит нескольким статьям Конституции страны. «Правительство Милея (и Буллрич) не либерально. Оно вводит новые правила, усиливает репрессивную функцию государства, увеличивает непрозрачность использования государственных средств и отменяет законы, направленные на защиту наиболее уязвимых», — отметил он в социальной сети X (заблокирована в России).
Архаичность аргентинского законодательства сыграла ключевую роль в создании UIAAS: закон о защите данных 2000 года не предусматривает регулирование машинного обучения и автоматизации госуслуг, что фактически открывает правовую лазейку для применения ИИ-инструментов, включая ChatGPT и системы распознавания лиц. Именно эту возможность, вероятно, обсуждали Хавьер Милей и Сэм Альтман, рассматривая перспективы развития ИИ-технологий в стране.
Представитель Центра свободы выражения и доступа к информации аргентинского университета Палермо в комментарии для El Pais отметил, что их исследования свидетельствуют о нарушении принципов законности и прозрачности в практике киберпатрулирования в Аргентине и Латинской Америке. Эксперты отмечают тревожную непрозрачность в приобретении и использовании технологий, а также отсутствие механизмов отчетности. Центр предупредил, что без эффективного надзора и противовесов под угрозой оказываются право на частную жизнь и свобода выражения мнений.
Конституционный суд возражений не имеет
В других странах Латинской Америки ИИ внедряют без лишнего шума, но его использование в госорганах и судах все же растет — вместе со скандалами.
В Колумбии судья Хуан Мануэль Падилья Гарсия использовал ChatGPT для обоснования решения по делу, связанному с медицинскими расходами. Об этом он сообщил сам, отметив это обстоятельство в судебном заключении. Суд обязал компанию, оказывающую услуги, освободить семью от уплаты административных сборов и доплат за необходимые ребенку медицинские услуги, а также компенсировать транспортные расходы. В первой инстанции было решено покрыть затраты на городской транспорт и освободить семью от платежей, так как компания не смогла доказать, что истец обладает достаточными средствами для их оплаты.
Использование ИИ в этом случае вызвало вопросы о независимости и прозрачности правосудия. Даже если финальное решение принимает судья, опора на ChatGPT для аргументации может подорвать доверие к судебному процессу — ИИ может выдавать неточные или предвзятые ответы, что влияет на корректность принимаемых решений. В августе 2024 года Конституционный суд Колумбии создал прецедент в вопросе применения ИИ в судебной системе, указав, что использование технологий для обоснования решений, но не для их вынесения, не нарушает прав. Суд подчеркнул потенциальную пользу ИИ в правосудии и отметил, что такие технологии должны быть эксклюзивными для судебных органов, а их алгоритмы и процессы — прозрачными, чтобы обеспечить безопасность данных.
Доверенный советник бразильского судьи
В Бразилии федеральный судья Джефферсон Родригес попал под расследование за использование ChatGPT, допустившего ошибки при написании приговора, что может стать первым подобным случаем в стране. Национальный совет юстиции (CNJ) потребовал от судьи объяснений из-за решения, содержащего ошибочные фрагменты, основанные на несуществующих судебных прецедентах, приписанных Верховному суду правосудия (STJ). Родригес заявил, что решение было подготовлено его «доверенным советником» с использованием «неподходящего виртуального инструмента», и назвал ситуацию простой ошибкой, вызванной перегрузкой работой. Региональный суд закрыл расследование, не выявив дисциплинарных нарушений, но предупредил о «вреде, который может быть причинен при ненадлежащем использовании инструментов искусственного интеллекта».
Обучение моделей ИИ требует огромного количества данных, но в юридической сфере это становится сложной задачей из-за конфиденциальности документов, их сложности и трудностей с классификацией. Исследователи отмечают, что в Латинской Америке особенно остро стоит проблема нехватки многоязычных юридических баз данных: большинство доступных программ реализованы на английском и по англоязычным источникам, тогда как регион использует испанский и португальский языки со специфической терминологией, что может приводить к ошибкам в работе больших языковых моделей (LLM).
Использование технологий в судебных решениях не является исключительно латиноамериканской практикой. По словам аналитика международной консалтинговой компании и эксперта по ИИ Алексея Котова, наибольшего прогресса в этом направлении добился Китай: «С середины 2010-х годов страна активно развивает электронное правосудие, внедряя онлайн-заседания и интеллектуальную систему «Умный суд». Эта система не только выступает в роли базы данных, но и помогает в принятии судебных решений. Более того, Верховный суд Китая обязал судей консультироваться с ИИ по каждому делу, а в случае отклонения рекомендаций обосновывать свое решение в письменной форме».
По его словам, аналогичные инициативы развиваются и в США. Так, в Нью-Йорке тестируется система, анализирующая данные завершенных дел и предлагающая судьям рекомендации по мерам пресечения.
Глобальные перспективы цифрового правосудия
Несмотря на активное внедрение систем, связанных с искусственным интеллектом в госуправлении стран Латинской Америки, прозрачность их работы остается на начальном этапе. На этом фоне Чили выделяется благодаря первому в регионе публичному реестру алгоритмов, созданному университетом Адольфо Ибаньеса при поддержке властей. Платформа централизованно собирает данные о применяемых в госорганах алгоритмах, ИИ и автоматизированных системах, охватывая разные сферы — от здравоохранения и образования до безопасности. В реестре уже десятки проектов, включая чат-ботов социальных служб, системы распознавания лиц и медицинские модели прогнозирования. Почти половина внесенных алгоритмов обрабатывает персональные данные, что подчеркивает необходимость обновления законодательства о защите информации. Однако участие в реестре остается добровольным, поэтому он отражает лишь часть реальной картины. Несмотря на это, инициатива уже повысила уровень прозрачности, предоставив обществу доступ к информации о том, какие автоматизированные решения использует государство и на каких данных они основаны.
Внедрение ИИ в систему правосудия требует взвешенного подхода и четкого понимания его границ, отмечает Черных-Аипов. «Судебная система — это не только механизм применения норм права, но и воплощение принципов справедливости, которые в своей полноте могут быть постигнуты только человеческим сознанием», — подчеркивает он. По его мнению, критически важно учитывать риски, связанные с автоматизированными решениями, а также вопросы технологического суверенитета и защиты данных. В этом контексте более перспективным видится развитие специализированных национальных систем, адаптированных под специфику правоприменения, чем использование универсальных зарубежных моделей.
Россия также активно внедряет решения на базе ИИ в сферу правосудия, обеспечивая их соответствие принципу цифрового суверенитета. Как отмечает Алексей Котов, в стране разрабатывается платформа «Правосудие онлайн», ориентированная на автоматизацию работы с судебными материалами. «Основная задача ИИ — анализ судебных документов, включая обработку объемных текстов, проверку расчетов и выявление ошибок. Кроме того, в Белгородской области искусственный интеллект уже применяется на трех судебных участках при взыскании имущественного, транспортного и земельного налогов. Хотя окончательные решения по судебным приказам принимает человек, ИИ помогает в подготовке документов и проверке реквизитов», — поясняет эксперт.
Страны Латинской Америки, долго страдавшие от бюрократической волокиты, теперь могут оказаться в авангарде внедрения искусственного интеллекта в государственное управление. Низкая эффективность госаппарата стала стимулом для ускоренной цифровизации. Но правительства региона, ранее не отличавшиеся продуманной политикой, могут столкнуться со всеми рисками поспешных решений. В результате Латинская Америка может превратиться в полигон для экспериментов с ИИ, а остальной мир — использовать этот опыт для собственных проектов.