Антимонопольный регулятор США проверит ChatGPT на возможность разрушить репутацию
ChatGPT стал предметом расследования Федеральной торговой комиссии США. Она проверит, причиняет ли чат-бот с искусственным интеллектом (ИИ) ущерб людям, публикуя ложную информацию о них, и потребует от его разработчика — компании OpenAl — отчет о таких рисках
Федеральная торговая комиссия США (FTC) проверит, не причинило ли приложение ChatGPT от OpenAI репутационного ущерба людям, публикуя о них ложную информацию. Об этом пишет The Wall Street Journal со ссылкой на обнародованные в четверг, 13 июля, претензии FTC к компании OpenAI. Регулятор располагает широкими полномочиями по пресечению недобросовестной деловой практики, которая может нанести вред потребителям, и недобросовестной конкуренции, напоминает газета.
В заявлении регулятора говорится, что при расследовании в отношении ChatGPT предстоит выяснить, занималась ли OpenAI «недобросовестными или вводящими в заблуждение действиями, связанными с рисками причинения вреда потребителям, включая репутационный ущерб». Компании предлагается в том числе подробно описать, что она сделала для устранения или снижения рисков генерации с помощью больших языковых моделей «заявлений о реальных людях, которые являются ложными, вводящими в заблуждение или унижающими достоинство». OpenAI не ответила на запросы газеты о комментариях.
Регулятор задал OpenAI вопросы о ее методах защиты персональных данных. В заявлении упоминается инцидент 2020 года, когда компания раскрыла ошибку, позволившую пользователям видеть информацию о чатах других пользователей и некоторую информацию, связанную с платежами. Запрос FTC к OpenAI также включает маркетинговые усилия компании, ее методы машинного обучения моделей ИИ и обработку личной информации пользователей.
«Мы слышали об отчетах, в которых конфиденциальная информация людей появляется в ответ на запрос от кого-то другого. Мы слышали о клевете, порочащих заявлениях, появляющихся откровенно неправдивых вещах. Это тот тип мошенничества, который нас беспокоит», — заявила председатель FTC Лина Хан в четверг, 13 июля, выступая перед Судебным комитетом Палаты представителей.
«Когда ChatGPT сообщил о ком-то что-то неправильное и это могло нанести ущерб его репутации, относится ли это к юрисдикции FTC? Я не думаю, что это вообще ясно», — сказал основатель Chamber of Progress, отраслевой торговой группы, Адам Ковачевич. По его мнению, такие вопросы «больше относятся к сфере речи, и это становится регулированием речи», что выходит за рамки полномочий антимонопольного регулятора.
Президент Центра искусственного интеллекта и цифровой политики Марк Ротенберг (возглавляет группу, подавшую жалобу в FTC на ChatGPT в марте 2023 года) сказал, что может быть неясно, обладает ли FTC юрисдикцией в отношении диффамации людей. По его словам, вводящая в заблуждение реклама, как и дезинформация, касающаяся коммерческой практики, входят в компетенцию FTC.
В жалобе в FTC группа Ротенберга назвала деятельности ChatGPT «предвзятой, вводящей в заблуждение и представляющей угрозу конфиденциальности и общественной безопасности». По оценке жалобщиков, она не соответствует ни одному из руководящих принципов FTC по использованию ИИ. Даже создатели ChatGPT призвали усилить государственный надзор за разработкой ИИ.
На слушаниях в Конгрессе в мае исполнительный директор OpenAI Сэм Альтман призвал Конгресс разработать стандарты лицензирования и безопасности для ИИ. «Если эта технология пойдет не так, все может пойти совсем не так», — сказал Альтман на слушаниях подкомитета Сената.