OpenAI сняла запрет на использование ChatGPT и других инструментов ИИ военными
Создатель ChatGPT — компания OpenAI — сняла полный запрет на использование своих инструментов искусственного интеллекта (ИИ) военными, передает CNBC со ссылкой на коррективы, внесенные в политику стартапа. Обновления были внесены 10 января. 17 января на Всемирном экономическом форуме в Давосе вице-президент OpenAI по глобальным вопросам Анна Маканджу в интервью Bloomberg House сообщила о начале работы стартапа с Минобороны США.
В более ранней версии политики OpenAI говорилось, что компания запрещает использование своих моделей в том числе для «деятельности, сопряженной с высоким риском нанесения физического вреда». Разработчик ИИ перечислил в этом положении разработку оружия, вооруженные силы, ведение боевых действий; управление или эксплуатацию критически важной инфраструктуры в энергетике, транспорте и водоснабжении и контент, пропагандирующий или изображающий акты членовредительства (самоубийство, порезы и расстройства пищевого поведения).
В новой редакции политики компании это положение коренным образом изменилось. Теперь оно формулируется так: «Не используйте наш сервис для нанесения вреда себе или другим, например не используйте наши сервисы для пропаганды самоубийств или членовредительства, разработки или применения оружия, нанесения телесных повреждений другим или уничтожения имущества, а также для участия в несанкционированных действиях, нарушающих безопасность любого сервиса или системы».
Маканджу в интервью в Давосе объяснила решение об удалении прежней формулировки тем, что она была, по сути, «полным запретом на военных» (цитата по Bloomberg) и исключала новые варианты использования ChatGPT и других инструментов ИИ. OpenAI сохранила запрет на использование своих технологий для разработки оружия, уничтожения имущества или причинения вреда людям, добавила Маканджу. Она добавила, что OpenAI уже отступила от своего запрета на предоставление ИИ военным — стартап работает с Пентагоном над рядом проектов, включая возможности кибербезопасности.
Вице-президент компании рассказала, что создатель ChatGPT совместно с Минобороны США разрабатывает инструменты для программного обеспечения кибербезопасности с открытым исходным кодом, а также провел предварительные переговоры с правительством США о методах предотвращения самоубийств ветеранов. OpenAI фокусируется на обеспечении безопасности выборов, выделяя ресурсы на то, чтобы ее технологии не использовали для распространения политической дезинформации. «Выборы — это огромное дело», — сказал в том же интервью гендиректор OpenAI Сэм Альтман.
CNBC напомнил, что ранее тысячи сотрудников Google выступили против Project Maven, проекта Пентагона, который будет использовать искусственный интеллект Google для анализа записей наблюдения с беспилотников. Сотрудники Microsoft опротестовали армейский контракт на $480 млн, который обеспечит солдат гарнитурами дополненной реальности. Более 1500 сотрудников Amazon и Google подписали письмо с протестом против совместного многолетнего контракта на $1,2 млрд с правительством Израиля и военными на предоставление услуг облачных вычислений, инструментов ИИ и центров обработки данных.