Греф рассказал о вызове сотрудников «Сбера» и «Яндекса» в прокуратуру из-за работы ИИ

Сотрудников Сбербанка и «Яндекса» вызывали в прокуратуру из-за работы созданных ими нейросетей, рассказал глава «Сбера» Герман Греф на форуме «Финополис», пишет РБК. Разработчиков банка вызвали в прокуратуру из-за изображений российского флага, сгенерированных нейросетью Kandinsky 2.1.

«Опыт показал, что мы только опубликовали модели — и нас, и «Яндекс» тут же привели в прокуратуру. У нас модель при генерации российского флага — ну она же генеративная, она пытается его улучшить, — она на флаге нарисовала еще купола от собора Василия Блаженного. Депутаты посчитали, что это издевательство над нашим национальным флагом», — пояснил Греф.

Он отметил, что разработчикам пришлось изменить алгоритмы работы нейросети и «остановить определенные вещи» — из-за этого на запросы госсимволов она не рисует сама, а «генерит картинку, заранее заданную». Из-за таких изменений настроек, по словам Грефа, модель теряет в креативности. «Мы последние полгода модель не могли выставить, потому что мы закручивали настройки безопасности. При этом модель в общем доступе потеряла 12% в креативности и точности», — рассказал глава «Сбера».

Он отметил, что разработчикам нужна «помощь государства в снисхождении и понимании», и попросил не судить их, потому что «мы как дети пока здесь». «Хорошо, что прокурор такой современный попался, с чувством юмора, — он все изучил, и, слава богу, нас никуда не привлекли. Он сказал: ребята, давайте идите работайте, но будьте поаккуратнее. Могло бы быть иначе», — заключил Греф.

Несмотря на этот инцидент, в России в целом «правильная атмосфера» для работы над подобными генеративными моделями, считает глава Сбербанка. Их развитие сильно зависит от регулирования. «Поэтому первое и самое главное — постараться эту сферу не зарегулировать, и это самое большое, что государство может сделать», — отметил Греф.

Инцидент произошел еще в апреле. ​​Нейросеть Kandinsky 2.1 «Сбер» выпустил 4 апреля. «Яндекс» выпустил бета-версию приложения «Шедеврум», которое позволяет генерировать изображения с помощью нейросети, 5 апреля. После этого лидер фракции «Справедливая Россия — За правду» в Госдуме Сергей Миронов попросил генпрокурора Игоря Краснова проверить генерируемый Kandinsky 2.1 контент на соответствие законодательству, писал ТАСС. По мнению Миронова, нейросеть при тестировании генерировала ответы на запросы о России, которые способствуют «формированию ее негативного образа и положительного образа «недружественных» стран».

В «Яндексе» в ответ на запрос Forbes отказались от комментариев.