Представьте себе дипфейк-видео спикера Палаты представителей Конгресса США Нэнси Пелоси, в котором ее речь намеренно невнятна, а слова, которые она произносит, изменены и звучат оскорбительно для большинства избирателей. А теперь представьте, что технология, использованная для создания этого видео, настолько сложна, что невозможно заподозрить подделку — в отличие от дипфейков с Пелоси, которые распространялись в интернете в 2020 и 2021 годах и были быстро разоблачены. Какое влияние оказало бы это видео на промежуточные выборы в Палату представителей при малом разрыве между кандидатами?
Это дилемма, с которой сталкивается Adobe, производитель самых популярных в мире инструментов для редактирования фотографий и видео, когда подвергает всестороннему анализу и пересмотру свой ассортимент продуктов, в которых используются искусственный интеллект (ИИ) и технологии глубокого обучения. Это включает в себя обновление флагманского продукта компании Photoshop и инструмента для редактирования видео Premiere Pro. Верно и то, что у глагола «отфотошопить» теперь появилось негативное значение, и глава Adobe Шантану Нарайен об этом знает.
«Можно сказать, что сейчас самое главное в интернете — убедиться в подлинности контента, ― говорит Нарайен Forbes. — Когда мы создаем контент для всего мира, [мы должны] помочь установить подлинность этого контента и его происхождение».
Поэтому три года назад Adobe запустила проект под названием Content Authenticity Initiative, к которому присоединились несколько партнеров из медиа и IТ. Сегодня инициатива включает в себя более 700 компаний и проводит международные мероприятия, чтобы популяризировать проверку «происхождения», как выражается 59-летний Нарайен. Дизайнеры и потребители контента могут по желанию создавать и отслеживать цифровой путь, который показывает, кто несет ответственность за то или иное видео или изображение и какие изменения были внесены.
Дипфейки — лишь одна из трудностей, с которыми столкнулся Нарайен. В 2021 году (финансовый год, завершившийся 3 декабря) продажи Adobe составили $15,8 млрд, но прогноз компании из Сан-Хосе на последние два квартала отставали от оценок Уолл-стрит. Виновники все те же: растущие процентные ставки, проблемы с цепочками поставок и деловое эмбарго в отношении России и Белоруссии. После пиковой цены в $688 за акцию в ноябре акции Adobe обрушились на 47% и недавно достигли $366, тогда как индекс Nasdaq просел всего на 26%. «Компания продолжает расти, но темпы существенно замедляются», ― говорит Корнелио Эш, аналитик William O’Neil & Co. Inc.
В течение многих лет Adobe полагалась на линейку заслуженных флагманских продуктов, которые выделены в группу Digital Media и приносят большую часть выручки. В 2021 году на продукты вроде Photoshop (вышел на рынок в 1990 году), Illustrator (1987), Premiere Pro (2003) и Acrobat (1993) пришлось 73% выручки компании. Но, несмотря на успешный переход в облако, рост этих направлений замедляется. Годовая регулярная выручка группы исторически росла в среднем на 20%, однако, по словам Эша, в последнем квартале увеличение составило всего 15,5%.
А теперь возьмем Digital Experience — это услуги, которые Adobe оказывает компаниям с 2012 года, анализируя цифровые следы своих клиентов, то есть отслеживая поведение людей в интернете: например, сколько времени они проводят на конкретной веб-странице и какие продукты просматривают.
«Если… вы взаимодействовали с клиентом, но все еще ведете себя так, будто не знакомы с ним, нет ничего более раздражающего», ― говорит Нарайен. Именно это и хочет изменить компания с помощью своего бизнеса Digital Experience. Это самый быстрорастущий сегмент Adobe, продажи которого в 2021 году составили $4 млрд (на 24% больше, чем годом ранее), однако он сталкивается с сильной конкуренцией со стороны компаний вроде Salesforce и Google.
Adobe наблюдает растущую конкуренцию и со стороны более мелких соперников вроде австралийской графической платформы Canva и американского сервиса Docusign. «Adobe немного запоздал с освоением рыночной ниши, которую выбрала Canva… ниша, в которую входят на самом деле непрофессиональные дизайнеры», ― говорит аналитик Gartner Крис Росс.
Гораздо более дешевая (стоимость подписки начинается всего от $120 в год) и более простая в использовании, чем продукты Adobe, Canva быстро превратилась в реальную угрозу. И действительно, кто станет платить $600 в год за подписку на Creative Suite (и часами изучать Illustrator), просто чтобы разработать меню или приглашение на свадьбу? В сентябре Canva, появившаяся менее 10 лет назад, была оценена в $40 млрд. Сейчас состояние Мелани Перкинс, 35-летней CEO компании, равняется $6,5 млрд.
Adobe предпринимает меры. В декабре компания запустила новое приложение Creative Cloud Express (даже дешевле, чем Canva), предназначенное для начинающих пользователей, от студентов до блогеров. В целом поведение компании нельзя назвать пассивным. Adobe стремится переосмыслить все свои продукты с помощью искусственного интеллекта и техник глубокого обучения — внутри компании эта инициатива известна как AI First. Она позволяет выполнить трудоемкое редактирование в Photoshop в течение нескольких минут, а не часов. «Искусственный интеллект предоставляет такие функции, как замена неба — одним кликом вы можете заменить голубой цвет на серый, ― говорит Дана Рао, главный юрисконсульт и директор по доверию Adobe. — А потом вы можете войти и сделать более мелкие правки, но это уже занимает гораздо меньше времени».
В 2016 году компания выпустила Adobe Sensei — набор функций, которые среди прочего помогают пользователям с легкостью убирать из видеозаписи ненужные предметы, выравнивать тон кожи, менять выражения лица и высоту голоса.
Конечно, те же самые инструменты позволяют выдавать выдумку за реальность. Рао вспоминает, как три года назад беседовала с директором по продукту Adobe Скоттом Белски: «Мы смотрели на все наши инновации в области редактирования с искусственным интеллектом и одновременно подумали об одном и том же: очень скоро, поскольку ИИ может быть мощнее, чем живые редакторы, вы не сможете отличить факт от вымысла, реальность от искусственной реальности».
Проверка подлинности контента — один из способов решения этой проблемы. Еще один способ — это объемный внутренний процесс, которым руководит Рао и который направлен на то, чтобы все новые функции и продукты Adobe проходили тщательный этический анализ. Иногда этот процесс приводит к тому, что результат работы инженеров Adobe не попадает к широкой публике. «С точки зрения изображений, когда мы думаем о том, чтобы встроить ИИ в наши технологии, нам нужно учитывать, был ли ИИ обучен на разнообразных наборах изображений, данных, чтобы результат был уважителен по отношению ко всем, кто будет им пользоваться», — говорит Гупта.
Абишек Гупта, основатель Института этики ИИ в Монреале, считает, что, если к контенту будут прикреплены «ярлыки правды», это не сыграет большой роли. Фанатичная аудитория отредактированного контента часто отчаянно хочет верить, что это правда, несмотря на все признаки обратного. «Поддельный контент адаптирован под людей, которые спешат и очень мало времени уделяют тому, чтобы задуматься, насколько правдив тот или иной материал», ― говорит Гупта.
В конечном счете, по словам Нарайена из Adobe, потребители и сами должны искать истину и использовать доступные им инструменты, чтобы проверить правдивость изображений и видео, которые они просматривают, распространяют, публикуют и ретвитят. «Они также несут ответственность, которая ничем не отличается от любой другой ответственности, которую несет потребитель — убедиться, что они защищены».
Перевод Натальи Балабанцевой