Внушает доверие: как разработчик ПО Salesforce намерен заняться ИИ и потеснить OpenAI
На состоявшемся мероприятии в Нью-Йорке Бениофф вместе с другими руководителями Salesforce представил текущую стратегию компании в сфере искусственного интеллекта ― план обновили с учетом потенциала (и рисков) генеративного ИИ для бизнеса. Salesforce хочет стать полноценным игроком на рынке генеративного ИИ, а ключевой довод генерального директора Марка Бениоффа сводится к одному слову: доверие.
«Прежде всего мы делаем искусственный интеллект надежным и ответственным, ― заявил глава фирмы партнерам, сотрудникам, аналитикам и журналистам, добавив, что клиенты, в особенности крупные предприятия, потенциалом технологии в равной степени заинтригованы и обеспокоены. ― Мы все смотрим кино и понимаем, во что это может вылиться. О том, что может произойти, есть куча безумных прогнозов».
Для пущего эффекта Бениофф рассказал о недавнем ужине с генеральным директором OpenAI Сэмом Альтманом, которого можно назвать одним из главных лиц нынешней волны генеративного ИИ. На ту встречу Бениофф намекнул еще накануне — во время телефонной конференции с акционерами (а это уже само по себе не просто так, особенно с учетом тесного взаимодействия OpenAI с Microsoft, главным конкурентом Salesforce в сфере CRM-систем). Как бы там ни было, тогда миллиардер сказал, что раскрывать подробности общения с Альтманом некорректно. Но 12 июня Бениофф сообщил кое-что еще, отметив, что Альтман использовал более новую и еще не опубликованную модель OpenAI. Алгоритм сымитировал, как Бениофф выступает с речью Джона Кеннеди из 1960-х, ― все это было сгенерировано по образцу голоса руководителя Salesforce.
Впечатленный точностью модели руководитель Salesforce сказал, что спросил, где хранится образец его голоса и как обеспечивается его безопасность. По словам миллиардера, Альтман ответил, что, поскольку запись введена в саму модель, установить ее местонахождение невозможно, а еще ее нельзя оттуда изъять. Для простого «фокуса» ― это совсем не проблема. Но это важный вопрос, например, для генерального директора банка, которому для соблюдения законодательства нужно знать точное расположение данных, объяснил Бениофф. Ни от Альтмана, ни от пресс-службы OpenAI комментарий о том случае, либо о самой технологии получить не удалось.
Гендиректор Salesforce подчеркнул, что для применения подобных инструментов на основе ИИ в компании необходимо больше защитных механизмов и особый «уровень доверия» между корпоративными пользователями, с одной стороны, и провайдерами модели — с другой, причем без постоянного обмена данными: «Мы полностью осознаем, какой груз ответственности на нас ляжет в дальнейшем».
Такова точка зрения Salesforce, и ею объясняются инвестиции компании в двух разработчиков (Anthropic и Cohere), которые конкурируют с OpenAI в создании фундаментальных моделей. В 2016 году, когда Forbes USA готовил материал о Бениоффе, спасательным кругом в плане ИИ-разработок для его предприятия была система Einstein с «живым» талисманом в виде Альберта Эйнштейна. Алгоритм задействовал машинное обучение для того, чтобы интегрировать предиктивные результаты поиска между подразделениями по продажам, клиентскому обслуживанию и ПО для маркетинга. Сегодня таким решением становится генеративный ИИ, однако в Salesforce на успех рассчитывают отнюдь не в построении самих моделей (хотя подобные разработки тоже ведутся). Если генеративный ИИ окажется самой важной технологией ближайших десятилетий, в чем Бениофф теперь не сомневается, роль его компании будет заключаться в том, чтобы защищать и направлять развитие технологии, а также делать ее полезной и безопасной.
«Пылесос для ИИ»
Пока сам Бениофф только готовился к выходу на сцену, ведущий мероприятия спросил у одного сотрудника корпоративного клиента Peloton, что тот думает об искусственном интеллекте. Ответ был совсем неудивительный: сотрудник сказал, что технология ему крайне интересна, но в то же время его пугают риски, связанные с обработкой данных. А когда генеральный директор Salesforce AI Клара Ши объявила о том, что корпорация планирует задействовать ИИ именно там, где все ожидали (к примеру, сгенерированные компьютером коммерческие электронные письма, рекомендованные ответы сервисным агентам, программный код для разработчиков и сегментация клиентской аудитории), презентация вращалась вокруг защиты данных.
«Сильные и слабые стороны у различных моделей будут разные, ― ответил Бениофф на вопрос о своих любимых разработчиках больших языковых моделей. ― Думаю, в этой сфере отметится каждая компания». Когда сооснователя фирмы спросили, следует ли клиентам доверять проприетарную (не находящуюся в свободном доступе) информацию партнерам Salesforce по ИИ, он добавил, что подключение данных клиентов к любой модели с проблемами в плане безопасности компания намерена предотвращать. «Терять свои данные наши клиенты не будут», ― заверил он.
В ходе интервью сооснователь и технический директор Salesforce Паркер Харрис и главный научный сотрудник Salesforce Research Сильвио Саварезе заявили, что в зависимости от того, как клиенты будут пользоваться технологией в ближайшие 6–12 месяцев, наряду с другими моделями Salesforce будет разворачивать свои собственные. В общих чертах они ожидают, что модели Salesforce будут полезны при генерировании нового программного кода в текстовом формате или завершении имеющегося кода, а также при решении узкоспециализированных задач в сфере здравоохранения или создании визуальных маркетинговых материалов.
«OpenAI стремится создать алгоритм, который дает человеку ответы на все вопросы, и это прекрасно, а мы можем использовать данные модели для собственных задач, ― делится с Forbes USA Харрис. ― Но электронное письмо клиенту медицинского учреждения ― это крайне специфическая область применения». Он также дополняет, что со временем, когда данное направление деятельности станет рентабельным, клиенты смогут обучать на базе Salesforce собственные модели. «Дойдем и до этого, но мы полагаем, что сначала предстоит долгий путь [с базовыми моделями]», ― говорит Саварезе.
Посевные инвестиции в стартапы
Главным доказательством надежности Salesforce в области искусственного интеллекта является история приобретений компанией стартапов, включая поглощенные за последние десять лет RelateIQ, PredictionIO и MetaMind. Семь лет назад Бениофф представил публике систему Einstein (а еще просьбой одеться как именитый ученый безуспешно донимал Харриса). Тогда все это было осуществлено при содействии нового ИИ-гуру в лице основателя MetaMind Рихарда Зохера. Из Salesforce Зохер с тех пор ушел и сегодня является генеральным директором стартапа You.com ― в него и пять других ИИ-проектов, судя по официальным заявлениям, Salesforce вкладывалась на протяжении последних нескольких месяцев. 12 июня компания также объявила, что выделенная в марте сумма $250 млн на финансирование стартапов в области генеративного ИИ будет удвоена до $500 млн.
Джон Соморджаи, возглавляющий работу инвестиционного подразделения под названием Salesforce Ventures, во время интервью сказал, что объемы финансирования Salesforce наращивает, так как фирма «просто поражена» количеством возможностей для капиталовложений в отрасли. И хотя среди инвесторов пристальное внимание к ИИ-стартапам и обрушившиеся на них суммы денег стали уже мемом, Соморджаи отметил, что благодаря удешевлению вычислительных мощностей и созданию универсальных моделей (которые, кстати, тоже становятся все мощнее и дешевле в обучении и эксплуатации) у стартапов на их базе появляются новые возможности для бизнеса.
Кроме шести проектов, уже получивших финансирование (Anthropic, Cohere, Hearth.ai, Humane, Tribble, You.com), в июне Salesforce Ventures надеются оформить инвестиции еще в пять. Как говорит Соморджаи, сейчас фирма рассматривает кандидатуры нескольких дополнительных разработчиков фундаментальных моделей вдобавок к Anthropic и Cohere. Он повторил тезис Бениоффа о том, что руководители бизнеса «очень обеспокоены возможностями ИИ» и что в плане конфиденциальности и безопасности данных команды Salesforce помогают оценить и распространить «ответственные» модели. «ИИ хорош настолько же, насколько и данные, на которых он обучается. Все хотят точно знать, что компания, собирающая данные, подходит к делу самым ответственным образом», ― сказал управленец. Он также добавил, что любой ИИ-стартап, получающий средства от Salesforce, проходит проверку на «соответствие нашим этическим критериям» со стороны собственных исследователей инвестора.
Разумеется, Salesforce ― далеко не единственная корпорация, которая осуществляет стратегические инвестиции в стартапы, специализирующиеся на искусственном интеллекте. Oracle и NVIDIA тоже вкладывались в Cohere, причем первая хвалилась этим в ходе телефонной конференции с акционерами в понедельник (основатель Ларри Эллисон и Бениофф, некогда его подопечный, подобными публичными мероприятиями в одно и то же время уже давно играют друг с другом наперегонки). Несколько отраслевых экспертов уверены, что деньги Salesforce стартапы берут без долгих раздумий, в перспективе получая доступ к огромной базе данных сотрудников компании, а также портфель фирменных продуктов, куда входят корпоративный мессенджер Slack и система визуализации данных Tableau. Тем временем Salesforce оказывается за одним столом с потенциальными конкурентами сладкой парочки OpenAI — Microsoft и укрепляет при этом собственный бизнес, который в последние годы больше сосредоточился вокруг предиктивного ИИ. Базовый пакет Salesforce обойдется клиентам в $360 000 в год. В него включены 50 лицензий на пользование CRM-программами, Slack и Tableau, а также Einstein, MuleSoft, облачной инфраструктурой хранения данных и техническая поддержка клиентов.
«Значительный объем инвестиций Microsoft в OpenAI заставил задуматься и остальных: а может, нам тоже стоит этим заняться, ― подтвердил один инвестор из сферы ИИ, попросивший не называть его имени, поскольку стартапы в его портфеле сотрудничают с некоторыми этими игроками. ― Ахиллесова пята OpenAI ― это взаимоотношения с Microsoft, а суперсила OpenAI ― взаимоотношения с Microsoft».
Работа с критикой
Когда речь заходит о запуске новых продуктов, особенно тех, что находятся на этапе разработки, Salesforce и Бениофф отточили навык до совершенства. Einstein не потряс весь мир, но в самой корпорации заявляют, что несколько лет спустя клиенты активно пользуются системой и делают триллион прогнозов в неделю. Как и тогда, складывается впечатление, что Бениофф с подчиненными проявляет по поводу агрессивного продвижения «доверия» в сфере генеративного ИИ осторожный оптимизм. В опубликованных на следующий день аналитических записках от экспертов Cowen, Mizuho Americas и Stifel по способности Salesforce извлечь из новых возможностей выгоду тоже принята осторожно оптимистическая позиция. «Хоть Рим и не сразу строился и не сразу будет выработана стратегия развития искусственного интеллекта для CRM, сейчас в гонке за продажей уже имеющейся базы у Бениоффа и компании появилась темная лошадка», ― написал утром во вторник Дэн Айвз из Wedbush Securities.
А еще настороженность клиентов и назревающую бурю из-за безопасности данных при работе с ИИ-моделями ощущает по меньшей мере один бывший руководитель высшего звена Salesforce ― его новая компания занимается теми же самыми проблемами. «В каждой системе обработки данных, которой мы когда-либо пользовались, есть кнопка удаления. Но ИИ-модели ничего не удаляют, ― говорит Аншу Шарма, генеральный директор стартапа Skyflow, который специализируется на защите деловых данных в совместном доступе. ― И никто не может разобраться, какое решение здесь правильное».
Перевод Антона Бундина