Со скоростью мысли: как небольшой стартап по разработке ИИ-чипов хочет обойти Nvidia
Еще в феврале Джонатан Росс, 42-летний гендиректор стартапа-разработчика ИИ-чипов Groq, выступил в Осло перед членами норвежского парламента и руководителями технологических компаний. Росс продемонстрировал новую разработку, которая, как он надеялся, спасет умирающую компанию — чат-бота, функционирующего на ИИ-чипе Groq, который генерировал ответы с невероятной скоростью. Однако по неизвестной причине программа иногда начинала проседать, что вызвало беспокойство Росса, пытавшегося презентовать европейский центр обработки данных на базе Groq, который должен был продемонстрировать специализированные чипы, отвечающие за высокую скорость ответов. «Я постоянно проверял данные чат-бота, — вспоминает он. — Аудитория не понимала, почему я так часто отвлекаюсь».
Виной падения скорости работы чат-бота стал наплыв новых пользователей. За день до выступления Росса в Осло один разработчик написал в X (бывшая соцсеть Twitter, заблокирована в России) восторженный пост о «специальном движке для больших языковых моделей, увеличивающем скорость их работы до невероятных значений». Пост быстро набрал популярность на платформе, и огромное количество пользователей заинтересовалось новой технологией. Во время онлайн-демонстрации случилась перегрузка сети из-за роста трафика, что подкосило серверы компании. Для Groq это стало неожиданной, но приятной проблемой.
Росс основал Groq восемь лет назад, его идея заключалась в том, чтобы разрабатывать ИИ-чипы, предназначенные для так называемого логического вывода — процесса, когда часть искусственного интеллекта, которая имитирует человеческие рассуждения, использует полученные знания в новых ситуациях, самостоятельно обрабатывая данные. Именно способность к самостоятельной обработке позволяет смартфону определить породу собаки на фотографии, которую он никогда раньше не видел, или генеративному ИИ создать изображение Папы Римского Франциска в пуховике от Balenciaga. Данный метод прямо противоположен машинному обучению больших языковых моделей (LLM).
В начале своего пути Groq не раз сталкивался с проблемами: спрос на модели ИИ, способные самостоятельно обрабатывать данные, был ограничен до тех пор, пока в конце 2022 года OpenAI не выпустила ChatGPT, вызвав ажиотаж во всем мире. «Множество раз судьба Groq была под вопросом, — признается Росс, стоя в лаборатории полупроводниковых технологий в калифорнийском Сан-Хосе и вспоминая один из худших моментов в 2019 году, когда стартап был в шаге от банкротства. — Возможно, мы немного поспешили со стартапом».
В настоящий момент положение дел радикально изменилось: спрос на вычислительные мощности для создания и запуска моделей ИИ настолько высок, что приводит к глобальному дефициту электроэнергии. Для Groq наступил плодотворный период — компания может стать новой сенсацией на рынке или потенциальным приобретением устоявшихся производителей чипов. На днях компания поделилась с Forbes USA эксклюзивной информацией о том, что она привлекла невероятный инвестиционный раунд серии D в размере $640 млн, что позволило ей достичь оценки в $2,8 млрд — в 2021 году стартап оценивался в $1,1 млрд. Ведущим инвестором выступила BlackRock Private Equity Partners. В раунде финансирования также приняли участие Cisco Investments и Samsung Catalyst Fund, венчурное подразделение электронного гиганта, специализирующееся на инвестициях в стартапы в области поддержки вычислительной техники и развития ИИ.
Благодаря огромному росту потребности в вычислительных мощностях рыночная стоимость Nvidia в 2023 году достигла $3 трлн при выручке $60,9 млрд. Groq все еще считается крошечной компанией по сравнению с гигантами индустрии: согласно финансовым документам, с которыми ознакомился Forbes USA, продажи стартапа в 2023 году составили всего $3,4 млн, а чистый убыток — $88,3 млн. Тем не менее интерес к ИИ-чипам Groq продолжает расти: согласно прогнозам компании, в этом году продажи могут вырасти до $100 млн. Однако некоторые источники сомневаются, что у них получится достичь этой цели. Представители Groq отказались комментировать эти цифры.
Ожидается, что к 2027 году рынок ИИ-чипов достигнет $1,1 трлн. Росс нацелен отхватить кусок от ошеломляющей 80%-ной доли Nvidia, сосредоточившись на чипах, предназначенных для самостоятельной обработки данных ИИ. По данным исследовательской компании IDC, в этом году объем рынка составит около $39 млрд, а в ближайшие четыре года он вырастет до $60,7 млрд. «Вычислительные мощности — нефть нашего века», — считает Росс.
Groq уверен в своих силах, поскольку чипы Nvidia изначально не предполагались для ИИ. В 1999 году гендиректор компании Дженсен Хуанг представил свои графические процессоры (GPU), предназначавшиеся для видеоигр с высокой графикой. По счастливой случайности чипы оказались самым подходящим кандидатом для обучения ИИ. Однако Groq и новое поколение стартапов в области ИИ-чипов, включая Cerebras (оценка — $4 млрд) и SambaNova (оценка — $5,1 млрд), считают, что у них появился шанс. «Никто из предыдущих компаний не создавал GPU специально для ИИ», — говорит Эндрю Фельдман, гендиректор Cerebras.
Однако не только стартапы вступили в гонку с Nvidia — Amazon и Microsoft тоже начали работать над созданием своих собственных ИИ-чипов. Тем не менее скорость работы чипов Groq, которые получили название Language Processing Units (LPU), настолько высока, что компания считает, что у нее есть шанс побороться с гигантами индустрии. В своей презентации для инвесторов компания утверждает, что при работе с ИИ их чипы в четыре раза быстрее, в пять раз дешевле и в три раза энергоэффективнее, чем GPU от Nvidia. Nvidia отказалась комментировать это заявление.
«Их чипы действительно обеспечивают самую высокую скорость работы ИИ при самостоятельной обработке данных по сравнению с другими конкурентами на рынке», — утверждает Аемиш Шах, соучредитель компании General Global Capital, которая приняла участие в нескольких инвестиционных раундах Groq.
Два года назад Groq открыл продажи ИИ-чипов. С тех пор у стартапа появились такие клиенты, как Аргоннская национальная лаборатория — федеральный исследовательский центр, ведущий свое начало от «Проекта Манхэттен» (программа США по разработке ядерного оружия). Центр использует чипы Groq для изучения термоядерного синтеза — реакции, за счет которой Солнце вырабатывает энергию. Aramco Digital, технологическое подразделение нефтяной компании Саудовской Аравии, также заключило партнерство по использованию чипов Groq.
В марте Groq запустил площадку GroqCloud, где разработчики могут удаленно арендовать доступ к чипам компании. Чтобы привлечь больше подписчиков, Groq предоставил бесплатный доступ — в первый месяц подписалось 70 000 человек. Теперь количество подписчиков выросло до 350 000 и продолжает увеличиваться. Компания начала процесс монетизации платформы 30 июня и внедрила платежи за подписку. Groq также нанял Стюарта Панна, бывшего сотрудника Intel, а теперь главного операционного директора компании, чтобы эффективнее увеличить доходы и масштабы операционных процессов. Панн с оптимизмом прогнозирует высокий рост компании: более четверти обращений пользователей GroqCloud — запросы на оплату аренды вычислительных мощностей.
«ИИ-чип Groq вгрызся в самую шею рынка», — считает главный научный сотрудник Meta Ян Лекун, который в прошлом преподавал информатику Россу в Нью-Йоркском университете. Лекун также недавно присоединился к Groq в качестве технического консультанта. В конце прошлого месяца гендиректор Meta (признана в России экстремистской и запрещена) Марк Цукерберг объявил, что Groq войдет в число компаний, поставляющих чипы для новой модели Llama 3.1, способной самостоятельно обрабатывать данные. По его словам, стартап является новатором в этой сфере.
Росс начал свою карьеру в Google, где он был частью команды, создавшей полупроводниковые тензорные процессоры, оптимизированные для машинного обучения. Он покинул компанию в 2016 году, чтобы основать Groq вместе с коллегой из Google Дагом Уайтманом, который стал первым гендиректором компании. В том же году Groq привлекла инвестиционный раунд в размере $10 млн, ведущим инвестором которого стал венчурный фонд Social Capital. Однако позже у стартапа начались проблемы с поиском новых инвесторов. Через несколько лет Уайтман покинул компанию. Он не ответил на просьбы дать интервью.
Однако далеко не все положительно относятся к Groq. Один из венчурных капиталистов, пропустивший инвестиционный раунд серии D компании, также считает подход Groq новаторским, но не уверен, что интеллектуальную собственность компании можно будет защитить в долгосрочной перспективе. Митеш Агравал, глава облачного подразделения стартапа Lambda (оценка — $1,5 млрд), специализирующегося на инфраструктуре ИИ, заявил, что его компания не планирует сотрудничать с Groq или каким-либо другим стартапом в сфере ИИ-чипов. «Невозможно найти компанию, которая могла бы сравниться с Nvidia», — считает он. Также есть сомнения по поводу экономической эффективности ИИ-чипов Groq при более масштабном производстве.
Впрочем, Росс готов продолжать свой нелегкий путь. «Такое чувство, будто мы получили награду «Новичок года», — говорит он. — Нам еще далеко до Nvidia. Но сейчас все внимание приковано к нам в ожидании того, что мы сможем показать в будущем».
Перевод Ксении Лычагиной