Самовнушение и щепотка уверенности: почему Tesla может не стать лидером в сфере ИИ
По словам Илона Маска, Tesla больше не следует рассматривать только в качестве производителя электрокаров — компания вышла на новый уровень, став одной из движущих сил в области развития ИИ. Его позиция основана на владении уникальной базой данных: электрокары компании передают петабайты видеоданных, полученных из разных точек по всему миру.
Теоретически подобные видеоданные нужны Tesla для достижения цели, которая заложена в фундамент компании, — создать полностью автономный электрокар. Тем не менее на пути к прекрасному автоматизированному будущему стоит проблема: в некоторых случаях, несмотря на заявления Маска, эти данные совершенно бесполезны.
Создание ИИ, способного самостоятельно управлять электрокаром, — задача, которая требует большей ответственности, чем создание чат-бота, способного обрабатывать естественный язык и обученного на многомиллиардных данных, взятых из интернета. Цель таких чат-ботов, как ChatGPT и Grok от xAI, заключается в использовании распознавания образов для предоставления достоверной информации и ответов на вопросы, однако результаты часто оказываются нелепыми. Но ИИ, отвечающий за управление электрокаром, не имеет права на ошибку, поскольку на кону стоят жизни людей.
Управление автомобилем является довольно непредсказуемым действием, поскольку нужно учитывать множество факторов: дорожные условия, погоду, конструкцию транспортного средства, меняющиеся схемы движения, движение других автомобилей. Суть функционирования ИИ в автономном вождении лежит в успешном управлении электрокаром с учетом всех переменных и готовности реагировать на непредвиденные ситуации. Обучение на огромном количестве видеороликов, демонстрирующих стандартное движение на дороге, никак не поможет ИИ научиться реагировать в сложных случаях, которые могут привести к столкновению или другим опасным сценариям.
«ИИ сможет обеспечить комфортное передвижение при спокойной ситуации на дороге. Однако, как только положение дел отойдет от нормы, ИИ будет бессилен, — считает IT-специалист и руководитель компании, специализирующейся на разработке автономных технологий, который попросил сохранить анонимность, поскольку не хотел открыто критиковать Tesla. — К тому же это приведет к приобретению опасных привычек на дороге. Девять из 10 человек игнорируют знак «Стоп». Если ИИ продолжит обучаться лишь на действиях людей, то вскоре он также начнет проезжать мимо дорожных знаков».
Из-за возникших опасений конкуренты Tesla стали использовать в своих электрокарах лазерный лидар для получения 3D-изображений окружения и радар для обнаружения твердых объектов на пути следования автомобиля, чтобы получить доступ к более детальной картине происходящего на дороге. По словам Драго Ангелова, руководителя исследовательского отдела Waymo, выступившего с речью несколько лет назад на конференции разработчиков Google, никто не запрещает полагаться только на данные, полученные с камер, однако для этого понадобятся «самые продвинутые системы видеорегистраторов, которые смогут запечатлеть всю информацию». «Слишком опасно полагаться лишь на видеоданные и считать, что этого достаточно. В подобном риске нет смысла», — добавил он.
Ян Лекун, главный специалист Meta (признана в России экстремистской и запрещена) по вопросам ИИ, профессор информатики Нью-Йоркского университета, также не уверен в том, что уникальная база данных Tesla действительно дает ей преимущество в гонке с другими компаниями.
«Влияние данных на процесс обучения обычно преувеличивают: с ростом объема данных производительность повышается, однако отдача уменьшается, — говорит он. — Удвоение объема данных приведет лишь к незначительным улучшениям, которые все еще не смогут сравниться со способностями обычного человека». Несмотря на наличие огромного количества данных, ни одна компания не разработала ИИ с так называемым пятым уровнем автономности, который бы позволил автомобилю полностью управлять собой при любых обстоятельствах, не уступая человеку.
«За 20 часов практики любой 17-летний подросток сможет научиться водить машину, — продолжает Лекун. — Это лишь доказывает то, что современные ИИ-архитектуры не обладают каким-то фактором, который бы повлиял на их способности понимать мир и учиться на ограниченном количестве данных».
Вера сторонников Tesla в превосходство ИИ Маска продолжает оставаться нерушимой, несмотря на то что продажи электрокаров и стоимость акций компании продолжают падать, а у магазинов Tesla проходят протесты, вызванные действиями Маска в качестве главы Департамента эффективности правительства США (DOGE), созданного по инициативе Трампа. Некоторые аналитики по-прежнему уверены, что у Маска есть данные, о которых еще никто не знает. «Мы считаем, что отдельно взятая автономная система оценивается в $1 трлн. В ближайшие годы все только удостоверятся в этом», — заявил Forbes USA Дэн Айвз, аналитик Wedbush Securities.
Маск и представители Tesla не ответили на многочисленные просьбы прокомментировать ситуацию. Ашок Эллюсвами, глава отдела разработки системы автономного вождения Tesla, также проигнорировал просьбы предоставить комментарий.
«Мусор на входе — мусор на выходе»
Маск отказался от предыдущей цели Tesla к 2030 году достичь годовых продаж в размере 20 млн электрокаров и отдал предпочтение развитию компании в области ИИ, включая разработку роботов-гуманоидов и умных заводов. Одной из причин смены курса компании является усиливающаяся конкуренция на рынке электрокаров — особенно со стороны китайских компаний, включая BYD. Вторая причина заключается в эффективности: если Tesla сможет представить функцию полностью автономного вождения, то для компании будет выгоднее создать сеть из сотен тысяч роботакси по всему миру, чем строить новые заводы по производству и продаже миллионов персональных электрокаров.
Уверенность Маска в успехе разработки полностью автономного вождения настолько интегрирована в политику компании, что он призывает всех сомневающихся отказаться от приобретения акций Tesla. «Если кто-то не верит в успехе Tesla в решении проблемы автономного вождения, то я считаю, что им не стоит становиться нашими инвесторами», — заявил Маск в ходе отчета о доходах компании за 2024 год.
В январе Маск также объявил, что огромная база данных Tesla будет использоваться в новом центре обработки данных Cortex в Остине для улучшения ПО «полностью автономного вождения» (Full Self-Driving, FSD), которая, несмотря на название, требует постоянного контроля со стороны человека. Наравне с «автопилотом» (Autopilot) эти два режима, оснащенные ИИ, нуждаются в апгрейде: за годы существования FSD и Autopilot с ними было связано 52 аварии со смертельным исходом по всему миру.
Огромное количество видеоданных могут принести свою пользу, однако Tesla не станет лидером на рынке ИИ в мгновенье ока благодаря им. «Доступ к уникальным источникам данных, безусловно, является преимуществом», — считает Алекс Ратнер, IT-специалист и гендиректор компании Snorkel AI, занимающейся разработкой ПО для автоматизации маркировки исходных данных.
«Однако именно к этой ситуации подходит старый принцип в информатике — «мусор на входе — мусор на выходе» (GIGO), — добавил Ратнер, член семьи которого работает в Waymo. — Существует ли способ, который позволит в процессе обработки данных определить, какой видеоматериал поступил от добросовестного водителя, а какой — от плохого? Это неочевидная проблема, но очень важная, поскольку эти модели ИИ обучаются, запоминая самые распространенные действия, запечатленные на видео».
Такие компании, как Waymo, Zoox, Aurora и Waabi, потратили годы на совершенствование своих моделей ИИ для безопасного управления легковыми и грузовыми автомобилями. В настоящее время они сосредоточились на создании надежных баз данных, включающих достаточно сложные примеры, которые помогут обучить ИИ действовать в экстремальных или опасных дорожных ситуациях с помощью передового компьютерного моделирования и структурированных испытаний в реальном мире. Не исключено, что база данных Tesla не содержит данные, которые помогут приспособить ИИ к гораздо более редким проблемам на дороге.
«Нет никаких гарантий, что в базе данных будет достаточное количество специфичных ситуаций, которым ИИ обязан обучиться», — считает эксперт в области ИИ Мисси Каммингс, профессор Университета Джорджа Мейсона, занимавшаяся консультацией федеральных и калифорнийских регулирующих органов по вопросам технологий автономных электрокаров. Подобная однообразная выборка затрудняет решение проблем, с которыми сталкиваются все разработчики автономных электрокаров, включая неожиданные «фантомные» торможения, когда ИИ неправильно считывает ситуацию на дороге, посчитав ее опасной.
По словам исследователя в области автономного вождения и IT-специалиста, ознакомившегося с подходом Tesla и пожелавшего сохранить анонимность, из бесконечного количества видеозаписей дорожного движения очень сложно выделить важные моменты, которые можно будет использовать в дальнейшем обучении. «По факту есть огромная база данных миллионов накатанных миль, — добавил он. — Как же они отбирают самые важные моменты для обучения?»
Этот вопрос остается без ответа, поскольку Tesla не раскрывает деталей процесса обучения ИИ. Компания также не участвует в деятельности сообщества исследователей ИИ, где инженеры всех крупнейших технологических компаний регулярно публикуют результаты своей деятельности с подробным описанием последних исследований.
«Tesla будто не существует в сообществе исследователей ИИ — представители компании не ездят на конференции, а имена их исследователей не появляются в публикациях», — говорит Лекун.
Запятнанная репутация
Достижения Tesla в области развития автономного вождения каждый раз оказываются ниже поставленных Маском целей. В 2016 году он пообещал, что электрокар Tesla сможет проехать через всю Америку без участия водителя — спустя девять лет обещание остается невыполненным. В 2019 году он также поставил цель к 2020 году создать миллион роботакси — выполнение задачи далеко до завершения.
«На протяжении практически 10 лет Илон продолжал изменять требования к разработке режима FSD, — говорит Лекун. — Многие из нас понимали, что все эти заявления — либо ложь, либо самообман. У меня в голове не укладывается, как ему еще кто-то может верить».
Тем не менее Маск продолжает давать новые обещания, а его ярые фанаты продолжают отдавать ему все больше своих денег. Однако прототипы электрокаров, которые были представлены общественности, даже близко не похожи на обещанный конечный результат. В октябре прошлого года прошла демонстрация роботакси CyberCab, во время которой участникам мероприятия было предложено прокатиться в автономном электрокаре по съемочной площадке Universal Studios в Лос-Анджелесе. Вопреки всем ожиданиям, на закрытой площадке студии находились технические специалисты Tesla, которые следили за низкоскоростными прототипами, а в некоторых случаях даже переключали их на дистанционное управление. К дистанционному управлению прибегли и при использовании робота-гуманоида Optimus, который подносил напитки участникам мероприятия. «В долгосрочной перспективе Optimus может принести доход в размере более $10 трлн — это просто безумие», — заявил Маск во время совещания по результатам компании.
В июне компания столкнется с серьезным испытанием: Tesla готовится к запуску сервиса автономных роботакси в Остине — при условии, что сервис действительно будет запущен в установленную дату. «Все внимание будет сосредоточено именно на сервисе, чтобы убедиться, что ничего не было упущено, — сказал Маск во время совещания. — В июне сервис начнет работать в Остине, а затем, как можно скорее, начнет предоставлять свои услуги и в других городах Америки». В Комиссии по коммунальным предприятиям Калифорнии (CPUC) сообщили Forbes USA, что Tesla также подала заявку на получение разрешения на предоставление услуг такси в Калифорнии с помощью принадлежащих компании электрокаров, но не роботакси.
«Tesla не станет первой компанией, которая представит миру функционирующий режим полностью автономного вождения, — считает Лекун. — Компания не предоставляет свободы для создания исследовательской организации и не располагает достаточным количеством талантливых ученых для этого».
Более того, Маску также нужно будет попытаться догнать компанию Waymo, принадлежащую Alphabet, которая стала лидером в области роботакси. Согласно последним данным, сервис автономных роботакси работает в Финиксе, Сан-Франциско, Лос-Анджелесе и Остине. В прошлом месяце компания отчиталась о последних результатах: Waymo предоставляет более 200 000 платных поездок в неделю при парке всего в 700 электрокаров. Позже в этом году компания планирует открыть филиал в Атланте, а в следующем году — в Майами. Alphabet не раскрывает информацию о доходах Waymo, однако, по оценкам Forbes USA на основе 4 млн предоставленных поездок, в 2024 году они составили более $100 млн.
Роботакси Waymo попадали в мелкие аварии, однако в настоящее время не было ни одного зарегистрированного дорожного происшествия со смертельным исходом. Тем временем владельцы Tesla регулярно выкладывают в сеть видео, на которых их электрокары совершают опасные маневры в режиме FSD, включая едва не случившееся столкновение с другими автомобилями на съезде с шоссе в Нью-Джерси или игнорирование красного света в Китае.
В конечном итоге идея Маска о развитии ИИ связана только с финансовой выгодой для Tesla, рассчитывающей в ближайшие годы получить триллионы долларов нового дохода. Вице-президент и ведущий исследователь в области ИИ Meta Лекун считает, что, для того чтобы электрокары смогли изучать устройство мира лишь на основе видеоданных, необходимы «фундаментальные изменения», которые могут произойти не раньше чем через десятилетие исследований. «Мне кажется, что мы не сможем создать полностью автономную систему, которая будет способна принимать решения наравне с человеком, а также функционирующих роботов-гуманоидов, пока не поймем, как заставить системы ИИ изучать устройство мира подобно животным и людям», — считает он.
Перевод Ксении Лычагиной