Робот вне закона: как смертельная авария Uber скажется на будущем беспилотных машин
Беспилотные автомобили Uber больше не курсируют по улицам крупных американских городов, таких как Питтсбург, Сан-Франциско или Торонто — их эксплуатация прекращена до выяснения причин аварии, повлекшей смерть 49-летней Элейн Херцберг. Эта трагедия далеко выходит за рамки обычного ДТП, заставляя задуматься о проблеме экспоненциального развития технологий и о том, что современное общество, кажется, перестает поспевать за прогрессом.
Согласно предварительным данным, велосипедистка спешилась, чтобы пересечь дорогу в неположенном месте, и оказалась на проезжей части прямо перед внедорожником Volvo, двигавшемся в автономном режиме. Все произошло настолько быстро, что человек, сидевший на месте водителя, понял что произошел наезд только ощутив удар. «Ясно, что избежать столкновения было чрезвычайно сложно, независимо от того, человек вел автомобиль или робот», — заявила глава полиции города Темпе Сильвия Моир. Таким образом, ни пилот, следивший за поведением машины, ни Uber не виноваты в аварии. Хотя на долю компании все равно выпала незавидная участь стать первой, чей «беспилотник» насмерть сбил пешехода, — этот факт теперь вписан в историю автопрома.
Если бы Херцберг переходила дорогу по правилам, виновным бы оказался присутствующий в салоне человек — фактически, он является водителем, хотя и не управляет машиной большую часть времени. Пилот нужен для подстраховки, чтобы перехватить управление в критической ситуации. Однако, как показывает опыт Google и Waymo, люди слишком доверяют новым технологиям: они не следят за дорогой и даже засыпают во время движения. В 2017 году Waymo была вынуждена прервать эксперимент с «автопилотом 3-го поколения», так как беспечное поведение нанятых водителей напугало владельцев компании.
Рано или поздно самоуправляемые автомобили начнут передвигаться без контроля со стороны людей — иначе зачем нужна эта технология. Но это произойдет не раньше, чем будет решен основной правовой вопрос: кто же тогда понесет ответственность в случае ДТП? Тот, кому автомобиль принадлежит или тот, кто его произвел? Или, может быть, разработчик алгоритма искусственного интеллекта? Или изготовитель специального оборудования?
В настоящее время только Volvo заявила о готовности нести полную ответственность за свои машины, оборудованные системами автономного вождения. Но следует учесть, что шведская компания реализует всего около полумиллиона автомобилей в год. Гиганты индустрии, такие как Toyota, Volkswagen или Ford продают по 5-7 млн машин. Брать на себя ответственность за каждую аварию для них бессмысленно: ведь ежегодно сотни тысяч автомобилей этих марок попадают в ДТП. Такая политика попросту разорит компании, если их обязуют это сделать, автопроизводители начнут сопротивляться внедрению беспилотного транспорта. Разделение же ответственности между авто- и IT-компаниями приведет к тому, что расследование каждого инцидента будет крайне трудоемким и дорогостоящим; кроме того, компании наверняка начнут судиться между собой, так что процесс невероятно затянется.
Другую проблему беспилотного транспорта обозначили ученые Массачусетского технологического института, она в большей степени философская: если авария неизбежна, кого должен защитить автомобиль? Фактически, это переосмысление известной «Дилеммы вагонетки»: представьте, что по рельсам несется вагонетка, на ее пути несколько человек, которые не могут убежать. Вы можете перевести стрелку на другой путь, где находится всего один человек, или ничего не предпринимать. Как правильно поступить в такой ситуации? Однозначного ответа не существует.
Только разработчикам искусственного интеллекта придется как-то решать подобные моральные дилеммы: куда направить машину с отказавшими тормозами? В столб — и тогда может погибнуть пассажир, который ни в чем не виноват, или позволить ей протаранить пешеходов, переходящих дорогу? Живой человек может струсить или проявить мужество — это вопрос выбора. Но любой запрограммированный ответ кажется неэтичным или неприемлемым. Кто захочет купить автомобиль, не заботящийся о безопасности владельца? И может ли пройти сертификацию транспортное средство, при определенных условиях игнорирующее безопасность окружающих?
Согласно отчету американского Центра исследований проблем транспорта (Eno Centerfor Transportation), всего 10% «беспилотников» на дорогах США будут ежегодно сохранять свыше 1000 жизней. Когда количество автономных транспортных средств достигнет 90% от общего парка машин, в стране будет умирать на 21 000 людей меньше. И это самое очевидное преимущество. Другие плюсы самоуправляемых автомобилей — экономия топлива и снижение вредных выбросов, а так же сокращение дорожных заторов. Все это позволило бы экономить до $355 млрд в год. Полностью самоуправляемые автомобили — это будущее, которое пока что далеко за горами. Еще есть время отыскать ответы на вопросы, ведь игра действительно стоит свеч.