Будущее беспилотных автомобилей

  • 2 июля 2016
Правообладатель иллюстрации Reuters
Image caption Автомобили-беспилотники создаются несколькими компаниями, в том числе Google, представишей свою новейшую модель на выставке в Париже 1 июля 2016 г.

В США началось предварительное расследование безопасности электромобилей Tesla после того, как один из них попал в аварию со смертельным исходом.

Во время аварии машиной управлял автопилот.

В самой компании водителям рекомендуют никогда не выпускать руль из рук даже при включенном автопилоте и напоминают, что с водителя не снимается ответственность за управление автомобилем.

Разработку беспилотных автомобилей сегодня ведет сразу несколько крупных автоконцернов, а также компьютерные гиганты Google и, по слухам, Apple.

Помимо безопасности на дорогах, которая пока, как мы видим, оставляет желать лучшего, у беспилотных автомобилей есть и другая проблема: любой компьютер можно взломать.

Как скоро профессия водителя канет в Лету?

Ведущий "Пятого этажа" Михаил Смотряев и обозреватель Би-би-си Александр Кан беседуют с сотрудником компании "Компьютерра" Евгением Золотовым.

____________________________________________________________________________________

Загрузить подкаст передачи "Пятый этаж" можно здесь.

____________________________________________________________________________________

Михаил Смотряев: Внедрение технологий автопилотирования вряд ли может обойтись гладко. Любой человек, пользующийся компьютером, знает, что когда выходит обновление операционной системы, прямо с самого начала гладко все никогда не работает.

Но компьютер, который ведет себя плохо, можно ударить молотком, можно выключить из сети, можно заменить на новый. Когда это происходит на скорости 100 километров в час в двухтонном железном ящике, согласитесь, - совсем другая конструкция, особенно в том, что касается возможных потерь.

Насколько существующие на сегодня технологии в принципе, с моральной даже, может быть, точки зрения оправдывают попытки их установить за руль?

Евгений Золотов: Существуют два разных подхода. Один практикует компания Tesla, которая сегодня в «черных» новостях по поводу погибшего человека.

Илон Маск говорит, что автомобиль не сможет никогда ездить автоматически. Максимум, что он сможет, - это сделать 9/10 пути на автомате. Оставшаяся часть обязательно будет принадлежать человеку: это какие-то дворы, непредвиденные обстоятельства на дороге, — там должен вести человек.

Все остальные, в том числе Google, практикуют другой подход. Они пытаются сделать автомобиль, который ездит полностью, 100% автоматически. Google даже пытается убрать элементы управления из автомобиля.

Лично мое мнение — я согласен с Маском в том, что полностью автоматического робокара создать не удастся. Всегда останутся на дорогах какие-то ситуации, которые потребуют вмешательства человека.

М.С.: Тут с вами, наверное, согласятся пилоты гражданской авиации. По этому принципу они функционируют уже достаточно давно, и в общем-то авиакатастроф никто не отменял.

Хотя логика снять максимум нагрузки с пилота воздушного судна или автомобиля и переложить его на компьютер тоже имеет под собой достаточно хорошенькую теоретическую основу, поскольку большая часть аварий в воздухе или на земле — это все-таки человеческий фактор.

Тут, как мне представляется, принципиально важным является фундаментальная разница между тем, как оперирует человеческий мозг, и тем, как оперирует компьютер.

Наверное, до тех пор, пока эти два мыслительных метода, две методологии не будут приведены в некое соответствие друг с другом, говорить о создании по-настоящему надежных систем не приходится.

Как вы думаете?

Е.З.: На самом деле машина уже сейчас выгоднее человека, что в воздухе, что на земле, только в том случае, если мы отдаем 100% управления. Она действует быстрее, она просто быстрее соображает.

Поэтому любые непредвиденные ситуации она способна отработать быстрее и правильнее.

Проблема, как ни странно, в человеке, в том, что очень трудно совместить (вы правильно сказали) два этих фактора - человека и машину.

Либо машина управляет все время, - и тогда вообще забрать у человека руль, чтобы он не вмешивался, чтобы не было пресловутого человеческого фактора, - либо необходимо готовить человека к тому, чтобы он каждую минуту был готов вмешаться.

М.С.: Тогда это существенно подрывает позиции автопилотов в принципе. Если машину за вас ведет автопилот, а вы должны сидеть, вцепившись в руль, и ждать, что машина неправильно интерпретирует, - как в случае с аварией, которая стала предметом нашего разговора, - поворачивающую с правого ряда налево фуру, тогда нервотрепка будет совершенно точно не меньше, чем, если машину вести самому.

В этой связи возникает вопрос: надо ли пытаться системы такого автономного контроля, управления ставить на все автомобили? Есть отдельная школа мысли, популярная в Европе и в Японии, о том, что грузовики подобного рода системами оснащать надо, и в какой-то момент они все будут беспилотные, но пассажирский транспорт, управляемый людьми, это не отменит.

Такое фундаментальное деление на грузовые и легковые автомобили оправдано?

Е.З.: Я думаю, что оснащать надо, и со временем все автомобили оснастят автопилотами. Другое дело, что отобрать руль у человека все-таки не получится.

Автопилот будет ездить по специально размеченным трассам, как только мы с этой трассы съезжаем, руль достается человеку. Будет вот так — я в этом смысле скептик.

М.С.: Не вы один, на самом деле. Алик с вами согласен и, честно говоря, немалое количество экспертов в автомобильном сообществе.

Плюс — тут есть еще одна проблема, которую мы наметили в самом начале программы, но не пустом месте. В прошлом году репорт комиссии РАНТ, который заказал Национальный институт американской юриспруденции, изучал вопросы «задних дверей».

Это словосочетание вошло в обиход в связи с мобильными телефонами и попытками их взлома государственными органами — силовыми структурами.

Поскольку автопилот — это разновидность компьютера, предполагается (во всяком случае, обсуждается возможность) нечто похожее - подобного рода вмешательство извне - в автомобильные системы автопилотирования, вообще в автомобильные компьютеры вмонтировать.

Если лихой гонщик на машине, даже не обязательно, оборудованной автопилотом (современные автомобили сильно компьютеризированы), убегает от полиции, те дистанционно выключают ему двигатель.

Доклад института РАНТ, с одной стороны, не считает это невозможным, с другой стороны, здесь сразу возникает целый спектр вопросов по поводу права граждан на личную жизнь, на то, чтобы за ними не следили, - всякое вот такое. Каковы, по-вашему, перспективы?

В том, что связано, например, с мобильными устройствами: сколько бы компании не протестовали против того, чтобы их в обязательном порядке заставляли встраивать ключи в свои шифровальные алгоритмы, - есть такая точка зрения, что в какой-то момент их все-таки додавят, и «задние двери» будут при определенных условиях службам безопасности доступны.

Но речь идет о приборах, которые лежат у человека в кармане или на столе. Что касается движущегося автомобиля, в действие которого вдруг решил вмешаться сотрудник полиции, - это совершенно другая история, правда?

Е.З.: Я думаю, что «бэкдоры» - черные «задние двери» или черные ходы - обязательно будут встроены.

Сопротивление не столько компаний, сколько покупателей-консьюмеров продавят страховые компании.

Это случится очень просто. Оформляя страховку на автомобиль, периодически возобновляя годичную, если у вас на автомобиле стоит автопилот, который статистически снижает вероятность аварии, если вы согласились поставить функцию удаленного управления для правоохранительных органов, вам страховка обойдется дешевле, значительно дешевле.

Таким образом, сопротивление само собой уйдет. Потребители сами согласятся вставить такие функции. Это будет хорошо.

М.С.: Подобного рода давление на потребителей в Великобритании уже присутствует.

Здесь можно действительно сильно облегчить бремя обязательной страховки автомобиля, если на нем стоит трекер — приборчик гораздо более простой, чем автопилот, но все же. Я, кстати говоря, страхуя свою машину, этой штукой не воспользовался: не люблю, когда за мной смотрят.

Александр Кан: Я, читая информацию, которая послужила поводом для сегодняшнего разговора, обратил внимание на такую фразу, что теоретически расследование, которое ведется в связи с этой аварией, может привести к отзыву 25 тысяч таких же автомобилей.

Несмотря на весь мой скепсис в связи с беспилотными или автопилотными автомобилями, мне такая мера — отзыв всего того, что произведено на рынке автопилотных автомобилей, - кажется чрезмерной.

Да, аварии неизбежны, как у таких автомобилей, так и у автомобилей, которыми управляют люди, как у самолетов, которыми управляют компьютеры, так и у самолетов, за штурвалом которого сидит летчик-пилот.

Но не слишком ли круто? Понятно, что это новая революционная мера. Мне кажется, что это - импульсивная реакция: новое рискованное средство выпущено на дорогу, и произошла авария, - отберем все.

М.С.: Я не думаю, что это связано с автопилотами, как таковыми. Подобного рода отзывы в истории практически всех крупных концернов, так или иначе, случались: там может быть бракованная подушка безопасности, или бракованный тормозной диск, или какая-то ошибка в дизайне.

А.К.: Нет, тут я с вами не согласен. Там какая-то конкретная деталь неисправна, поэтому отзывают всю партию, в которой есть эта деталь. Здесь речь идет, насколько я понимаю, о принципе.

М.С.: Это мы с вами точно не знаем, это будет известно по результатам расследования.

Но если мы об этом заговорили, Евгений, как вы думаете, по итогам этого расследования, что может последовать: заставят переписать программу, заставят ее отключить принудительно?

Как дальше можно действовать, при том что программа, - напомним, - находится в бета-статусе и, включая ее (по умолчанию она отключена в машине), водитель тыкает кнопочку, таким образом удостоверяя, что он в курсе о всех рисках, связанных с использованием еще не конца отработанной технологии? Евгений, как, по-вашему, как дело пойдет?

Е.З.: Прежде всего, что касается отзыва, я думаю, что Tesla Motors отделается очень легко, потому что в данном случае дефект не аппаратный, а программный.

Насколько я понял, автопилот просто принял огни впереди идущего грузовика за яркое небо.

М.С.: Борт грузовика перепутал с небом: борт был белый.

Е.З.: На самом деле, не имеет значения. В данном случае ошибка программная, а у Tesla такого рода управление все реализовано через программу, обновляемую удаленно.

Иначе говоря, они эту ошибку устранят, после чего просто разошлют по интернету всем автовладельцам, всем двадцати пяти тысячам новую версию программы. Отзывать автомобили не потребуется — это раз. Что касается того, как все будет дальше, я думаю, что просто в госавтоинспекции в стандартные тесты сдачи на автоправа будет включен новый раздел, который будет посвящен управлению автомобилями с автопилотом.

Там водители будут отвечать на вопросы, которые докажут, что они знают, понимают ответственность и специфику управления таким автомобилем: не должны, допустим, убирать руки с руля в данном случае, пока мы это не прошли, или в каких-то сложных ситуациях должны вмешаться, - там очень много нюансов.

Не только Tesla провинилась, в прошлом годы был очень нехороший случай с Volvo. Думаю, что у других производителей в свое время инциденты случатся аналогичные.

М.С.: Не только Tesla занимается разработкой: и японцы собираются выпускать, и Nissan, и Toyota, и американцы в виде General Motors, и Volkswagen среди европейцев, Audi, BMW. В общем, все крупные автоконцерны, так или иначе, предполагают, что в какой-то момент — причем называется 2020 год плюс-минус два-три года (скорее плюс, чем минус) в качестве срока появления уже серийных образцов.

В завершение вопрос, который нельзя обойти, поскольку, я подозреваю, что практически все из тех, кто нас сейчас слушает или будет читать программу в расшифровке, в свое время видели или «Терминатор», или «Матрицу», а может быть, и то, и другое.

А сколько книжек написано про восстание машин и про то, как человечество будет находиться в подчинении у злобных роботов, - это, может быть, Алик нам скажет и то не сегодня, потому что для подсчета требуется значительное время.

Как, по-вашему, Евгений, здесь прогнозы: не является ли компьютеризация, автоматизация, интеракция с окружающей действительностью в виде автомобилей в этом контексте шагом в сторону ужасного, злобного скайнета, а там — и до терминаторов недалеко?

Е.З.: Здесь ситуация обстоит так. Тенденция на усложнение техники до такой степени, когда мы ее перестанем понимать, есть. Мы к этому идем, техника появляется, программы совершенствуются, но этот порог еще не перейден.

Ожидать, что его перешагнут автомобильные компьютеры, я бы не стал.

М.С.: Зачем исключительно автомобильные? Уже и Билл Гейтс, и Стивен Хокинг — все так поговаривают, что «бойтесь». Это первый шаг — немножко компьютеров (предтечей можно считать станки с числовым программным управлением 60-х годов на заводах): вот это более компьютеризовано, вот это более компьютеризовано.

У современного подростка в возрасте меньше 18 лет отнимите мобильный телефон, планшет и компьютер, он умрет с тоски за 24 часа.

Е.З.: Если речь о принципе, тогда я согласен, что опасность существует. Называть какие-то цифры не имеет смысла, потому что в информационных технологиях прогнозировать больше, чем на 5 лет, не имеет смысла.

Говорить, что через 5 лет, значит говорить, что никогда. Но тенденция такая есть. Техника усложняется, и как только она станет сложной настолько, что мы перестанем понимать, как она функционирует, мы не сможем ее контролировать.

М.С.: Прогноз не самый приятный. Алик, когда в следующий раз вы будете покупать себе телефон, не надо покупать смартфон, не надо покупать «умный» телефон.

Существует вероятность, что он окажется умнее нас с вами, мы не будем понимать, как он работает. В любом случае у нас, как выясняется, какое-то время еще есть до наступления полной матрицы и скайнета, этим и воспользуемся.

Похожие темы

Новости по теме