Робот за рулем. Законов робототехники Айзека Айзимова уже не хватает

К 2021 году на дорогах появится смешанный поток традиционных автомобилей с водителем и беспилотных. Готовы ли мы к этому и насколько безболезненно эти инновации способны встроиться в наше общество

Хотим мы того или нет, но на дорогах один за другим появляются автомобили с искусственным интеллектом — принципиально новые, роботизированные и способные самостоятельно принимать решения. Эксперты почти единогласно соглашаются, что уже к 2021 году на дорогах появится смешанный поток традиционных автомобилей с водителем и беспилотных. Готовы ли мы к этому и насколько безболезненно эти инновации способны встроиться в наше общество?

Вопрос не бесполезный. Проблема резко обострилась именно сегодня, потому, что массовый характер стал приобретать переход транспортных средств со второго уровня автономности управления (по шкале разрабатывающего регламенты для беспилотников влиятельного агентства SAE International, это условная автоматизация, активная помощь водителю при рулении, торможении, удержании в полосе и т.д.) на третий (автоматизацию некоторых режимов — автономное движение автомобиля в пробках, на автомагистралях и т. п. с возможностью вмешательства человека в критической ситуации). Всего уровней шесть — от нулевого, полностью ручного управления до пятого, автономного движения.

Критическая точка

Сегодня впервые в истории на некоторых участках дорог автомобиль получил возможность передвигаться без контроля человека. Это дает человеку не только серьезные преимущества, но и создает колоссальные риски и опасности. Это критическая точка. И произошедшие за последние годы аварии с участием беспилотников могут стать лишь первыми ласточками в списке возможных катаклизмов этого, переходного процесса. И мировое сообщество разработчиков, засучив рукава, решает, как минимизировать возможный ущерб. Тем не менее существующие сейчас попытки регулирования этой точки перехода не совершенны.

Авторы вышедшего в конце прошлого года стандарта SAE International — J 3016-2016 — попытались учесть основные тренды и перемены в отрасли за последние годы. В отличие от прежних версий, главное в нем нормы, гарантирующие безопасность всем участникам при движении беспилотного автомобиля. Если до сих пор регламенты в равной степени распространялись на любые случаи использования беспилотников — от автономных грузовиков внутри заводского помещения до автомобилей на общественных дорогах, то сейчас каждое претендующее на беспилотность транспортное средство будет рассматриваться только в приложении к задаче, которую оно выполняет: например, для движения на закрытых территориях будут одни правила, а для движения в пробках — другие. Эти новшества предполагают введение серьезных изменений в отношения между автопроизводителями и пользователями.

Cейчас водителю автомобиля, способного передвигаться в автономном режиме на автомагистрали, для максимальной безопасности предписывается контролировать движение весь период движения. То есть и на участке, где работает беспилотный режим, и вне его. Но задача этого автомобиля состоит не только в движении по магистрали. Он ездит и по другим территориям, на которые работа режима автономности не распространяется. Поэтому, стоит ожидать изменений в инструкциях и руководствах пользователям автомобилей, обладающих возможностями беспилотного движения.

Беспилотник есть, а слова нет

Одной из самых громких деклараций нового стандарта для беспилотников стало исчезновение термина «беспилотный автомобиль». Вместо него специалисты SAE вводят определение ADS-DV — «автомобиль с интеллектуальной системой помощи водителю» (оно касается только систем управления четвертого и пятого уровней, которые еще не появились).

Зачем нужна эта замена терминов? Затем, что привычный всем термин «беспилотник» себя дискредитировал. За последние годы разработчики, автопроизводители, эксперты да и обыватели настолько его заездили, что смысл этого понятия оказался совершенно размыт. Под термин «беспилотный» в равной степени подходили и результаты однолетнего стартапа с дистанционным управлением, и автомобили известных брендов, соответствующие второму или третьему уровню систем помощи водителю, и транспортные средства, передвигающееся автономно на ограниченных территориях, и еще не существующие в природе, но, как заявляют все производители, автомобили, способные ездить по дорогам общего пользования без участия человека, которые появятся в середине 2020-х годов.

Перехватить управление у робота

И все же у нового стандарта SAE есть существенный недостаток — отсутствие критериев переключения из режима автопилота в контролируемое управление. Например, если вы поставили свою машину в режим помощи водителю в пробке, а в устройстве произошел внешний сбой — скажем, потеря сигнала от камеры и т. п. — в системе должны быть предусмотрены правила перехода из автопилотируемого режима в ручной и наоборот. В том числе и в критических ситуациях. Без этого, все разговоры о разделении полномочий между человеком и искусственным интеллектом теряют смысл.

И здесь возникает много вопросов. Нужно ли прописывать в стандартах время на выход из автопилота, и возможно ли вообще определить его?

В авиации, идя на посадку автоматическом режиме, пилоты реагируют на необходимость перехода на ручное управление за 5 секунд после получения сигнала. А как быть водителю в потоке средней плотности на скорости близкой к 80 км/ч? Скорее всего в опасной ситуации за 3 секунды от момента подачи предупреждения от машины и ее пассажиров уже ничего не останется. Какие есть варианты?

Можно сразу снижать скорость и экстренно останавливаться, как при ночном ослеплении. Но это вызовет серьезные проблемы для окружающих при ложных срабатываниях. Можно давать звуковой сигнал опасности и передавать управление человеку. Можно ожидать реакции человека и начинать торможение только в том случае, если водитель не перехватил управление за контрольное время. Но успеет ли ничего не подозревающий водитель сконцентрироваться и принять за доли секунды единственно верное решение?

Умножение законов

Опрос участников рынка и представителей экспертного сообщества о том, как регламентировать подобную ситуацию, проведенный нашей компанией Cognitive Technologies, показал: 58% считают, что безопаснее всего, если авторобот будет самостоятельно экстренно тормозить; 23% — что торможение можно начинать, только если человек не принял управление за отведенное на это регламентом время; 11% надеются на способности человека взять управление на себя, после подачи сигнала об опасности; 8% респондентов затруднились с ответом…

Это только технические аспекты. А ведь есть еще много психологических, моральных, законодательных, страховых и иных проблем, возникающих у разработчиков, других участников рынка и пользователей. Именно в точке перехода на автономный режим и вокруг нее водители испытывают эйфорию от нового функционала и могут пренебрегать предостережениями о необходимости постоянного внимания за движением. На этом фоне автопроизводители агрессивно рекламируют возможности наслаждаться беспилотной ездой, и лишь на последних страницах своих руководств для пользователей напоминая мелким шрифтом о необходимости постоянного контроля за движением; законодатели находятся в замешательстве: кого признавать виновным в случаях ДТП, а страховщики не понимают, как теперь строить свои бизнес-модели. Проблемы надо решать, необходимо изобретать совместные выходы  и договариваться.

Для управления нормальным существованием в смешанном робо-человеческом обществе законов Робототехники Айзека Айзимова уже не хватит. Напомню — их сегодня три: 1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред; 2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону; 3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам. А должно стать тридцать три. 

Источник