Кого спасет робокар в аварийной ситуации, пассажира или пешехода?

Кого спасет робокар в аварийной ситуации, пассажира или пешехода?
02 апреля 13:05 2019

Беспилотные автомобили, угроза или безопасность?

Представьте себе: вы едете за рулем, и прямо перед вашим автомобилем – не замечая его и смотря в другую сторону – дорогу начинает переходить человек. Вы резко ударяете по тормозам, чтобы не сбить пешехода – и в вас врезается машина сзади.

Что произошло? Давайте разберемся.

Вы как водитель сделали сознательный выбор, перенеся риск столкновения: с рассеянного пешехода – на себя и своих пассажиров. И выбор этот продиктован не только вашей оценкой опасности (понятно, что люди в автомобиле более защищены, чем переходящий дорогу человек), но и вашими моральными принципами.

Так выглядит уличное движения для беспилотника

Фото: www.bbc.com

Усложним задачу. Допустим, у вас отказали тормоза – и вы должны выбрать: задавить незадачливого пешехода или вывернуть на тротуар и сбить там сразу нескольких человек?

Выбор кажется очевидным – но что если на дороге перед вами инвалид или беременная женщина? Ведь личность пешехода вполне может повлиять на ваше решение. А если это ваш близкий друг – или даже ваш ребенок?

А теперь представьте себе, что вы пассажир, а никакого водителя в вашей машине нет – это беспилотный автомобиль, робокар. Какой моральный выбор должен сделать управляющий им искусственный интеллект – как его нужно запрограммировать?

  • Кто виноват в смертях под колесами беспилотных автомобилей?
  • Заменят ли нас машины, и в чем мы незаменимы
  • Готовы ли вы летать на беспилотных самолетах?

Над этим вопросом не первый год бьются все разработчики беспилотных автомобилей – от Audi и Toyota до Tesla и “Яндекс”. Но, как выяснили ученые, ответ на него сильно зависит от того, кого вы спрашиваете.

Кого спасти – старика или ребенка?

Чтобы разработать универсальный алгоритм принятия решений для беспилотных машин, ученые Массачусетского технологического института (MIT) разработали специальный онлайн-тест, пройти который мог любой желающий.

Каждому участнику опроса предлагалась дюжина гипотетических дорожных ситуаций – вроде тех, что приведены выше, – в которых водителю необходимо сделать моральный выбор, неизбежно влекущий за собой смертельный исход. Например, насмерть сбить трех пожилых пешеходов на автостраде – или направить машину в бетонный забор, убив находящихся в ней троих пассажиров.

ДТП по вине автопилота машины Tesla

Фото: www.bbc.com

Чтобы точнее выявить приоритеты респондентов, сценарии онлайн-теста варьировались. Кого участники спасут с наибольшей вероятностью – молодых или пожилых? Бедных или богатых? Одного ребенка или нескольких взрослых?

Масштабы эксперимента, результаты которого опубликованы в журнале Nature, впечатляют: за полтора года в нем приняли участие 2,3 млн человек из 233 стран и территорий (тест специально перевели на десяток языков). В общей сложности ученые собрали почти 40 млн ответов. И, проанализировав эту огромную базу данных, они сделали несколько важных выводов.

Первый – и, пожалуй, самый важный из них: моральные приоритеты сильно зависят от страны проживания. Авторы исследования выделили три типа стран, которые они условно назвали “западными”, “восточными” и “южными”. Условно – потому что Франция, например, попала в “южный тип”, а вот Египет – в “восточный”.

“Западники” чаще предпочитали спасать более молодых людей, а “восточники” – более пожилых. Представители “южных” стран чаще отдавали предпочтения женщинам и детям, а также людям, обладающим более высоким социальным статусом.

На удивление, люди, занимающие более высокое положение в обществе, вызывали больше симпатий и у жителей “западных” стран – по сравнению с “восточными”.

Зато “восточные” жители почти не принимали в расчет разницу в количестве спасенных жизней, основывая свои предпочтения на других факторах.

Второй вывод: ответы зависят и от демографических показателей участников эксперимента, таких как пол, возраст и так далее – но уже далеко не так сильно.

И третий – возможно, довольно очевидный: моральный выбор сильно коррелирует не только с глубоко укорененными в культуре представлениями об этике, но и с современным состоянием гражданских институтов.

Например, жители относительно богатых стран с сильной и независимой судебной системой (Финляндии и Японии) проявляли куда меньше симпатий к пешеходу, вышедшему на дорогу в неположенном месте, чем респонденты из Нигерии или Пакистана.

Более подробную карту и график расхождения в приоритетах можно посмотреть на сайте журнала.

“Универсальных правил нет”

Опрос, проведенный в 2016 году, выявил довольно интересный парадокс. С одной стороны, большинство респондентов заявили, что беспилотный автомобиль должен ставить во главу угла безопасность пешеходов, даже если это означает дополнительные риски для пассажиров. С другой – люди признавались, что сами не стали бы покупать машину, запрограммированную подобным образом.

Яндекс.Такси проводит испытания беспилотного автомобиля

Именно это сподвигло ученых MIT на создание онлайн-теста Moral Machine, в разработке которого приняли участие психологи, антропологи и экономисты со всего мира.

“Люди, размышляющие о машинной этике, исходят из того, что можно создать для роботов какой-то идеальный набор правил. Но наши данные показывают, что никаких универсальных правил нет”, – утверждает один из авторов исследования Ияд Рахван.

Сам Рахван родился в Сирии, окончил университет в Австралии, а теперь работает в США. Впрочем, по результатам эксперимента все эти три страны попали в “западный” кластер.

Понятно, что в повседневной жизни мы крайне редко сталкиваемся с необходимостью делать подобный выбор. Критики исследования справедливо задаются вопросом, можно ли вообще предлагать сидящему перед компьютером человеку подобные гипотетические сценарии, ставить перед ним умозрительный вопрос жизни и смерти – и полагаться на его выбор?

  • Почему роботам трудно увидеть то, что видим мы
  • 10 главных проблем, которые встанут перед человечеством к 2050 году

Однако авторы работы утверждают, что так или иначе моральный выбор водителям приходится делать каждый день – пусть и не со столь драматичными последствиями. И выявленные тестом культурные различия необходимо принимать во внимание как производителям беспилотных автомобилей, так и законодателям.

Как отмечает Nature, представители Audi уже согласились с тем, что результаты теста помогут им в обсуждении проблем, стоящих перед разработчиками беспилотных машин.

Остальные компании, тестирующие беспилотные автомобили, в том числе Toyota и Uber, от комментариев отказались.

Источник.

AMSRUS
AMSRUS

C 2014 года amsrus.ru

Больше статей