Представьте себе: вы едете за рулем, и прямо перед вашим автомобилем – не замечая его и смотря в другую сторону – дорогу начинает переходить человек. Вы резко ударяете по тормозам, чтобы не сбить пешехода – и в вас врезается машина сзади.
Что произошло? Давайте разберемся.
Вы как водитель сделали сознательный выбор, перенеся риск столкновения: с рассеянного пешехода – на себя и своих пассажиров. И выбор этот продиктован не только вашей оценкой опасности (понятно, что люди в автомобиле более защищены, чем переходящий дорогу человек), но и вашими моральными принципами.
Фото: www.bbc.com
Усложним задачу. Допустим, у вас отказали тормоза – и вы должны выбрать: задавить незадачливого пешехода или вывернуть на тротуар и сбить там сразу нескольких человек?
Выбор кажется очевидным – но что если на дороге перед вами инвалид или беременная женщина? Ведь личность пешехода вполне может повлиять на ваше решение. А если это ваш близкий друг – или даже ваш ребенок?
А теперь представьте себе, что вы пассажир, а никакого водителя в вашей машине нет – это беспилотный автомобиль, робокар. Какой моральный выбор должен сделать управляющий им искусственный интеллект – как его нужно запрограммировать?
Над этим вопросом не первый год бьются все разработчики беспилотных автомобилей – от Audi и Toyota до Tesla и “Яндекс”. Но, как выяснили ученые, ответ на него сильно зависит от того, кого вы спрашиваете.
Чтобы разработать универсальный алгоритм принятия решений для беспилотных машин, ученые Массачусетского технологического института (MIT) разработали специальный онлайн-тест, пройти который мог любой желающий.
Каждому участнику опроса предлагалась дюжина гипотетических дорожных ситуаций – вроде тех, что приведены выше, – в которых водителю необходимо сделать моральный выбор, неизбежно влекущий за собой смертельный исход. Например, насмерть сбить трех пожилых пешеходов на автостраде – или направить машину в бетонный забор, убив находящихся в ней троих пассажиров.
Чтобы точнее выявить приоритеты респондентов, сценарии онлайн-теста варьировались. Кого участники спасут с наибольшей вероятностью – молодых или пожилых? Бедных или богатых? Одного ребенка или нескольких взрослых?
Масштабы эксперимента, результаты которого опубликованы в журнале Nature, впечатляют: за полтора года в нем приняли участие 2,3 млн человек из 233 стран и территорий (тест специально перевели на десяток языков). В общей сложности ученые собрали почти 40 млн ответов. И, проанализировав эту огромную базу данных, они сделали несколько важных выводов.
Первый – и, пожалуй, самый важный из них: моральные приоритеты сильно зависят от страны проживания. Авторы исследования выделили три типа стран, которые они условно назвали “западными”, “восточными” и “южными”. Условно – потому что Франция, например, попала в “южный тип”, а вот Египет – в “восточный”.
“Западники” чаще предпочитали спасать более молодых людей, а “восточники” – более пожилых. Представители “южных” стран чаще отдавали предпочтения женщинам и детям, а также людям, обладающим более высоким социальным статусом.
На удивление, люди, занимающие более высокое положение в обществе, вызывали больше симпатий и у жителей “западных” стран – по сравнению с “восточными”.
Зато “восточные” жители почти не принимали в расчет разницу в количестве спасенных жизней, основывая свои предпочтения на других факторах.
Второй вывод: ответы зависят и от демографических показателей участников эксперимента, таких как пол, возраст и так далее – но уже далеко не так сильно.
И третий – возможно, довольно очевидный: моральный выбор сильно коррелирует не только с глубоко укорененными в культуре представлениями об этике, но и с современным состоянием гражданских институтов.
Например, жители относительно богатых стран с сильной и независимой судебной системой (Финляндии и Японии) проявляли куда меньше симпатий к пешеходу, вышедшему на дорогу в неположенном месте, чем респонденты из Нигерии или Пакистана.
Более подробную карту и график расхождения в приоритетах можно посмотреть на сайте журнала.
Опрос, проведенный в 2016 году, выявил довольно интересный парадокс. С одной стороны, большинство респондентов заявили, что беспилотный автомобиль должен ставить во главу угла безопасность пешеходов, даже если это означает дополнительные риски для пассажиров. С другой – люди признавались, что сами не стали бы покупать машину, запрограммированную подобным образом.
Именно это сподвигло ученых MIT на создание онлайн-теста Moral Machine, в разработке которого приняли участие психологи, антропологи и экономисты со всего мира.
“Люди, размышляющие о машинной этике, исходят из того, что можно создать для роботов какой-то идеальный набор правил. Но наши данные показывают, что никаких универсальных правил нет”, – утверждает один из авторов исследования Ияд Рахван.
Сам Рахван родился в Сирии, окончил университет в Австралии, а теперь работает в США. Впрочем, по результатам эксперимента все эти три страны попали в “западный” кластер.
Понятно, что в повседневной жизни мы крайне редко сталкиваемся с необходимостью делать подобный выбор. Критики исследования справедливо задаются вопросом, можно ли вообще предлагать сидящему перед компьютером человеку подобные гипотетические сценарии, ставить перед ним умозрительный вопрос жизни и смерти – и полагаться на его выбор?
Однако авторы работы утверждают, что так или иначе моральный выбор водителям приходится делать каждый день – пусть и не со столь драматичными последствиями. И выявленные тестом культурные различия необходимо принимать во внимание как производителям беспилотных автомобилей, так и законодателям.
Как отмечает Nature, представители Audi уже согласились с тем, что результаты теста помогут им в обсуждении проблем, стоящих перед разработчиками беспилотных машин.
Остальные компании, тестирующие беспилотные автомобили, в том числе Toyota и Uber, от комментариев отказались.
Источник.
C 2014 года amsrus.ru
