По следам проблемы вагонетки — а что если?

На днях прочитала пост одного автора про проблему вагонетки, вот тут. Ответы были разные. Некоторые просто притянуты за уши. Другие основаны лишь на личной выгоде. А были адекватные. Но меня больше заинтересовал вопрос, как справятся с проблемой вагонетки и подобными вопросами машины? А точнее как будут принимать такие решение самоуправляемые автомобили, которые усердно разрабатывают современные ученые? Они ведь лишены морали, чувств и эмоций. Что они будут делать? Кем пожертвуют пассажирами или пешеходами?

Этот вопрос также интересует ученые умы, они даже разработали специальные тесты, для сбора человеческих мнений о нравственном выборе, осуществляемом машинным интеллектом. Но ведь то просто тесты, а что будет в реальной жизни? Сможет ли машина выбрать, кого задавить маму с ребенком или слепую старушку с собакой-поводырем. И какие у машины будущего будут приоритеты? Спасение пассажиров или же пешеходов? Если даже люди выдают разные ответы, ведь у каждого своя мораль. Кто будет решать, какая мораль будет верна для автомобиля?

Как искусственный интеллект сможет определить, кто перед ним — беременная женщина или маньяк-убийца с топором, который гонится за жертвой? Как он узнает, что ребенок неожиданно выбежал на дорогу на переходе возле школы? Как он поймет, что старик с палочкой не может двигаться быстрее? И что будет для автомобиля важнее спасти двух пассажиров или целую толпу прохожих? Как можно доверить настолько сложные решения куску железа?

Короче вопросов уйма. Придуманы уже какие-то специальные правила для самоуправляемых автомобилей? Может, автопилот вообще стоит запретить? Как думаете?