Самоуправляемые автомобили не за горами, но разработка правил, которые должны ими управлять, оказалась непростой задачей. Как должны поступать автомобили? Принимать человеческую точку зрения, которая зачастую потворствует собственным интересам, или же действовать во имя общего блага? Оказалось, что если позволить людям самим программировать автономный транспорт, разрыв между личным интересом и большим благом сокращается.

Этика самоуправляемых автомобилей

Основное внимание в этой области уделялось самым насущным нравственным дилеммам — как должны вести себя автономные автомобили, когда речь идет о жизни или смерти. Исследование 2016 года показало, что люди широко поддерживают модели утилитарного программирования, спасая жизни большего числа людей, даже если это ставит под угрозу жизнь водителя. Но эти же люди открыто высказались, что менее охотно купят автомобиль, который может принести себя в жертву, чтобы спасти других.

Несколько месяцев назад эта же группа ученых опубликовала глобальный опрос на тему отношения к автомобилям, который показал, что нравственные принципы, которые, по мнению людей, должны использоваться для их программирования, значительно разнятся от страны к стране.

И все же, не так давно в PNAS появилась работа, посвященная более распространенным социальным дилеммам, не связанным со смертельной опасностью, но все же противопоставляющим индивидуальные интересы коллективным. Водители уже ориентируются в подобных ситуациях каждый день; притормозить и пропустить кого-то — это, конечно, добавит несколько секунд времени поездки, но если каждый будет так делать, движение будет проходить более плавно.

Авторы признают, что решения о том, как запрограммировать автономные автомобили справляться с этими ситуациями, не будут приниматься исключительно самим владельцем; производители и регуляторы, вероятно, сыграют большую роль. Однако они хотели выяснить, как сам процесс программирования этих заблаговременных решений, а не принятие их на лету повлияет на выбор людей.

Уже имеется значительный объем исследований, показывающий, что вовлечение людей в процесс принятия решений раньше времени приводит к более справедливому и менее эгоистичному принятию решений. Новое исследование показало, что это применимо к контексту программирования автономных автомобилей.

Исследователи разработали компьютерный эксперимент, основанный на классической дилемме заключенного, в котором игрокам приходится выбирать между сотрудничеством или отказом от него. Четырем участникам из Amazon Mechanical Turk дали в управление по одному автомобилю и им пришлось выбирать, включать кондиционер каждый раз, когда автомобиль останавливался, или нет.

Отключение кондиционера было охарактеризовано как коллективное благо, поскольку это уменьшает расход топлива и сокращает вред для окружающей среды. Были и финансовые вознаграждения, которые варьировались в зависимости от того, сколько людей решило сотрудничать или уклонилось в каждом раунде. Финансовые вознаграждения были выстроены таким образом, что игрокам было выгоднее отказаться от сотрудничества, но если каждый отказывался, совокупный результат был хуже, чем в случае общего сотрудничества.

В каждой игре автомобиль останавливался 10 раз, но в то время как половина участников принимала решения каждый раз, когда автомобиль останавливался, как если бы они ехали сами, другая половина принимала свои решения для всех 10 остановок с самого начала, будто самостоятельно программировала свою машину.

В ходе различных экспериментов ученые выяснили, что люди, которые программировали свои машины заранее, всегда были более склонны к сотрудничеству, чем те, кто принимали решения на лету.

В попытке выяснить, почему так получается, ученые провели тесты, в которых интерфейс игры подчеркивал различные аспекты проблемы (фокус на себе против фокуса на коллективе; или фокус на денежном вознаграждении против окружающей среды), и проанализировали самооценку мотивации участников.

Результаты показали, что заблаговременное программирование транспортных средств делало участников менее сосредоточенными на краткосрочном финансовом вознаграждении. Что примечательно, в другом эксперименте, где участники могли перепрограммировать автомобили после каждого раунда, они по-прежнему сотрудничали больше, чем те, кто принимал решения напрямую. Это важно, утверждают ученые, поскольку производители, скорее всего, позволят покупателям настраивать параметры своего автомобиля в зависимости от опыта вождения.

Такого рода исследование может показаться довольно абстрактные, а конкретные награды и мотивы, используемые в этом эксперименте, — оторванными от реального процесса вождения. Но основополагающий вывод заключается в том, что отделение людей от немедленного принятия решений — то, что определенно будет делать самоуправляемый автомобиль — приводит к тому, что люди охотнее идут на сотрудничестве. Это актуально, поскольку мы все больше полагаемся на машины, которые будут решать за нас.

Практически все согласны с тем, что самоуправляемые автомобили в среднем будут безопаснее, экологичнее и эффективнее. Но недавние сообщения о том, что автомобили с самостоятельным управлением будут курсировать по городу с малой скоростью, а не парковаться, подчеркивают потенциальные подводные камни в будущем.