Кратко — сначала какие этические школы применимы, как они конфликтуют, затем практическое решение и обоснование.
1) Применимые моральные принципы (суть и применение к AV)
- Утилитаризм: цель — минимизировать суммарный вред/сумму страданий. Применение: выбирать манёвр, который минимизирует ожидаемые жертвы и тяжесть травм.
- Деонтология (правила/права): некоторые действия нельзя совершать независимо от выгод (нельзя умышленно использовать человека как средство, соблюдение правил/прав). Применение: запрет на целенаправленное наведение автомобиля на конкретного человека, соблюдение ПДД.
- Этика добродетелей: акцент на характере решений — ответственность, честность, забота. Применение: проектирование систем, проявляющих заботу о безопасности, прозрачность и смелость признавать ошибки.
- Права/величины справедливости (равенство): нельзя дискриминировать по возрасту, полу, расе, социальному статусу; равное уважение к каждому.
- Контрактуализм/Rawls-стиль: правила, которые люди согласовали бы с позиций незнания. Применение: общественные стандарты, защищающие наиболее уязвимых.
2) Где конфликтуют
- Утилитаризм может требовать пожертвовать пассажиром ради большей пользы (меньше жертв среди пешеходов) — конфликт с деонтологией (нельзя умышленно убивать одного ради спасения других) и с правом пассажира на безопасность.
- Деонтология может запретить любые манёвры, которые «используют» людей, даже если это увеличит общее количество жертв.
- Равенство против оптимизации: утилитаризм может оправдать дискриминацию (например, спасти молодых вместо стариков) ради большего числа лет жизни; справедливость это запрещает.
- Практический конфликт между желанием минимизировать риск и технической невозможностью точного прогнозирования.
3) Практическое решение (рекомендованная многоуровневая политика)
A. Профилактика — первоочередно снижать вероятность дилеммы:
- улучшение сенсоров, V2X, карты, скоростных ограничений, режимов предупреждения; дизайн, минимизирующий вероятность столкновений;
- агрессивное соблюдение и улучшение ПДД (скорость, дистанция).
B. Правила поведения (жёсткие ограничения + оптимизация):
- базовое правило: соблюдение ПДД и максимальный поиск манёвра, не ведущего к прямому намеренному воздействию на конкретного человека;
- оптимизационная цель: минимизация ожидаемого суммарного серьёзного вреда при ограничениях:
$$\underset{a\in A}{\min }\sum _i{w}_i\mathbb{E}[har{m}_i(a)]$$ где $i$ — все затронутые люди (пассажиры и пешеходы), $w_i$ — равные веса для всех людей (чтобы запрещать дискриминацию), а $A$ — допустимые манёвры, удовлетворяющие деонтологическим и правовым ограничениям.
- ограничения $C$: не допускать манёвров, которые намеренно направляют автомобиль на конкретного человека, и запрещать использование защищённых характеристик:
$$a\in A\Rightarrow \text{не целиться в конкретное лицо},w_i=w_j\forall i,j\text{с однотипными отличиями}$$
C. Разрешение крайних случаев:
- если все допустимые манёвры приводят к существенному вреду и различий по ожидаемому вреду нет (равнозначные исходы) — использовать случайное (рандомизированное) правило как честный способ избегнуть системной предвзятости;
- если один манёвру статистически явно хуже (больше ожидаемого вреда) — выбрать минимизирующий вред.
D. Регулирование, прозрачность и ответственность:
- публичные, регулируемые стандарты (национальные/международные) для поведения AV;
- обязательная запись и отчётность (чёрный ящик), аудит алгоритмов независимыми органами;
- запрет на пользовательские «настройки морали» (чтобы не допускать эгоистичных конфигураций).
4) Обоснование
- Комбинация: утилитарный компонент даёт практический критерий минимизации вреда; деонтологические ограничения защищают от морально неприемлемых целенаправленных жертв и дискриминации; добродетельный и правовой подходы обеспечивают ответственность и публичное доверие.
- Равные веса $w_i$ защищают от дискриминации; деонтологические запреты предотвращают сознательное использование людей как средств; профилактика снижает частоту дилемм.
- Рандомизация в равных случаях сокращает системную несправедливость; прозрачность и регулирование обеспечивают общественный контроль и легитимность.
Коротко: делайте всё возможное, чтобы не попадать в дилемму; если дилемма неизбежна — минимизируйте ожидаемый вред с равными весами для всех людей, но при этом запрещайте целенаправленное жертвование и любую дискриминацию; закрывайте систему регуляцией, аудитом и прозрачностью.