Короткий ответ: нельзя опираться только на один абстрактный принцип. Практически оправданная позиция — гибридный подход: минимизация ожидаемого вреда (утилитаризм) при жёстких деонтологических и антиидискриминационных ограничениях и внедрении добродетельных ценностей в дизайн и управление. Ниже — сравнение и оценка последствий.
Утилитаристский подход
- Суть: выбирать действие, минимизирующее суммарный ожидаемый вред, например число погибших или суммарную «стоимость» повреждений. Формально: ${\min }_{a}E[H(a)]$, где $E[H(a)]={\sum }_i{p}_i(a)h_i$ — вероятность и ущерб для каждого участника.
- Плюсы: максимизирует суммарную безопасность в статистическом смысле; чётко формулируется и оптимизируется алгоритмически.
- Минусы: может легитимировать дискриминацию (моложе/старше, богатые/бедные), «взвешивание жизней» вызывает моральное отторжение; невозможность согласовать все ценности одной числовой шкалой.
- Социальные последствия: рост общей безопасности, но возможные протесты и потеря доверия от групп, которые будут систематически обделены.
- Правовые последствия: сложность обоснования решений в суде; требование прозрачности и валидации модели ущербов; возможное регулирование, запрещающее взвешивание по некоторым признакам.
Деонтологический подход
- Суть: следовать правилам/правам независимо от суммарного результата — например, «не целиться в пешехода», «не предпринимай активных действий, которые прямо убивают», либо «равное отношение ко всем».
- Формально: выбирать $a$ из множества допустимых действий $C$: $a\in C$, где $C$ задано деонтологическими запретами.
- Плюсы: соответствует интуициям о неприкосновенности прав; проще оправдать юридически (правила понятны).
- Минусы: может приводить к больше смертей (если запрет мешает уменьшить общий вред); конфликт правил в крайних ситуациях; трудно заранее перечислить все квесты.
- Социальные последствия: выше общественное ощущение справедливости при соблюдении правил, но возможное увеличение числа жертв в редких сценариях.
- Правовые последствия: легче формализуется в виде нормативов (что запрещено/разрешено); уменьшает производственную ответственность при соблюдении правил, но может вызвать требование к производителям предпринимать меньше рисковых манёвров.
Добродетельный (вспрямленный) подход
- Суть: ориентироваться на черты характера и контекст — благоразумие, сострадание, ответственность; проектирование системы, отражающей эти добродетели.
- Формально: трудно редуцировать в простую цель; можно ввести функцию «добродетели» $V(action,context)$ и выбирать действие, максимизирующее $V$, но интерпретация субъективна.
- Плюсы: ориентирован на человеческие ценности и моральный образ производителя/оператора; гибкость в нестандартных ситуациях.
- Минусы: нечёткие критерии, низкая предсказуемость и воспроизводимость решений; сложность юридической проверки.
- Социальные последствия: потенциально лучшее симпатии к системе при корректной коммуникации; риск обвинений в произволе.
- Правовые последствия: трудности с формулировкой стандартов; необходимость сертификации «этического дизайна».
Оценка и практическая рекомендация
- Формула компромисса (рекомендуемая инженерно‑правовая схема):
$$\underset{a}{\min }E[H(a)]\text{при условии}a\in C_{deont}\text{и}\forall i,j:w_i=w_j\text{(ограничения недискриминации)},$$ где $C_{deont}$ — набор юридически утверждённых правил (например, запрет на целенаправленное применение смертельной силы, приоритет минимизации риска пассажиров над намеренным жертвованием пешеходов запрещён), а веса $w_i$ равны для запрещённых признаков (раса, пол, возраст и пр.).
- Дополнительно: встроить принципы добродетелей в проектную культуру (консервация безопасности, прозрачность, готовность к отчётности), требовать объяснимости решений и обязательной записи данных для разбора инцидентов.
- Регуляторные меры: установить стандарты (что допускается/запрещено), обязательную сертификацию алгоритмов, правила распределения ответственности (строгая продуктовая ответственность + страхование), публичные консультации по предпочтениям общества.
Краткий вывод
- Чистый утилитаризм эффективен по статистике, но рискован с точки зрения справедливости и легитимности.
- Чистый деонтологизм легко регулируется и более приемлем морально, но может быть менее безопасен в редких краевых случаях.
- Добродетельный подход полезен для культуры и коммуникации, но не заменяет формальных правил.
- Практически оправданный выбор — минимизация ожидаемого вреда в рамках жёстко заданных деонтологических и антиидискриминационных ограничений, при прозрачности, сертификации и юридической ответственности.