Утилитаризм, деонтология и добродетельная этика дадут разные решения и разные основания для публичной политики. Кратко по каждой теории:
- Утилитаризм
- Принцип: максимизация суммарного блага / минимизация суммарного вреда.
- Решение в задаче «водитель против группы пешеходов»: выбрать вариант с наименьшими жертвами; например, если группа — $5$ человек, водитель — $1$, утилитарец склонится к спасению группы (жертвование водителя), потому что $5>1$.
- Основания для политики: задавать алгоритмы, оптимизирующие общий ожидаемый ущерб (количество жертв, тяжесть травм, экономические потери); требовать метрики риска, расчёта ожидаемого вреда, прозрачности и согласования правил оптимизации.
- Ограничения: может игнорировать права и справедливость отдельных лиц, вызывает неприятие общественности при явном «жертвовании» людей.
- Деонтология (право-ориентированная этика, напр. кантианство)
- Принцип: действовать согласно моральным правилам/правам, нельзя использовать людей только как средство. Некоторые действия категорически запрещены (например, намеренное убийство невиновных).
- Решение: отказ от намеренного направленного убийства (например, нельзя целенаправленно жертвовать водителем ради других); возможны разные интерпретации — приоритизация соблюдения прав всех участников, запрет на выбор по личным характеристикам.
- Основания для политики: законодательные запреты на алгоритмы, которые прямо выбирают, кого убить; автономные системы должны соблюдать права (не дискриминировать), обязаны минимизировать риск без инструментализации отдельных лиц; фокус на обязанностях производителей и соблюдении процедур (сертификация, правила принятия решений).
- Ограничения: может приводить к большему суммарному вреду, вызывает трудности в конфликтных ситуациях без однозначных правил.
- Добродетельная этика
- Принцип: действия оцениваются через характер и добродетели (справедливость, осторожность, сострадание) разумного агента; контекст важен.
- Решение: нет формулы «жертвовать/не жертвовать» — решение зависит от ситуационного суждения, которое выражает добродетели (например, осторожность и забота о самых уязвимых). Практически это может означать стремление к минимизации вреда с учётом человеческого достоинства и контекста.
- Основания для политики: развитие практик и институций, формирующих добродетельных разработчиков и регуляторов; поддержка гибких, контекст-чувствительных правил, публичного обсуждения этических норм; обучение, культура ответственности производителей.
- Ограничения: низкая формализуемость, трудность конвертации в детерминированный код и законы.
Политические выводы и рекомендации (синтез):
- Нельзя полагаться только на одну теорию: полезно сочетать — формальные ограничения деонтологии (запрет на дискриминацию и явное инструментализацию), утилитарные метрики для минимизации ожидаемого вреда и институциональные/культурные меры добродетельной этики.
- Практические меры: обязать прозрачность критериев принятия решений, общественные консультации по приоритетам, сертификация и аудиты алгоритмов, юридические нормы о допустимых правилах поведения, обучение разработчиков и операторов, страховые и компенсационные механизмы.
Коротко: утилитаризм стремится к минимуму суммарного вреда (считая числа); деонтология защищает права и запрещает инструментализацию людей; добродетельная этика ориентирует на характерные практики и контекст. Политика должна сочетать формальные запреты, количественные метрики и институциональное воспитание ответственности.