Утилитаризм, деонтология, этика добродетелей и контрактуализм дают разные ответы на дилемму «спасать пассажира или пешехода». Ниже — кратко о том, как каждая теория решает ситуацию и какие практические последствия это влечёт для регулирования и ответственности.
1) Утилитаризм
- Как решает: выбирает действие, которое максимизирует суммарное благо (минимизирует суммарный вред). В простейшем виде алгоритм выбирает вариант с наименьшими ожидаемыми жертвами или суммой утилитарных весов (жизни, травмы, материальный ущерб).
- Практические последствия:
- Регулирование: могут требовать оптимизации «безопасности в целом» (стандарты по минимизации числа пострадавших, использование моделей риска).
- Дизайн ПО: системы оптимизируют сценарии и принимают «жёсткие» расчётные жертвы (например, жертвовать одним пассажиром ради нескольких пешеходов).
- Ответственность: сложнее распределять ответственность — решения обоснованы агрегированным расчётом, но производитель/оператор несут риск репутационных и правовых претензий, если общество сочтёт выбор неприемлемым.
- Социальные риски: низкая общественная приемлемость, если алгоритмы сознательно жертвуют пасcажирами.
2) Деонтология (долг, права, принципы)
- Как решает: ориентируется на правилa/правa (нельзя умышленно убивать невиновных, нельзя нарушать права). Часто запрещает целенаправленное убийство даже ради большего блага.
- Практические последствия:
- Регулирование: запрет на алгоритмы, которые целенаправленно «нацеливаются» на конкретных людей; требования соблюдать непреложные правила (не убивать, соблюдать права движения).
- Дизайн ПО: консервативное поведение — при неясности избегать активных решений, отдавать приоритет защите невиновных (например, не совершать манёвры, очевидно ведущие к убийству пешехода).
- Ответственность: легче распределять вину через нарушение обязанностей/правил (производитель/поставщик отвечает, если ПО нарушило предписанное правило).
- Ограничения: может приводить к большим числам жертв в сумме, если принципиальная позиция не позволяет «жертвовать ради большего».
3) Этика добродетелей
- Как решает: фокус на характере и практической мудрости (phronesis) агента; идеальный «добродетельный» водитель поступает смело, сострадательно, рассудительно с учётом контекста.
- Практические последствия:
- Регулирование: трудно формализовать; возможно требование «этического тестирования», сертификации поведения по набору сценариев и оценке экспертами.
- Дизайн ПО: ориентация на контекстно-чувствительные эвристики, гибкость и «человеческое» поведение, но слабая формализация затрудняет верификацию и встраивание в массовые системы.
- Ответственность: акцент на стандартах профессионализма и надзоре; ответственность может лягть на разработчиков за недостаточную «практическую мудрость» алгоритма, но юридическая база неоднородна.
4) Контрактуализм (договаривание, честность перед рациональными агентами)
- Как решает: выбирает принципы, которые никто рационально не отверг бы (например, правила, согласованные «за занавесом невежества»). Решение ориентируется на справедливость и приемлемость для всех заинтересованных.
- Практические последствия:
- Регулирование: демократически или политически формализованные правила (стандарты, согласованные обществом): какие принципы допустимы (например, приоритет безопасности пешеходов, запрет дискриминации).
- Дизайн ПО: внедрение прозрачных, согласованных правил; возможность вариативности по юрисдикции (страна/город могут выбирать разные принципы).
- Ответственность: юридические нормы формулируются на основе общественного договора; ответственность следует из несоблюдения этих публичных стандартов; возможны требования информированного согласия владельцев/пассажиров по выбранной политике машины.
Общие практические выводы и рекомендации для регулирования и ответственности
- Гибридная политика: в реальности применяется смешение подходов — нормативное ограничение «запрещённых действий» (деонтологическая линия) + требование оптимизации безопасности (утилитарная) и общественное согласование (контрактуализм).
- Требования к производителям: прозрачность алгоритмов, объяснимость решений, тестирование на наборе сценариев, соответствие нормативам и этическим стандартам.
- Право и страхование: чёткое распределение ответственности (производитель ПО, интегратор, владелец), спецификация допустимых настроек поведения, обязательное страхование и компенсационные фонды.
- Социальная процедура: публичные дискуссии, стандарты, обязательные уведомления и возможность выбора (где оправдано) — например, какие правила действуют в конкретной юрисдикции.
- Предотвращение злоупотреблений: запрет дискриминации (по возрасту, полу, социальному статусу), запрет на сознательное целенаправленное убийство конкретных лиц в расчёте на пользу другим.
Короткое резюме
- Утилитаризм: максимизация общего блага → алгоритмы, минимизирующие суммарный ущерб; вызовы с общественным принятием и распределением ответственности.
- Деонтология: соблюдение непреложных правил → запрет на активное «жертвование» отдельных лиц; проще нормативно закрепить, но может увеличивать суммарные потери.
- Эвристика добродетелей: контекст и характер → трудно формализуется и верифицируется; подходит для экспертной оценки, не для однозначных правил.
- Контрактуализм: правила по согласию общества → сочетание легитимности и прозрачности; требует демократических процедур и локальных стандартов.
Для практического внедрения рекомендуется комбинировать: запрет на целенаправленное убийство (деонтологическое ограничение), обязательную оптимизацию безопасности в рамках этих ограничений (утилитарный элемент), общественное согласование стандартов (контрактуализм) и независимое тестирование/сертификацию поведения (этика добродетелей как критерий практической благоразумности).