Краткий вывод: ни один из перечисленных подходов сам по себе не годится как единственная программа для поведения автономного автомобиля (АВ). Практически оправдан гибридный подход: утилитарные элементы для минимизации ожидаемого вреда + деонтологические ограничения для защиты прав и недопущения дискриминации, дополненные принципами этики добродетели в инженерной культуре и контрактуалистскими процедурами для легитимации правил на уровне общества и регуляции.
Дальше — развернуто и по пунктам.
1) Утилитаризм
- Суть. Сеть действий оценивается по суммарному последствия: минимизировать общее количество/вред жертв.
- Плюсы для реализации: формализуем, оптимизационные алгоритмы (минимизация ожидаемого ущерба) реализуемы.
- Минусы: может оправдывать «цесарево решение» (жертвование одним ради многих), склонен к дискриминации (вес количества/возраста/«социальной ценности» спорен), тяжело соответствовать правовым нормам о равных правах.
- Практическая роль: использовать как подконтрольный уровень оценки последствий (оценка рисков и распределения вреда), но не как единственное правило принятия решения.
2) Деонтология
- Суть. Нормы и запреты (не убивать намеренно, не дискриминировать) первичны; некоторые действия запрещены, даже если суммарный вред уменьшится.
- Плюсы: совместима с правовыми принципами и ожиданиями общества; обеспечивает предсказуемые ограничения (например, запрет на целенаправленную атаку на конкретное лицо).
- Минусы: жесткость, конфликты правил в крайних ситуациях, трудности формализации в неопределённых сенсорных условиях.
- Практическая роль: задаёт жёсткие «правила запрета» в ПО (hard constraints), например: не выбирать манёвр, целенаправленно дискриминирующий по этническому признаку; не совершать действий, явно являющихся преднамеренным нападением.
3) Этика добродетели
- Суть. Фокус на характере и мотивах разработчика и системы: добросовестность, ответственность, забота о пассажирах и пешеходах.
- Плюсы: формирует культуру разработки, ориентирует дизайн на устойчивые ценности (безопасность, уважение, прозрачность).
- Минусы: мало конкретных правил для реального-time принятия решений; трудно формализуемо.
- Практическая роль: влияет на процессы разработки, тестирования, ответственной отчётности, выбор приоритетов при дизайне интерфейсов и смягчающих мер.
4) Контрактуализм (социальный контракт)
- Суть. Правила справедливы, если ими согласились бы рациональные участники общества; легитимность через процедуру (демократию, стандарты).
- Плюсы: даёт легитимность выбранным правилам, учитывает общественные предпочтения и справедливость.
- Минусы: процедура сложна, предпочтения общества могут быть противоречивы или непоследовательны; требует институциональной реализации.
- Практическая роль: основа для регуляций, стандартов и процедуры общественных консультаций (какие компромиссы разрешены), распределения ответственности и компенсаций.
5) Как обосновать выбранный гибрид с точки зрения ответственности разработчиков и общества
- Принцип многоуровневой ответственности: 1) технические ограничения (деонтологические запреты) встроены в ПО; 2) в пределах допустимого — минимизация ожидаемого вреда (утилитаризм); 3) процесс разработки и культура — добродетельные практики; 4) общественная легитимация — контрактуализм через стандарты/законы.
- Для разработчиков: обязанность предусмотреть предсказуемые цели и ограничения, документировать решения, проводить валидацию, обеспечивать объяснимость/логи, следовать лучшим практикам безопасности и недискриминации. Это снижает «пробел ответственности» и соответствует профессиональной этике.
- Для общества/регуляторов: обязанность устанавливать допустимые границы (какие компромиссы запрещены), создавать правовую базу ответственности и механизмы компенсации, организовывать прозрачные общественные дискуссии и стандарты, контролировать независимые проверки и сертификацию.
- Правовая связь: деонтологические запреты помогают соответствовать правам человека и уголовному/гражданскому праву; утилитарная оптимизация служит аргументом в пользу эффективности и безопасности; общественный консенсус даёт легитимность и предсказуемость для производителей и страховщиков.
6) Практические рекомендации для программирования АВ
- Ввести жёсткие ограничения (hard constraints): запреты на целенаправленную дискриминацию, запреты на активное нанесение вреда людям, обязательная минимизация риска для непреднамеренно вовлечённых.
- Использовать вероятностную модель для оценки исходов и минимизации ожидаемого вреда в пределах этих ограничений.
- Определить приоритеты: защищать непреднамеренно вовлечённых (пешеходы), затем пассажиров — или иное, согласованное общественною регуляцией.
- Логирование и объяснимость: обязательные журналы решений, которые позволяют аудит и установление ответственности.
- Тестирование сценариями и валидация в реальных и симулированных условиях; независимые аудиты.
- Политика прозрачности и информированное согласие пользователей: ясные предупреждения, страхование, механизмы компенсации.
7) Заключение (кратко)
- Реалистичная, ответственная стратегия — гибрид: деонтологические ограничения + утилитарная минимизация вреда внутри этих ограничений; этика добродетели управляет культурой разработки и практикой соблюдения; контрактуализм даёт легитимность и регуляторную основу. Такой подход уменьшает технологические и юридические риски и отвечает требованиям общества к справедливости и ответственности.