Utilитаризм, кантовская деонтология и добродетельная этика дают разные практические рекомендации для алгоритма автономного автомобиля и для общественных регламентов. Кратко и по делу:
1) Утилитаризм — практическое решение
- Принцип: максимизация суммарного благосостояния (минимизация суммарного вреда, числа жертв и тяжести травм).
- Алгоритм: в реальном времени оценивать вероятности исходов и ущерб (ранения/смерти) для всех участников и выбирать действие с наименьшим ожидаемым суммарным вредом (включая учёт возраста, уязвимости, количество людей, вероятность успеха манёвра).
- Техническая реализация: модель риска + взвешивание последствий + быстрый оптимизатор; требуются надёжные вероятностные оценки и учёт побочных эффектов (например, риск вторичных столкновений).
- Ограничения: нужна прозрачная система весов ценностей (как считать «одного пешехода» vs «пассажира»), защиту от манипуляций и учет распределительных последствий.
2) Кантовская деонтология — практическое решение
- Принцип: действовать по универсализируемым нравственным правилам и не использовать людей лишь как средство; соблюдать обязательства и права.
- Алгоритм: набор строгих правил/приоритетов (декларативное правило-дерево), например: 1) соблюдать ПДД; 2) не предпринимать действие, которое целенаправленно убьёт конкретного невиновного (запрещено намеренное жертвование); 3) предпринимать безопасные экстренные манёвры, если они не требуют намеренного причинения значительного вреда третьим лицам.
- Техническая реализация: детерминированные «запреты» в контроллере (например, запрет на преднамеренное введение в ситуацию, где жертвуют пассажиром ради группы), журналирование решений и валидация соответствия правилам.
- Ограничения: может привести к большим суммарным потерям в конкретных сценариях; требует формализации прав и запретов.
3) Добродетельная этика — практическое решение
- Принцип: фокус на характере действий (практическая мудрость, сострадание, справедливость, благоразумие), контекстуальное моральное суждение.
- Алгоритм/дизайн: не предписывает жёсткую формулу; подразумевает проектирование поведения, отражающего добродетели: приоритет предосторожности, минимизация страдания, уважение к человеческому достоинству, стремление предотвращать ситуации. На тактическом уровне — эвристики, ориентированные на смягчение вреда и на предотвращение дилемм (пассивная защита, снижение скорости, избегание агрессивных манёвров).
- Техническая реализация: обучаемые/контекстно-чувствительные стратегии с правилами предсказуемости, упором на превентивную безопасность и человеческое благополучие; процедуры аудита с участием экспертов по этике.
- Ограничения: трудно формализовать однозначно, требует институционального контроля и человеческой интерпретации.
4) Какие институциональные правила обществу следует разработать
- Предотвращение дилемм: требования к дизайну, чтобы свести к минимуму ситуации «жертвоприношения» (улучшенные сенсоры, инфраструктура, зоны разделения движения).
- Стандарт этического поведения по умолчанию: государство устанавливает обязательный этический режим (запрет на коммерческую продажу опций «настроить, кого жертвовать»). Решения о приоритетах не должны быть предметом индивидуального платного выбора.
- Сертификация и тестирование: формальные требования к моделям принятия решений (симуляции экстремальных сценариев, стресс-тесты, обязательный набор ситуаций, прозрачные метрики безопасности).
- Прозрачность и отчётность: обязательная запись «чёрного ящика», открытые описания используемых этических правил/метрик и аудиты независимыми органами.
- Юридическая ответственность и стимулы: чёткая регуляция ответственности производителей, операторов и страховых правил, так чтобы штрафы/ответственность поощряли реальное снижение рисков, а не популистские решения.
- Демократическое вмешательство: общественные слушания и экспертные комиссии для выбора общественно приемлемых правил (например, взвешивание утилитарных критериев vs прав).
- Этический надзор: независимый орган, который оценит соответствие поведения ИИ этическим стандартам и рассматривает жалобы.
- Инфраструктурные и профилактические меры: инвестировать в безопасные пешеходные зоны, умную инфраструктуру (V2X), ограничения скорости, образование участников движения.
- Минимальные права: гарантии равного обращения (недискриминация по возрасту, полу, социальному статусу) и запрет на алгоритмическую дискриминацию при оценке ценности жизни.
- Прописать процедуру принятия решений в экстренных сценариях: приоритеты (например, минимизировать число погибших) и случаи исключений должны быть публично задокументированы.
Короткий практический вывод
- Утилитаризм даёт ясный механизм для минимизации суммарного вреда; кантовская деонтология — жёсткие запреты на намеренное жертвование; добродетельная этика требует проектирования систем, отражающих добродетели и упор на превенцию. Реальная политика должна сочетать: требование к минимизации рисков и превенции (инфраструктура, безопасность), запрет на персонализированные «настройки жертв», прозрачность алгоритмов и демократическое принятие основных ценностных правил.