Краткий ответ: наиболее адекватна плюралистическая, поэтапно-институциональная этика, которая сочетает элементы утилитаризма (для оценки масштабов последствий и приоритезации рисков), деонтологии (для защиты базовых прав и недопустимых действий), принципа предосторожности (при глубокой неопределённости), теорий справедливости (межпоколенческая и внутрипоколенческая) и добродетельной / экософской перспективы (стewardship, ответственность). К этим теориям добавляются процедурные принципы — демократическая легитимация, эпистемическая скромность и адаптивное управление.
Почему такое сочетание:
- Утилитаризм даёт инструмент для долгосрочного учёта масштабов последствий (включая «длинную перспективу»), но уязвим к проблемам прав, несправедливости и неопределённости ценностей.
- Деонтология гарантирует запрет на недопустимые практики (например, сознательное уничтожение прав будущих людей ради краткосрочной выгоды).
- Принцип предосторожности минимизирует риск катастроф при высокой неопределённости (климат, неконтролируемый ИИ).
- Справедливость (Rawls‑подобные и capability‑подходы) обеспечивает защиту наименее защищённых сейчас и в будущем.
- Добродетельная/экологическая этика формирует институциональные и личностные привычки, важные для долгосрочной устойчивости.
- Постмодернистская критика полезна как предостережение против иллюзии единой «правильной» нарративной стратегии — требует процедурной открытости к ценностному плюрализму.
Практические критерии приоритетов (коротко, применимо к климату и ИИ)
- Масштаб и длительность воздействия: приоритезировать действия, влияющие на большую численность людей/экосистем и на длительное время. Для расчёта ожидаемого вреда полезна формула в терминах ожидания:
$\text{Ожидаемый вред}={\sum }_i{p}_i\times s_i\times n_i$,
где $p_i$ — вероятность сценария, $s_i$ — серьёзность ущерба на единицу (интенсивность/необратимость), $n_i$ — число затронутых.
- Риск экзистенциальной и субэкзистенциальной катастрофы: мероприятия, значительно снижающие риск уничтожения человеческой цивилизации или её грубой деградации, имеют высший приоритет.
- Необратимость и потеря опций: предотвращать действия, приводящие к фрагильной и необратимой утрате возможностей будущих поколений (биоразнообразие, климатическая система, фундаментальные институции управления ИИ).
- Несправедливость и уязвимость: отдавать приоритет улучшению положения наиболее уязвимых и минимизации неравенства внутри и между поколениями.
- Корректируемость и обратимость: предпочитать меры, которые можно корректировать при новой информации (адаптивность).
- Трансграничность и глобальность влияния: международные общественные блага и риски (атмосфера, фундаментальные ИИ‑системы) требуют коллективного управления.
- Эпистемическая устойчивость: выбирать стратегии устойчивые к глубокому неопределению ценностей и фактов (robustness, надежность).
- Легитимность и участие: включать процедуры общественного обсуждения и международной координации — моральная притязательность решений зависит от их процедурной справедливости.
Рекомендованное приоритетное правило (практическая евристика)
- Сначала предотвращение или радикальное уменьшение риска экзистенциальных и необратимых ущербов.
- Затем защита базовых прав и потребностей настоящих и ближайших будущих поколений (здоровье, продовольствие, жильё).
- Затем меры для снижения масштабных страданий и обеспечения справедливого распределения бенефитов и бремён.
- При прочих равных — отдавать предпочтение стратегиям, которые сохраняют опции для будущих поколений и максимально корректируемы по мере появления новой информации.
Инструменты реализации (кратко)
- «Ограниченный утилитаризм»: использовать ожидаемую стоимостную математику для приоритезации, но наложить деонтологические запреты (недопустимые процедуры/эксперименты).
- Принцип предосторожности и maximin в условиях глубокого риска: в критических областях (контролируемость ИИ, климатические пороги) применять более консервативные критерии.
- Делиберативные институты и международные соглашения для легитимации и разрешения конфликтов ценностей.
- Инвестиции в интеллект‑безопасность, прозрачность и правовые механизмы защиты прав будущих лиц/экосистем.
Краткое заключение: нет одной «правильной» философии — наиболее адекватна интеграция: утилитарная аналитика для оценки масштабов и ожиданий, деонтологические и справедливостные ограничители для защиты прав и уязвимых, предосторожность при глубокой неопределённости, и процедурный плюрализм для легитимности и адаптивности.