Кратко и по существу — как философия будущего должна учитывать долгосрочные риски при формировании ценностей и политик:
Основные ценностные принципы
- Долгосрочная ответственность: признавать моральную обязанность перед будущими поколениями и необратимыми состояниями планеты.
- Принцип предосторожности (precaution): при глубокой неопределённости отдавать приоритет мерам, предотвращающим катастрофические исходы.
- Скромность и эпистемическая осторожность: признавать пределы знаний и учитывать возможность неожиданных последствий технологий.
- Инклюзивность времени и видов: включать в моральный счёт будущие людей, возможные нетипичные разумные сущности и экосистемы.
Фреймворки принятия решений
- Ожидаемая ценность при редких катастрофах: оценивать вклад мер в уменьшение вероятности $p$ экзистенциального события и в потенциальную потерю ценности $V$: $\mathrm{EV}=p\times V$. Даже малые $p$ важны при огромном $V$.
- Дисконтирование: этически обосновывать низкие или нулевые ставки при оценке будущих жизней; при экспоненциальном дисконтировании: $\mathrm{PV}=V{e}^{-rt}$. Для долгосрочных рисков иметь прозрачную политику по ставке $r$.
- Решения при глубокой неопределённости: использовать робастные критерии (${\max }_{\pi }{\min }_{s}U(\pi ,s)$), минимакс сожаление и сценарное планирование, а не слепое средневзвешивание.
- Управление риском (hedging) и диверсификация стратегий — сочетать превентивные меры, адаптацию и восстановление.
Практические институционные меры
- Встраивать долгосрочные оценки в все крупные политики: обязательные долгосрочные оценки рисков при разработке технологий, инфраструктуры и климата.
- Независимые комиссии по будущему и оценке экзистенциальных рисков с междисциплинарным составом.
- Правила и фонды для страхования будущих поколений: долгосрочные резервы, инвестиции в устойчивость и исследования по уменьшению рисков.
- Регулирование и обмен знаний в чувствительных областях (биотех, ИИ): баланс открытости и контроля, обязательный аудит безопасности, red‑teaming, тестирование на отказ.
- Международное сотрудничество: глобальные договоры и механизмы координации для рисков, граничащих с государствами.
Формирование политик и норм
- Приоритет мер с высокой рентабельностью по уменьшению риска гибели цивилизации (cost‑effectiveness по снижению абсолютной вероятности).
- Поддержка исследований по оценке и снижению неопределённости (предсказуемость, раннее предупреждение).
- Образование и культурные ценности: воспитывать долгосрочное мышление, научную этику, готовность к коллективным действиям.
- Баланс между правами нынешних людей и обязанностями перед будущим — открытое обсуждение этических принципов и публичная легитимация.
Как это объединить в философии будущего
- Сформулировать ценности, которые: (1) придают существенный вес будущему; (2) признают асимметрию потерь при экзистенциальных угрозах; (3) предпочитают робастность и предосторожность при высоких ставках.
- Использовать математические и институциональные инструменты для перевода этих ценностей в политики: прозрачные критерии оценки, явные допущения по дисконтированию, метрики устойчивости и подотчётные институты.
Краткая резюмирующая формула практики: оценивать действия по их вкладу в уменьшение вероятности бедствия и сохранение будущей ценности, учитывая неопределённость и применяя робастные правила принятия решений: комбинировать $\mathrm{EV}=p\times V$, робастные критерии ${\max }_{\pi }{\min }_{s}U(\pi ,s)$ и этически обоснованное дисконтирование $\mathrm{PV}=V{e}^{-rt}$.
Если нужно, могу кратко предложить приоритеты для конкретной области (климат, биотех, ИИ) и конкретные институциональные шаги.