Краткое руководство принципов и практик, которыми стоит руководствоваться при принятии решений о долгосрочном выживании человечества в условиях климатического кризиса и угрозы неконтролируемых технологий.
Фундаментальные моральные принципы
- Принцип осторожности (precautionary principle): при возможно катастрофическом и необратимом риске выбирают меры, минимизирующие вероятность грубой ошибки, даже при неопределённости.
- Межпоколенческая справедливость: равное моральное внимание интересам будущих поколений; исключение произвольного принижения их благ.
- Неповреждение и минимизация рисков: нельзя сознательно создавать риски катастрофы, даже ради краткосрочной выгоды.
- Принцип универсальной ответственности: решения должны учитывать глобальные последствия и возможности перекрёстного вреда.
- Прозрачность и легитимность: решения принимаются с участием гражданского общества, экспертов и международных институтов.
Нормативные подходы к учёту будущих поколений (варианты)
- Утилитаризм суммирования: максимизировать суммарное благосостояние будущих и настоящих: $W={\sum }_{t=0}^{\infty }{w}_{t}U(c_t)$, где $w_t$ — вес поколения $t$, $U(c_t)$ — его полезность.
- Приоритетаризм: отдавать больше веса тем, кто хуже обеспечен.
- Максимиn (Rawls): ориентироваться на улучшение положения наихудших (сильный акцент на предотвращении катастроф).
- Равенство поколений: одинаковый вес (не дисконтировать нравственно) или только небольшое этическое дисконтирование для учёта неопределённости.
Дисконтирование и долгосрочные последствия
- Если используется экспоненциальное дисконтирование, социальная ставка дисконтирования часто задаётся по формуле Рамси: $r=\rho +\eta g$, где $\rho$ — чистая временная предпочтительность, $\eta$ — эластичность предельной полезности по потреблению, $g$ — ожидаемый рост потребления. Для межпоколенческих вопросов эти параметры должны подбираться осторожно (с низким $\rho$), чтобы не обесценивать будущее.
- Альтернатива: слабое или нулевое моральное дисконтирование при оценке рисков существования.
Как соотнести интересы будущих поколений и права настоящих
- Принцип минимального вреда: текущие права удовлетворяются в той мере, в какой это не создаёт неоправданного риска для будущих людей.
- Пропорциональность: при конфликте — оценивать срочность и масштаб последствий; предотвратить высоковероятные и неконтролируемые катастрофы прежде, чем преследовать менее значимые краткосрочные выгоды.
- Компенсация и солидарность: там, где нынешние действия ограничивают будущие возможности, следует обеспечить компенсации (инвестиции в общественные блага, технологии безопасности).
- Институционализация представительства будущих — омбудсмены для будущих поколений, независимые советы по долгосрочному риску.
Практические критерии при принятии решений
- Фокус на уменьшении экзистенциального риска: риски, ведущие к утрате значительной части человеческого потенциала, получают приоритет в ресурсах и регулировании.
- Оптимальная диверсификация усилий: одновременно снижать климатические выбросы, развивать адаптацию, укреплять био- и техногенную безопасность, финансировать исследования по безопасности ИИ и генетики.
- Принцип обратимости: отдавать предпочтение политикам и технологиям, которые можно корректировать или отменить при новом знании.
- Надёжность и устойчивость: строить институции и инфраструктуру, способные выдерживать неожиданные шоки.
- Верификация и контроль: международные механизмы верификации, открытая наука по вопросам безопасности, ограничения на опасные исследования.
Подход к неопределённости и моральная неуверенность
- Учёт крайних хвостов распределения рисков (fat tails): при наличии невысокой, но важной вероятности катастрофы решения ориентируютcя на минимизацию ожидаемого вреда.
- Принцип моральной неуверенности: при конфликте между теориями морали реализовывать правила, которые минимизируют регреты и риск морально неприемлемых исходов.
- Использовать «портфельную стратегию»: сочетать действенные краткосрочные меры (устранение бедности, здравоохранение) с долгосрочными инвестициями в безопасность.
Институционные и политические меры
- Международное сотрудничество и договоры по ограничению опасных технологий и эмиссий.
- Независимые агентства по оценке экзистенциальных рисков и правам будущих поколений.
- Регуляция и контроль НИОКР: этические границы, лицензирование, надзор, обязательные тесты безопасности.
- Прозрачность данных, краудсорсинг контроля рисков, поддержка научной репликации и аудита.
Короткий свод практических правил принятия решений
1. Предотвращать необратимые и крупномасштабные риски в первую очередь.
2. Применять низкое или нулевое моральное дисконтирование для оценок, влияющих на существование людей.
3. Сочетать локальные права и благосостояние с международной обязанностью не навредить будущим поколениям.
4. Инвестировать в институциональную устойчивость, проверку и международное сотрудничество.
5. Применять осторожность к новым мощным технологиям до тех пор, пока их безопасность не доказана.
Заключение (одно предложение)
Этически обоснованная политика в условиях климата и неконтролируемых технологий должна сочетать осторожность, межпоколенческую справедливость, приоритеты по снижению экзистенциального риска и институциональную ответственность, отдавая серьёзный вес правам будущих поколений при одновременном уважении к текущим нуждам.