Короткий ответ: нельзя дать универсальную однозначную команду — решение должно приниматься по делу, на основе оценки соотношения пользы и риска, применимых норм и мер смягчения. Ниже — сжатый анализ этических аргументов «за» и «против» и практические критерии решения.
Аргументы «за» публикацию
- Научная открытость и воспроизводимость: публикация позволяет верифицировать результаты, воспроизвести и исправить ошибки; закрытость подрывает доверие и качество науки.
- Ускорение научного прогресса и общественной пользы: свободный доступ к знаниям способствует разработке лекарств, методов защиты и общественного здравоохранения.
- Принцип знания как общественного блага: запреты могут привести к неравномерному доступу и монополизации опасных знаний в закрытых группах.
- Контрмеры и готовность: своевременная публикация даёт возможность системам здравоохранения, регуляторам и разработчикам контрмер подготовиться и адаптироваться.
- Этическая обязанность предупреждать и информировать: если результаты указывают на риск, публикация может стимулировать изменения в политике и практике.
Аргументы «против» публикации
- Риск злоупотребления (dual-use): результаты могут быть использованы для создания биологического оружия или других вредных применений.
- Усиление угрозы всемирной безопасности: доступ к подробным протоколам и конструкциям повышает вероятность злоупотребления, особенно при высокой реализуемости.
- Неспособность контролировать конечных пользователей: после публикации регулирование использования знаний практически невозможно.
- Принцип предосторожности: при высокой вероятности серьёзного вреда оправдано ограничение распространения информации.
- Этическая ответственность исследователя за последствия применения своих результатов.
Этические рамки и критерии оценки
- Утилитаризм: сравнить ожидаемую суммарную пользу и вред (включая вероятность вредоносного применения и масштаб последствий).
- Деонтология: существуют ли неприкосновенные запреты (например, сознательная помощь созданию оружия)?
- Принцип справедливости: кто понесёт риски и кто получит выгоду?
- Принцип пропорциональности и минимально необходимого риска: ограничивать лишь настолько, насколько это необходимо.
Практические критерии принятия решения (предложение)
1. Оценка вероятности и масштаба вреда: насколько легко и с каким эффектом можно реализовать злоупотребление.
2. Оценка общественной пользы: вклад в здоровье, безопасность, научное знание.
3. Наличие менее рискованных способов достижения той же пользы (обходные, агрегированные данные, модели).
4. Возможность и эффективность смягчающих мер (редакция методов, отложенная публикация, доступ по запросу, надзор).
5. Регуляторные и институциональные требования (комитеты по биоэтике, DURC-процедуры, национальные правила).
Возможные практики при высокой степени риска
- Селективная публикация: опускание ключевых технических деталей, публикация концептуальных результатов.
- Ограниченный доступ: передача полных данных уполномоченным лабораториям по соглашениям о нераспространении.
- Отложенная публикация или координация с регуляторами и общественным здравоохранением.
- Усиленный рецензируемый надзор (экспертные комитеты по DURC).
- Сообщение о риске заинтересованным органам и сотрудничество для разработки контрмер.
Резюме (рекомендация)
- Решать дело за делом: если польза (при учёте вероятности и масштаба преимущества) явно превышает риск и доступны эффективные меры смягчения — публиковать, при этом применять защитные меры; если риск высок и реализация вреда реальна и тяжела, предпочтительна ограниченная или контролируемая публикация и координация с надзором.