Коротко и по сути — сначала какие правовые проблемы появляются, затем конкретные правила и гарантии.
1) Конституционные и права человека
- Нарушение права на личную жизнь и частную жизнь (ЕCHR ст. 8, Хартия ЕС) — массовый сбор и сопоставление изображений требует законного основания, адекватности и пропорциональности.
- Косвенная дискриминация и равенство (запрещение дискриминации по признаку расы/этничности): систематическое завышение ошибок в отношении меньшинств создает фактическую дискриминацию (Хартия ЕС ст. 21 и общие конституционные принципы).
- Презумпция невиновности и свобода от произвольного лишения свободы — риск арестов/лишений по ненадёжным автоматическим сопоставлениям.
2) Процессуальные проблемы
- Законность обработки: отсутствие чёткой правовой нормы/мандата для слежки в реальном времени, отсутствие судебной санкции для массового сканирования.
- Отсутствие прозрачности и контроля (кто, когда, зачем запустил систему).
- Нарушение прав подозреваемого на уведомление и оспаривание решений, основанных на автоматике.
3) Доказательственные проблемы
- Надёжность как экспертного доказательства: алгоритмическая «чёрная коробка», отсутствие внятных показателей ошибок, зависимости от обучающей выборки.
- Смещение ошибки (bias): если $FP{R}_{minority}\gg FP{R}_{majority}$, результаты неравномерно дискредитируют одни группы. Можно формализовать диспропорцию, например через показатель
$$D=\frac{FP{R}_{minority}}{FP{R}_{majority}}.$$ - В уголовном процессе — требование допустимости и достаточности: распознавание не должно быть единственным основанием для задержания/осудительного вердикта.
4) Практические юридические последствия
- Возможность оспаривания доказательств и их исключения из дела.
- Требование компенсации и реституции пострадавшим.
- Формирование прецедентов/скандалов, снижение общественного доверия к полиции.
5) Рекомендованные правила использования и контроля (конкретно)
- Правовая база и авторизация:
- Ввести специальный закон/подзаконный акт: чёткое определение целей (конкретные типы тяжких преступлений), сроки и минимизацию охвата.
- Судебная санкция или независимое административное разрешение для массового/реального времени слежения.
- Принцип «человек в цикле»:
- Автоматическое сопоставление — только как подсказка; ни одно решение об аресте/задержании не принимается без независимой человеческой верификации и документированного дополнительного подтверждения.
- Прозрачность и отчётность:
- Публикация ежегодных отчётов по использованию: число срабатываний, число реальных совпадений, число ложных срабатываний, распределение по этническим/расовым группам (анонимизировано), метрики точности.
- Публикация версий моделей и датасетов (или их описаний), отчётов об аудитах.
- Обязательные технические требования:
- До внедрения — независимый предвнедренческий аудит (bias/robustness), обязательная оценка влияния (DPIA по GDPR).
- Проводить измерение диспропорций; применять критерии паритета, например требовать
$$\frac{selection\_rat{e}_{minority}}{selection\_rat{e}_{majority}}\ge 0.8$$ (правило «четырёх пятых») или ограничивать отношение ошибок
$$D=\frac{FP{R}_{minority}}{FP{R}_{majority}}\le \mathrm{1.25.}$$ Если критерии нарушаются — недопустимо использовать систему для оперативных действий до исправления.
- Стандарты допуска доказательств:
- Алгоритм рассматривается как экспертное средство: обязателен отчёт об ошибках, верификация независимым экспертом, доступ защиты к существенным материалам (model card, тесты, аудиты; не обязательно исходный код, но механизм доступа в escrow для суда/независимого аудитора).
- Если система использовалась в деле, прокуратура обязана раскрыть метрики и логи, относящиеся к конкретному совпадению.
- Логи, цепочка хранения и неизменяемость:
- Хранение журналов (кто, когда, версия модели, порог совпадения, кадры) в неизменяемом виде (например WORM/цифровая подпись) для проверяемости.
- Ограничения хранения и целей:
- Изображения и биометрические шаблоны хранятся минимально необходимый срок; запрет на использование данных для несовместимых целей (например коммерция, массовый мониторинг).
- Независимый надзор и санкции:
- Создать независимый орган по надзору и сертификации (или расширить компетенции действующего органа по защите данных), регулярные внеплановые проверки, публичные слушания.
- Санкции за несоблюдение (штрафы, исключение доказательств, возмещение ущерба).
- Средства компенсации и восстановления:
- Право пострадавших на быстрое обжалование, независимое расследование, компенсацию и публичное опровержение ошибочной информации.
- Обучение и минимизация человеческого фактора:
- Обучение сотрудников правил взаимодействия с системой, обязательные инструкции: нельзя действовать только по «лицу в красном кружке», требовать минимум N независимых подтверждений.
6) Практическая последовательность внедрения (контрольный список)
- Юридическая оценка и DPIA.
- Независимый технический аудит и тестирование по защищённым подгруппам.
- Правовой акт/санкция суда для применения.
- Пилот с прозрачной отчётностью, публичные консультации с общинами.
- Постоянный мониторинг и возможность немедленного приостановления при выявлении дискриминации.
Короткий вывод: система распознавания лиц может быть полезной, но при обнаружении статистического перекоса её использование без срочных юридических, процедурных и технических гарантий ставит под угрозу конституционные права и допустимость доказательств. Требуются законная база, человеческая верификация, независимые аудиты, публичная отчётность, жёсткие критерии паритета и механизмы правовой защиты.