Кратко и по существу — три блока: правовые проблемы, механизмы ответственности, гарантии защиты прав личности.
Правовые проблемы
- Нарушение права на частную жизнь и личную неприкосновенность: массовый сбор и сопоставление изображений без законного, конкретного и адекватного основания; риск произвольного вмешательства, несовместимого с принципом необходимости и пропорциональности.
- Произвольные и незаконные задержания: ошибки сопоставления приводят к лишению свободы людей без достаточных оснований, нарушению презумпции невиновности и права на справедливое судебное разбирательство.
- Дискриминация и предвзятость: алгоритмы могут давать более высокий процент ложных совпадений для отдельных групп по признакам расы, пола, возраста и т.д., что нарушает запрет дискриминации.
- Несоблюдение норм защиты персональных данных: отсутствие цели обработки, избыточность данных, неоправданно длительное хранение, передача третьим лицам без правового основания.
- Непрозрачность и отсутствие контроля: закрытость алгоритмов, отсутствие аудита и публичной информации лишают граждан возможности оценить законность и точность системы.
- Ответственность поставщиков и полиции: нечёткость распределения ответственности между разработчиком алгоритма, оператором системы и полицией за ошибки и злоупотребления.
Механизмы привлечения полиции к ответственности
- Независимое расследование инцидентов: создание или использование независимого органа (омбудсман, комитет по правам человека, прокурор) для оперативного и беспристрастного расследования ошибочных задержаний.
- Дисциплинарные меры: внутренние дисциплинарные процедуры против должностных лиц, принявших незаконные решения на основе ошибочных результатов.
- Уголовное преследование при наличии состава преступления: квалификация действий как неправомерное лишение свободы, злоупотребление полномочиями, превышение служебных полномочий, если доказана умышленность или грубая неосторожность.
- Гражданско-правовая ответственность и компенсация: гражданские иски пострадавших о возмещении морального и материального вреда, репутационные убытки, требование опровержения и удаления данных.
- Административные санкции и штрафы: применяемые контролирующими органами в сфере данных и надзора за технологиями за нарушение процедур обработки и обеспечения прав субъектов.
- Судебные запреты и временные меры: возможность получения судебных предписаний о приостановке использования технологии до выяснения обстоятельств.
- Ответственность поставщиков: привлечение разработчиков и поставщиков ПО к ответственности (дефекты алгоритма, ввод в заблуждение органов), в том числе через обязательства по гарантии и договорные санкции.
Гарантии защиты прав личности (законодательные, процедурные и технические)
- Законодательная основа: чёткий закон, допускающий использование распознавания лиц только при строгих условиях: предусмотрению законной цели, судебному или прокурорскому разрешению для массового или целенаправленного применения, конкретизации категорий целей.
- Принципы necessity и proportionality: обязательная оценка необходимости и соразмерности для каждой операции, запрет широкого «профилактического» слежения без обоснования.
- Обязательная оценка воздействия: проведение независимой оценки воздействия на права человека и на защиту персональных данных перед введением технологии (DPIA/HRIA) с публикацией выводов и рекомендаций.
- Живой человек в цикле принятия решения: требование обязательной человеческой проверки совпадений до принятия мер, исключающей автоматическое задержание по алгоритмическому результату.
- Точность, тестирование и непрерывный аудит: установление минимальных стандартов точности и требований к тестированию на репрезентативных выборках; регулярные независимые технические аудиты и публичные отчёты.
- Прозрачность и информирование: публичный реестр систем видеонаблюдения/распознавания, отчёты полиции о применении технологии, статистика ложных срабатываний и случаев задержаний.
- Ограничение по времени хранения и цели: минимизация объёма хранимых данных, жёсткие сроки удаления данных, запрет на использование данных в иных целях без нового правового основания.
- Права субъектов данных: право доступа к данным о себе, уведомление о случаях ошибочной идентификации, право на исправление и удаление, эффективный и быстрый механизм обжалования с административной и судебной защитой.
- Меры смягчения последствий для жертв: автоматическое уведомление и компенсация за ошибочную идентификацию/задержание, обязательное удаление следов из оперативных и публичных реестров, восстановление репутации.
- Независимый надзор и санкции: усиление роли персонального/дата-надзорного органа, омбудсмана или специализированного регулятора по ИИ с правом налагать штрафы, приостанавливать системы и требовать исправления.
- Ограничение привлечения поставщиков: обязательные договорные условия с поставщиками (прозрачность алгоритмов, доступ к исходным данным для аудита, гарантия отсутствия дискриминации), возможность гражданских исков к поставщикам.
- Обучение и процедуры полиции: должная подготовка персонала, стандартизированные процедуры проверки совпадений, протоколы задержания, обязательный протокол причин и аудиовизуальная фиксация вмешательств.
Короткие практические шаги для страны D
- Немедленный аудит всех случаев ошибочных задержаний и временная приостановка использования технологии до его окончания.
- Принятие временных правил: запрет на автоматические задержания, обязательная человеческая верификация, обязательная публикация статистики.
- Разработка полноценного закона и независимого надзора, механизмов компенсации и стандартов для точности и тестирования алгоритмов.
Вывод: массовое распознавание лиц сопряжено с высоким риском нарушения прав; необходима сочетание строгой правовой регламентации, независимого надзора, технических требований по точности и прозрачности, а также действенных механизмов ответственности и компенсации при ошибках.