Основные правовые проблемы применения ИИ в правоохранительной деятельности и необходимые гарантии для защиты прав человека
Основные правовые проблемы
- Точность и предвзятость: алгоритмы распознавания лиц и предиктивная аналитика могут давать систематические ошибки по признакам расы, пола, возраста, что приводит к необоснованным задержаниям, дискриминации и лишению свободы.
- Прозрачность и объяснимость: «чёрный ящик» алгоритмов затрудняет понимание, на каких данных и правилах приняты решения, что препятствует проверке и защите прав.
- Законность и процессуальные гарантии: отсутствие чёткой правовой базы для сбора, обработки и использования данных, а также для применения решений ИИ в оперативной и следственной деятельности.
- Пропорциональность и необходимость вмешательства: массовый слежений и автоматические остановки/задержания без обоснования нарушают соразмерность вмешательства в права.
- Конфиденциальность и защита данных: массовый сбор биометрии и больших массивов личных данных создает риски утечек, профилирования и нарушения частной жизни.
- Подотчётность и ответственность: неясно, кто отвечает за ошибки — разработчик, поставщик системы или ведомство; сложна квалификация действий как противоправных.
- Доказуемость и допустимость в суде: результаты ИИ могут быть недостоверными или не поддаваться перекрёстной проверке, что ставит под сомнение их доказательную силу.
- Масштабность и мисскеп: технологии, введённые для ограниченных целей, могут расширяться («скользящая шкала целей») и использоваться для массового наблюдения.
- Угроза свободам выражения и сбору информации: слежение и распознавание создают эффект устрашения и подавление законной деятельности.
Необходимые гарантии для защиты прав человека
- Правовая база: чёткие законы, регулирующие применение ИИ в полиции и спецслужбах — цели, основания, субъектный круг, процедуры и санкции. Закон должен содержать предписания о биометрии, предиктивной аналитике и использовании сторонних данных.
- Принцип необходимости и пропорциональности: применение технологий должно быть оправдано и минимально инвазивно; обязательная оценка альтернатив.
- Судебный или предварительный контроль: обязательное получение санкции суда или иного независимого органа для массового или целевого применения распознавания лиц и длительного мониторинга.
- Обязательная оценка воздействия на права человека (Human Rights Impact Assessment): до ввода — оценка рисков для прав и мер смягчения; публикация результатов.
- Тестирование на точность и отсутствие дискриминации: регулярные независимые тесты по репрезентативным выборкам, установление порогов допустимой точности и требований к равноправию.
- Прозрачность и объяснимость: обязательное раскрытие описания целей, данных, основных характеристик модели, критериев срабатывания и вероятностной оценки; права граждан получать объяснение при принятии решений, затрагивающих их права.
- Человеческий надзор (meaningful human-in-the-loop): запрет на полностью автоматические решения, влияющие на свободу или законные права; человек-ответственный должен иметь возможность проверить и отклонить вывод алгоритма.
- Логирование и аудитируемость: все действия систем и решений должны логироваться, храниться для независимого аудита и контроля; сохранять неизменяемые журналы.
- Независимый контроль и сертификация: создание независимых органов для контроля, аудита и сертификации систем ИИ в правоохранении; публичные отчёты об использовании.
- Право на оспаривание и возмещение: доступные механизмы обжалования решений, право на пересмотр человеком, эффективные средства судебной защиты и компенсации за вред.
- Ограничения хранения и реп purpose limitation: строгие правила хранения биометрии и CCTV-данных, минимизация объёмов и сроков хранения, запрет на вторичное использование не по назначению без нового правового основания.
- Защита данных и кибербезопасность: требования к шифрованию, контролю доступа, минимизации данных и устойчивости к манипуляциям и атакующим воздействиям.
- Публичная отчётность и прозрачность использования: регулярные публикации статистики применения (сколько раз использовано, сколько совпадений, какие последствия) и политик снижения рисков.
- Обучение и требования к кадрам: подготовка сотрудников, понимание ограничений ИИ и процедурного права; ответственность за корректное применение.
- Ограничение применения в уязвимых контекстах: запрет или жёсткие условия для использования распознавания и автоматизированных решений в контекстах массовых собраний, миграционного контроля, образовательных и медицинских учреждений.
- Технологические стандарты и открытость: по возможности требования к воспроизводимости, открытым методикам тестирования и независимым наборам данных для верификации.
Кратко: чтобы снизить риски и защитить права человека, требуется комплекс — ясные законы, независимый контроль и аудит, прозрачность, человеческий надзор, оценка воздействия и доступные механизмы обжалования, а также технические меры по минимизации данных и обеспечению безопасности.