Массовое внедрение технологий распознавания лиц в общественных местах привело к ошибочным задержаниям мирных граждан — какие международные нормы по правам человека затрагиваются, как оценить соотношение безопасности и приватности, и какие правовые механизмы контроля и компенсации предложите?

8 Окт в 11:47
7 +4
0
Ответы
1

Кратко и по делу — три блока: какие нормы затрагиваются, как оценивать баланс «безопасность — приватность», и какие конкретные правовые механизмы и практика контроля/компенсации рекомендую.

1) Какие международные нормы и принципы затрагиваются

Право на частную жизнь и семейную жизнь ICCPRст.17,Всеобщаядекларацияправчеловека;регионально:ст.8ECHRICCPR ст.17, Всеобщая декларация прав человека; регионально: ст.8 ECHRICCPRст.17,Всеобщаядекларацияправчеловека;регионально:ст.8ECHR. Массовый сбор/сопоставление биометрических данных — прямое вмешательство.Свобода передвижения, свобода собраний и ассоциаций ICCPRст.21,ст.12ICCPR ст.21, ст.12ICCPRст.21,ст.12 — массовое видеонаблюдение и распознавание лиц создают «эффект охлаждения».Право на личную свободу и безопасность ICCPRст.9ICCPR ст.9ICCPRст.9 и презумпция невиновности / право на справедливое разбирательство ICCPRст.14ICCPR ст.14ICCPRст.14 — ложные совпадения ведут к произвольным задержаниям.Равенство и недискриминация ICCPRст.26;регионально—антидискриминационныенормыICCPR ст.26; регионально — антидискриминационные нормыICCPRст.26;региональноантидискриминационныенормы. Алгоритмические ошибки чаще затрагивают маргинализованные группы.Право на эффективное средство правовой защиты и возмещение вреда ICCPRст.2(3)ICCPR ст.2(3)ICCPRст.2(3): государство обязано обеспечить доступ к быстрому и действенному средству правозащиты.Обязанности государства: законность, необходимость, пропорциональность, правовые гарантии и надзор общийпринципвпрецедентнойидоктринальнойпрактикеООНиЕСПЧобщий принцип в прецедентной и доктринальной практике ООН и ЕСПЧобщийпринципвпрецедентнойидоктринальнойпрактикеООНиЕСПЧ.Дополнительно: международные рекомендации и обращения экспертов резолюцииидокладыСпециальныхдокладчиковООН,призывыкмораториюнамассовоебиометрическоенаблюдениерезолюции и доклады Специальных докладчиков ООН, призывы к мораторию на массовое биометрическое наблюдениерезолюцииидокладыСпециальныхдокладчиковООН,призывыкмораториюнамассовоебиометрическоенаблюдение.

2) Как оценивать соотношение безопасности и приватности — практический фреймворк
Применять тест «законность — необходимое средство — пропорциональность» в несколько этапов и с количественными/качественными метриками:

A. Цель и законность

Чётко сформулированная законная цель например,предотвращениеирасследованиетяжкихпреступленийнапример, предотвращение и расследование тяжких преступленийнапример,предотвращениеирасследованиетяжкихпреступлений, ограниченная по содержанию и времени.Необходимость: доказательства того, что без FRT facialrecognitiontechnologyfacial recognition technologyfacialrecognitiontechnology цель недостижима или достигается значительно хуже.

B. Оценка эффективности suitabilitysuitabilitysuitability

Конкретные данные об эффективности в полевых условиях: истинно/ложно-положительные и ложно-отрицательные показатели при реальном использовании.Оценка влияния на раскрываемость преступлений; сравнительный анализ альтернатив лучшиеспособынаблюдения,оперативно−розыскныемероприятия,человеческаяобработкаданныхлучшие способы наблюдения, оперативно-розыскные мероприятия, человеческая обработка данныхлучшиеспособынаблюдения,оперативнорозыскныемероприятия,человеческаяобработкаданных.

C. Аспект необходимости

Доступность менее инвазивных средств; если такие есть — FRT применять нельзя.

D. Пропорциональность по сути balancingbalancingbalancing

Сравнить масштаб и продолжительность вмешательства массовое/постоянноевпубличныхместахмассовое/постоянное в публичных местахмассовое/постоянноевпубличныхместах с ожидаемым уловом безопасности.Учитывать уязвимость групп и риск дискриминации; «коллективный вред» постоянныйконтрольобществапостоянный контроль обществапостоянныйконтрольобщества — важный фактор.

E. Гарантии и минимизация риска

Наличие процессуальных и технических гарантий срокихранения,ограничениедоступа,журналирование,человеческаяпроверкасовпадений,внешниеаудитысроки хранения, ограничение доступа, журналирование, человеческая проверка совпадений, внешние аудитысрокихранения,ограничениедоступа,журналирование,человеческаяпроверкасовпадений,внешниеаудиты.Публичная прозрачность: реестр развертываний, отчёты об эффективности и нарушениях.

F. Оценки до и после внедрения

Обязательное проведение DPIA / HIA оценкивоздействияназащитуданныхиправчеловекаоценки воздействия на защиту данных и прав человекаоценкивоздействияназащитуданныхиправчеловека с публикацией результатов.Мониторинг показателей: false positive rate, disparate impact по признакам расы/пола/возраста, число задержаний/ошибочных задержаний, сроки хранения, жалобы и исходы жалоб.

3) Конкретные правовые механизмы контроля и компенсации рекомендациирекомендациирекомендации A. Общие правила и запреты

Ввести законный регламент: строгие лимиты на применение FRT; запрет на массовую и постоянную идентификацию лиц в публичных местах в широком доступе особенновреальномвремениособенно в реальном времениособенновреальномвремени, за исключением узко определённых случаев.Внедрить мораторий до принятия полного регламента или жёсткий запрет на определённые высокорисковые практики массоваяидентификациявреальномвремени,«социальныйскоринг»ипр.массовая идентификация в реальном времени, «социальный скоринг» и пр.массоваяидентификациявреальномвремени,«социальныйскоринг»ипр..

B. Условие допустимости и процедуры

Допускать использование FRT только:
для расследования или предотвращения тяжких преступлений;на основе предварительного судебного или независимого административного разрешения обоснованиенеобходимостиипропорциональностиобоснование необходимости и пропорциональностиобоснованиенеобходимостиипропорциональности;при строгой минимизации географических/временных рамок.Требование к DPIA/HIA до любого развёртывания и обязательная публикация резюме оценки и мер смягчения.

C. Технические и операционные гарантии

«Человек в петле»: автоматические совпадения не могут прямо вести к задержанию/лишению свободы без независимой человеческой верификации.Порог доверия: устанавливать минимальный порог уровня совпадения; при низкой уверенности требовать дополнительных доказательств.Минимизация данных: хранить только метаданные и/или анонимизированные данные; удалять необоснованные совпадения немедленно.Логирование действий и доступов, неизменяемые журналы для аудита.Обязательные внешние независимые технические аудиты включаятестынасмещениеиточностьвключая тесты на смещение и точностьвключаятестынасмещениеиточность перед и периодически после внедрения.

D. Прозрачность и общественный контроль

Публичный реестр всех развертываний FRT места,цели,сроки,результатыDPIAместа, цели, сроки, результаты DPIAместа,цели,сроки,результатыDPIA.Ежегодные отчёты о количестве запросов, совпадений, задержаний, ошибочных задержаний и исходах разбирательств.Возможность общественного участия и общественных консультаций при принятии решений о развертывании.

E. Надзорные институты

Наделить независимого регулятора / Уполномоченного по защите персональных данных и/илиспец.органпоAIи/или спец. орган по AIи/илиспец.органпоAI полномочиями расследовать, приостанавливать и запрещать развертывания, налагать санкции и требовать уничтожения данных.Парламентский и судебный надзор; спец. комиссии по этике/правам человека для оценки рисков.

F. Ответственность и средства правовой защиты

Право на уведомление: лица, пострадавшие от обработки/ошибочного совпадения, должны быть уведомлены о факте использования и о решениях, влияющих на их свободу.Право доступа к данным, объяснениям алгоритма вразумныхпределахв разумных пределахвразумныхпределах и возможности обжалования.Реализованный и быстрый механизм обжалования/экспресс-пересмотра для тех, кого задержали/обвинили ошибочно.Компенсация:
Обязательная государственная ответственность и компенсация при незаконных задержаниях вследствие FRT — включает возмещение морального вреда, материального ущерба потерянныйзаработок,расходыпотерянный заработок, расходыпотерянныйзаработок,расходы, публичные извинения и судебные издержки.Предусмотреть правило «предполагаемого вреда» — если задержание/лишение свободы произошло в результате ошибочного совпадения FRT и государство не доказало соблюдение всех гарантий, возмещение должно быть автоматическим резкоесмягчениебременидоказываниядляпострадавшегорезкое смягчение бремени доказывания для пострадавшегорезкоесмягчениебременидоказываниядляпострадавшего.Механизмы восстановления репутации: удаление/запечатывание записей, блокировка распространения фото/видео, ликвидация следов в базах правоохранительных органов.

G. Регулирование частного сектора и закупок

Применять принципы UN Guiding Principles on Business and Human Rights: обязательная дью-дилидженс и ответственность поставщиков.Ограничения на коммерческое использование FRT в публичных местах и на продажу баз данных без явного согласия.Требования к государственным закупкам: только сертифицированные решения, доказанная беспристрастность и прозрачность алгоритмов илиобязательныйнезависимыйаудитили обязательный независимый аудитилиобязательныйнезависимыйаудит.

H. Технические критерии и отчётность аудита

Обязательные метрики и тесты перед применением: точность в реальном мире, false positive rate при реальном распределении лиц, анализ смещения по демографическим группам.Пороговые значения и требования к повторной сертификации при обновлениях алгоритма.Публичные отчёты об инцидентах безопасности и нарушениях.

4) Практические шаги для внедрения в законодательство/политику шаблоннаядорожнаякарташаблонная дорожная карташаблоннаядорожнаякарта

Ввести временный мораторий на массовое использование FRT в публичных пространствах.Разработать и принять закон, который:
запрещает массовую идентификацию лиц в публичных местах в реальном времени;допускает исключения только через надёжный процесс авторизации суд/независимыйрегуляторсуд/независимый регуляторсуд/независимыйрегулятор;устанавливает обязательные DPIA/HIA, прозрачность, человеческий контроль и обязательную компенсацию при нарушениях.Создать независимый надзорный орган и механизм оперативной компенсации пострадавшим.Обязать силовые структуры публиковать регулярные отчёты и проходить внешние аудиты.Обучение сотрудников правоохранительных органов и санкции за злоупотребления.

5) Итоговая юридическая формула краткократкократко Любое массовое применение распознавания лиц должно быть:

Законом прямо разрешено;Необходимо и пропорционально достижению легитимной цели;Сопровождаться строгими минимизирующими и прозрачными гарантиями;Подлежать независимому надзору;С выстроенным механизмом быстрого доступа к правовой защите и обязательной компенсацией при ошибках и злоупотреблениях.

Если нужно, могу:

Составить модельный законодательный раздел статьизаконастатьи законастатьизакона с конкретными формулировками запретов/исключений, процедурой разрешения и положениями о компенсации.Подготовить шаблон DPIA/HIA специально для FRT.Привести примеры реальных нормативных актов и судебной практики в ЕС/США/Великобритании и пр. в поддержку тех или иных мер.
8 Окт в 15:57
Не можешь разобраться в этой теме?
Обратись за помощью к экспертам
Гарантированные бесплатные доработки в течение 1 года
Быстрое выполнение от 2 часов
Проверка работы на плагиат
Поможем написать учебную работу
Прямой эфир