Кратко и по существу — правовые и этические проблемы при внедрении систем «социального кредита» (на примере Китая) и международные стандарты, которые могут быть затронуты.
Правовые проблемы
- Массовое наблюдение и сбор данных: широкое объединение государственных и частных баз данных без надёжной правовой основы, границ использования и минимизации данных.
- Отсутствие прозрачности и объяснимости: непонятные критерии оценки, закрытые алгоритмы, невозможность узнать и понять причину санкций.
- Отсутствие надлежащей правовой процедуры и эффективных средств правовой защиты: санкции вводятся административно без судебного контроля, ограничены возможности обжалования и исправления ошибок.
- Дискриминация и предвзятость алгоритмов: автоматизированные решения могут закреплять социальные и экономические неравенства, вредить уязвимым группам.
- Произвольные ограничения прав и свобод: запреты на путешествия, доступ к услугам, трудоустройству и кредитам без индивидуального и законного обоснования.
- Секьюрность и точность данных: ошибки, взломы и утечки приводят к необоснованным наказаниям и стигматизации.
- Экстерриториальные и частно-государственные взаимодействия: передача данных частным компаниям и их влияние на государственные решения создают размытость ответственности.
Этические проблемы
- Нарушение автономии и достоинства личности: управление поведением граждан посредством поощрений/наказаний лишает их свободы выбора.
- Холодный контроль и «социальное нормирование»: давление соответствовать навязанным стандартам, отчуждение и стыгматизация непокорных.
- Ухудшение доверия в обществе; эффект самоцензуры (chilling effect) в отношении выражения мнений и ассоциаций.
- Несправедливое распределение благ и наказаний; усиление маргинализации.
- Отсутствие согласия и информированного участия субъектов данных.
Международные стандарты прав человека, которые могут быть затронуты
- Всеобщая декларация прав человека (UDHR): право на частную жизнь (ст. $12$), свобода выражения (ст. $19$), свобода собраний и объединений (ст. $20$), право на труд (ст. $23$).
- Международный пакт о гражданских и политических правах (ICCPR): право на частную жизнь — ст. $17$; свобода передвижения — ст. $12$; свобода выражения — ст. $19$; свобода собраний и объединений — ст. $21$-$22$; право на справедливое судебное разбирательство и надлежащую правовую процедуру — ст. $14$; недискриминация — ст. $26$; общий обязательный механизм — ст. $2$ (эффективные средства защиты).
- Международный пакт об экономических, социальных и культурных правах (ICESCR): право на труд — ст. $6$; право на социальную защиту — ст. $9$; право на адекватный уровень жизни — ст. $11$.
- Стандарты в области защиты данных и ИИ: Конвенция Совета Европы о защите лиц при автоматизированной обработке персональных данных (Конвенция $108+$), международные принципы OECD по ИИ, рекомендации ООН по правам человека и технологиям слежения.
- Принципы прав человека в отношении бизнеса (UN Guiding Principles on Business and Human Rights): обязанность государств защищать права и обязанность компаний уважать права человека, обеспечить доступ к средствам правовой защиты.
Ключевые юридико‑этические принципы, которые нарушаются или требуют соблюдения
- Законность, прозрачность и предсказуемость мер.
- Необходимость и соразмерность вмешательства в права.
- Ограничение объёма и времени хранения данных; минимизация и целевое использование.
- Непредвзятость алгоритмов, проверяемость и аудитируемость.
- Независимый надзор, доступ к эффективным средствам правовой защиты и исправлению ошибок.
- Уважение человеческого достоинства и запрет на стигматизацию.
Короткое заключение: системы социального кредита при текущих моделях реализации представляют серьёзные риски для прав человека и общественной этики — они требуют чёткой правовой регламентации, прозрачности алгоритмов, независимого контроля и доступных механизмов обжалования, чтобы соответствовать международным стандартам.