Проблемы (правовые и этические)
- Частная жизнь и конфиденциальность: сбор изображений и данных людей в публичных и полупубличных местах; риск массового наблюдения и сопоставления данных.
- Защита персональных данных: кто собирает, как хранят, кто имеет доступ, для каких целей — риск утечек и несанкционированного использования.
- Свобода собраний и выражения: дроны могут подавлять протесты, влиять на поведение людей; риск избирательного наблюдения.
- Пропорциональность и необходимость: вмешательство в частную жизнь должно быть обосновано и минимально необходимым.
- Ответственность и подотчётность: кто отвечает при ошибках, авариях, неправомерном применении (оператор, ведомство, поставщик ПО).
- Безопасность полётов: риск столкновений с людьми, другими воздушными судами, критической инфраструктурой.
- Качество и надёжность данных: вопросы допустимости видеоматериалов в качестве доказательств; манипуляции и целостность.
- Автономные решения и алгоритмическая предвзятость: этическая проблема делегирования решений ИИ, возможные дискриминация и ошибки.
- Миссия creep (ползучее расширение функций): от разовых чрезвычайных задач к постоянному наблюдению.
- Кибербезопасность: взлом дрона или канала связи — доступ к чувствительным данным и управление аппаратом.
Предлагаемые правила и практики
- Законодательная основа: чётко закрепить допустимые цели и полномочия в законе; использовать дроны только при правовой основе (спасение, ликвидация ЧС, общественная безопасность).
- Принципы необходимости и пропорциональности: применение дронов только если менее инвазивные средства неэффективны; документировать обоснование для каждой миссии.
- Ограничение области и времени съёмки: съёмка только зоны инцидента и в течение строго ограниченного времени; хранение данных по умолчанию не более $30$ дней, если нет законных оснований для более длительного хранения.
- Минимизация и анонимизация данных: собирать минимум информации; применять в реальном времени размытие лиц/регистрационных знаков и/или сокращать разрешение для общих зон.
- Доступ и контроль: доступ к данным — по роли, с журналированием (audit log) всех обращений; хранение с шифрованием.
- Прозрачность и уведомление: публично доступная политика использования дроном, уведомления для населения о регулярном применении; отчёты о миссиях и инцидентах.
- Ограничение автоматизации: критические решения (пресечение правонарушений, применение силы) — только при участии человека (human-in-the-loop).
- Запрет или жёсткая регламентация биометрии: применение распознавания лиц/идентификаторов допускается только при судебном разрешении или в строго определённых случаях.
- Сертификация и обучение операторов: лицензирование операторов и регулярное обучение/переаттестация не реже чем каждые $2$ года; стандарты безопасности полётов.
- Безопасность полётов и интеграция в воздушное пространство: координация с авиационными властями, использование геозон и систем предотвращения столкновений.
- Жёсткая кибербезопасность: требования к шифрованию каналов, обновлениям ПО, защите от взлома и фальсификации данных.
- Надзор и механизм жалоб: независимый орган для контроля, аудита и рассмотрения жалоб граждан; публичные годовые отчёты.
- Условия использования данных в суде: правила цепочки хранения, подписи и верификации целостности для допуска материалов.
- Оценки воздействия: обязательная оценка воздействия на права человека и конфиденциальность перед внедрением новых программ, с публичными консультациями.
- Санкции и ответственность: чёткие дисциплинарные, административные и уголовные меры за злоупотребления и нарушения правил.
Краткая рекомендация по внедрению
1) принять локальное законодательство/положения, основанные на перечисленных принципах; 2) запустить пилот с прозрачной оценкой воздействия и общественным контролем; 3) внедрять технические меры минимизации данных и регулярный аудит.
Если хотите, могу сформулировать текст локального регламента/приказа на основе этих правил.