Ответственность за причинённый вред
- Чёткое определение субъектов ответственности: законодательство должно различать изготовителя (разработчика), поставщика инфраструктуры (платформы), интегратора/внедрителя и конечного оператора/владельца. Юридическая обязанность должна распределяться по функциям и факту контроля над системой, а не только по названию субъекта.
- Риск‑ориентированный режим ответственности: для систем с низким риском — общая деликтная ответственность; для систем со средним и высоким риском — усиленные правила (предварительная сертификация, обязательное страхование, строгая ответственность производителя при отсутствии вины или при нарушении стандартов безопасности).
- Адаптация норм о продукции и профессиональной ответственности: включить ИИ/АС в понятие «продукт» и предусмотреть специализированные критерии дефекта (например, недостатки в обучающих данных, некорректная оценка валидации, отсутствие адекватной документации).
- Обязательные меры управления риском: предвыпускное тестирование, регулярное обновление безопасности, журналы событий (audit logs) с сохранением доказательств работы системы и причинно‑следственных цепочек для последующего анализа инцидентов.
- Страхование и компенсация пострадавшим: обязать производителей/операторов высокорисковых систем иметь страхование, создать упрощённые механизмы компенсации (включая фонды быстрой выплаты при массовом вреде).
- Процедуры уведомления и расследования: установить короткие сроки для уведомления регулятора и пострадавших о серьёзных инцидентах, права регулятора на доступ к артефактам (моделям, данным, логам) для расследования при соблюдении процедур защиты коммерческой тайны и персональных данных.
- Процессуальные гарантии: право пострадавшего на объяснение причин решения системы, презумпция ответственности при отсутствии достаточной прозрачности у ответчика (shifted burden of proof), поддержка для судебной экспертизы ИИ.
Защита авторских прав
- Чёткое разграничение прав на обучающие данные и на модели: права на исходные произведения сохраняются; при использовании контента для тренировки — требуется либо лицензирование, либо правовая норма, специально разрешающая автоматический под‑анализ с компенсацией/оповещением правообладателей.
- Право на исключение для научного и технического обучения: предусмотреть узко сфокусированные исключения (text and data mining) с гарантиями вознаграждения правообладателям при коммерческом использовании полученных моделей.
- Правовая определённость об авторстве моделей и автоматически сгенерированных результатов: результаты, созданные исключительно алгоритмами без творческого вклада человека, не подлежат авторской защите, но возможно защищать интересы разработчика/владельца через смежные права или контрактные режимы.
- Маркировка и учёт источников тренировочных данных: обязать разработчиков вести реестр/референс‑список используемых крупных датасетов и указывать условия лицензирования; при коммерческом использовании — механизм учёта вознаграждений (пул вознаграждений).
- Механизмы защиты интересов правообладателей: эффективные процедуры установления факта использования контента, урегулированные порядки уведомления и разрешения споров; избегать чрезмерных широких запретов, которые могут остановить инновации.
Обеспечение прозрачности алгоритмов
- Принцип пропорциональной прозрачности: требования различаются в зависимости от риска и последствий — для низкорисковых сервисов достаточно базовой документации; для высокорисковых — полная техническая документация, модельные карты и отчёты об испытаниях.
- Стандартизированная документация: обязательные «карты модели» (model cards), «карты датасетов» (datasheets), отчёты о валидации, описания ограничений и возможных предвзятостей, метрики производительности по релевантным подклассам пользователей.
- Обязательные аудиты и валидация: независимые технические и этические аудиты перед выводом на рынок и регулярно в процессе эксплуатации; регуляторный доступ к исходным артефактам при расследовании инцидентов.
- Объяснимость и право на объяснение: пользователю требуется понятное объяснение ключевых причин решений в случаях, существенно затрагивающих права/интересы; для сложных моделей — сочетание локальных объяснений и агрегированных статистических описаний.
- Баланс коммерческой тайны и общественного интереса: допускать ограничения на раскрытие деталей архитектуры/кода, но предусматривать надзорный механизм (доверенное раскрытие регулятору или проверяющим) и санкции за злоупотребление ссылкой на коммерческую тайну.
- Технические требования к журналированию: обязательное логирование входных данных, промежуточных состояний и принятых решений с сохранением контекстной информации для воспроизводимости и аудита при инциденте.
- Прозрачность взаимодействия с пользователем: явное обозначение, что субъект взаимодействует с ИИ/АС, описание его возможностей и ограничений, возможность запросить разъяснение и обжаловать решение.
Рекомендации по структуре регулирования и внедрению
- Принять риск‑ориентированный комплексный акт (или дополнение к существующим нормам), включающий определения, классификацию рисков, базовые обязательства и процедуры сертификации.
- Создать профильный регулятор или уполномоченное подразделение с технической экспертизой, полномочиями на аудит и экстренное вмешательство.
- Использовать пилотные режимы и песочницы для инноваций с параллельным сбором данных для окончательной нормативной доработки.
- Международная координация: синхронизировать подходы к ответственности, взаимному признанию аудитов и обмену информацией, особенно в трансграничных вопросах данных и услуг.
Кратко: закон должен сочетать риск‑ориентированный режим ответственности, адаптацию авторского права к режимам обучения и генерации, и требование пропорциональной прозрачности с поддержкой независимых аудитов и эффективных механизмов защиты пострадавших.