В конце апреля 2021 года Европейская комиссия опубликовала проект Регламента о регулировании ИИ в ЕС.
Регламент устанавливает:
1. Правила допуска на рынок, использования и эксплуатации систем с ИИ в ЕС.
2. Требования к высокорискованным системам с ИИ и обязанности операторов таких систем.
3. Запреты некоторых способов использования ИИ (в том числе запрет использования систем распознавания лиц в общественных местах в режиме реального времени для правоприменительных целей, кроме как в определенных Регламентом случаях).
4. Требования к прозрачности систем с ИИ, которые взаимодействуют с людьми, распознают эмоции и биометрические данные.
Системы с ИИ
Под действие Регламента попадают такие системы с ИИ, которые соответствуют следующему определению: "программное обеспечение, которое разработано с использованием методов и подходов, перечисленных в приложении к Регламенту, и которое способно генерировать контент, рекомендации, решения, прогнозы, оказывающие влияние на окружающую реальность для определенных человеком целей".
Среди методов и подходов к разработке ИИ Регламент перечисляет следующее:
- машинное обучение ("machine learning approaches, including supervised, unsupervised and reinforcement learning, using a wide variety of methods including deep learning");
- логические подходы и подходы, основанные на знаниях ("logic- and knowledge-based approaches, including knowledge representation, inductive (logic) programming, knowledge bases, inference and deductive engines, (symbolic) reasoning and expert systems");
- статистические подходы ("statistical approaches, Bayesian estimation, search and optimization methods").
Нужно отметить, что "системы с ИИ" определены так широко, что подпадать под требования Регламента может чуть ли не любое программное обеспечение для бизнеса, даже если оно не использует искусственный интеллект как таковой. Например, можно утверждать, что почти все инструменты работы с базами данных основаны на логических подходах и они генерируют результаты для определенных человеком целей, которые влияют на принятие пользователями решений.
Если будет принята текущая редакция законопроекта, то под ограничения могут попасть большое количество разных разработчиков и пользователей программного обеспечения. Однако предложенные формулировки Регламента и определения не финальные, они еще могут быть изменены Еврокомиссией.
Регламент имеет экстерриториальное действие
Требования Регламента распространяются не только на компании из Европейского союза, но и на любые иностранные компании, если:
- они выводят на рынок ЕС свои системы с ИИ,
- результаты деятельности систем с ИИ иностранных компаний используются в ЕС.
Исключения
Регламент не распространяется на ИИ исключительно военного назначения, а также на иностранные государственные органы и международные организации, которые используют ИИ в рамках международных соглашений для целей правоприменения и судебного взаимодействия с ЕС или странами-членами ЕС.
Компаниям-разработчикам систем с ИИ, планирующим выводить свои продукты на рынок ЕС, необходимо обратить внимание на формирующиеся в ЕС правила в сфере ИИ.
Мы будем следить за формированием итогового текста Регламента ЕС о регулировании ИИ и сообщать о важных изменениях.