Набув чинності Європейський закон про штучний інтелект. Про основні вимоги та зобов'язання при використанні штучного інтелекту

Запропонований Європейською Комісією у квітні 2021 року та схвалений Європейським парламентом і Радою ЄС у грудні 2023 року, Закон про штучний інтелект набув чинності в ЄС. 

Даний Закон надає розробникам і розгортачам систем чіткі вимоги та зобов'язання щодо конкретного використання штучного інтелекту, одночасно зменшуючи адміністративний і фінансовий тягар для бізнесу. 

Зобов'язання, передбачені відповідним Законом можуть стосуватися як постачальників (наприклад, розробника інструменту для перевірки резюме), так і розгортачів систем штучного інтелекту (наприклад, банку, який купує цей інструмент перевірки). 

Існують певні винятки з регулювання. Діяльність, пов'язана з дослідженнями, розробками та створенням прототипів, які проводяться до випуску системи штучного інтелекту на ринок, не підпадають під дію цих правил. Крім того, системи штучного інтелекту, призначені виключно для військових, оборонних цілей або цілей національної безпеки, також звільняються від регулювання, незалежно від типу організації, яка здійснює цю діяльність.   

Закон про штучний інтелект запроваджує єдину структуру для всіх країн ЄС, засновану на далекоглядному визначенні штучного інтелекту та підході, заснованому на оцінці ризиків: 

• Мінімальний ризик: більшість систем штучного інтелекту, таких як спам-фільтри та відеоігри з підтримкою штучного інтелекту, не стикаються з зобов'язаннями відповідно до Закону про штучний інтелект, але компанії можуть добровільно прийняти додаткові кодекси поведінки. 

• Специфічний ризик прозорості: такі системи, як чат-боти, повинні чітко інформувати користувачів про те, що вони взаємодіють з машиною, тоді як певний контент, створений штучним інтелектом, повинен бути позначений як такий. 

• Високий ризик: системи штучного інтелекту з високим ризиком, такі як медичне програмне забезпечення на основі штучного інтелекту або системи штучного інтелекту, що використовуються для підбору персоналу, повинні відповідати суворим вимогам, включаючи системи зниження ризиків, високу якість наборів даних, чітку інформацію про користувачів, людський нагляд тощо. 

• Неприйнятний ризик: наприклад, системи штучного інтелекту, які дозволяють урядам або компаніям «оцінювати соціальні показники», вважаються явною загрозою основним правам людей і тому заборонені. Такими особливо шкідливими застосуваннями штучного інтелекту є: 

• Експлуатація вразливостей осіб, маніпулювання та використання підсвідомих прийомів;  

• Соціальний скоринг для державних і приватних цілей; 

• Індивідуальна предиктивна поліція, що ґрунтується виключно на профілюванні людей; 

• Нецілеспрямоване скрейпінг Інтернету або камер відеоспостереження для отримання зображень обличчя для створення або розширення баз даних; 

• Розпізнавання емоцій на робочому місці та в навчальних закладах, за винятком медичних причин або міркувань безпеки (наприклад, моніторинг рівня втоми пілота); 

• Біометрична категоризація фізичних осіб для визначення або визначення їхньої раси, політичних поглядів, членства в профспілках, релігійних чи філософських переконань або сексуальної орієнтації. Маркування або фільтрація наборів даних та категоризація даних у сфері правоохоронних органів, як і раніше, будуть можливими; 

• Дистанційна біометрична ідентифікація в режимі реального часу в загальнодоступних місцях правоохоронними органами, за вузькими винятками.

Класифікація ризиків ґрунтується на цільовому призначенні системи штучного інтелекту, відповідно до чинного законодавства ЄС про безпеку продукції. Це означає, що класифікація залежить від функції, яку виконує система штучного інтелекту, а також від конкретної мети та способів, для яких використовується система. 

Системи штучного інтелекту можна віднести до категорії високого ризику у двох випадках: 

• Якщо система штучнго інтелекту вбудована як компонент безпеки в продукти, на які поширюється чинне законодавство ЄС про безпеку продукції, або є самою такою продукцією. Це може бути, наприклад, медичне програмне забезпечення на основі штучного інтелекту. 

• Якщо система штучного інтелекту призначена для використання в умовах високого ризику відповідно до Закону про штучний інтелект. Норми Закону включають приклади використання штучного інтелекту в таких сферах, як освіта, працевлаштування, правоохоронні органи або міграція. 

Що стосується захисту основних прав та уникнення дискримінації, то за повідомленнями Європейської Комісії, на рівні ЄС та держав-членів існує людиноорієнтований підхід до штучного інтелекту, що забезпечує відповідність додатків штучного інтелекту законодавству про основні права. 

Інтегруючи вимоги до підзвітності та прозорості в розробку систем штучного інтелекту з високим рівнем ризику та вдосконалюючи можливості правозастосування, автори даного закону можуть гарантувати, що ці системи від самого початку розроблені з урахуванням дотримання законодавства. У разі виявлення порушень такі вимоги дозволять національним органам влади мати доступ до інформації, необхідної для розслідування того, чи відповідало використання штучного інтелекту законодавству ЄС. 

Окрім того, Закон про штучний інтелект вимагає, щоб певні розгортачі систем штучного інтелекту з високим ризиком проводили оцінку впливу на основні права. 

Закон про штучний інтелект встановлює дворівневу систему управління, де національні органи влади відповідають за нагляд і дотримання правил для систем штучного інтелекту, тоді як рівень ЄС відповідає за управління моделями штучного інтелекту загального призначення. 

Для забезпечення узгодженості та співпраці в усьому ЄС буде створено Європейську раду зі штучного інтелекту (AI Board), до складу якої увійдуть представники держав-членів, зі спеціалізованими підгрупами для національних регуляторів та інших компетентних органів. 

Офіс штучного інтелекту, виконавчий орган Європейської Комісії для Закону про штучний інтелект, надаватиме стратегічні вказівки Раді зі штучного інтелекту. 

Крім того, Закон про штучний інтелект засновує два консультативні органи для надання експертного внеску: Наукову групу та Консультативний форум. Ці органи надаватимуть цінну інформацію від зацікавлених сторін та міждисциплінарних наукових спільнот, інформуючи про прийняття рішень та забезпечуючи збалансований підхід до розробки штучного інтелекту.