13 березня 2024 року Європейський парламент ухвалив історичне рішення, спрямоване на гарантування безпеки та дотримання основоположних прав людини, а також сприяння інноваціям, – закон про штучний інтелект. Документ отримав більшість голосів: 523 голоси “за”, 46 “проти” і 49 “утрималися”.
Відповідно до закону ЄС про ШІ, встановлені конкретні заборони на застосування ШІ, які становлять загрозу для прав громадян.
Головною метою документа є захист фундаментальних прав, демократії, верховенства права та стійкості довкілля від штучного інтелекту з високим ризиком та водночас прискорення інновацій та утвердження провідної ролі Європи у цій сфері. Ці регуляторні правила запроваджують зобов’язання для використання ШІ на основі його потенційних ризиків та рівня впливу», — йдеться в документі.
Вимоги законодавчого акта забороняють використання найбільш ризикових програм і застосунків на основі ШІ, які можуть загрожувати правам людини, включаючи системи біометричної категоризації на основі конфіденційних характеристик і нецільового збирання зображень облич з інтернету або записів камер відеоспостереження для створення баз даних розпізнавання облич. Заборонено фіксацію емоційних реакцій на робочих місцях та у школах, системи фіксації соціального рейтингу, «інтелектуальні» поліцейські дії, які базуються виключно на складанні профілю особи та оцінці її особистих характеристик. Заборонено використовувати штучний інтелект для маніпулювання поведінкою людей або для експлуатації їхніх вразливостей.
Правоохоронці зможуть використовувати біометричні системи ідентифікації на основі ШІ-технології лише у виключних випадках, наприклад, для пошуку зниклих осіб або для запобігання терористичним атакам.
Тим часом до впровадження в різні сфери життєдіяльності систем ШІ, які категоризували як системи з високим ризиком, встановили чіткі зобов’язання для їх виробників.
До таких систем віднесені ті, які можуть завдати значної потенційної шкоди у сфері критичної інфраструктури, освіти, працевлаштування, надання комерційних та державних послуг в охороні здоров’я, банківських послуги, у системі правосуддя тощо.
Їх розробники повинні оцінювати та зменшувати ризики, вести журнали використання, бути прозорими й точними, а також забезпечувати людський нагляд.
Загалом усі системи ШІ та пов’язані з ними продукти повинні мати чітке маркування та прозорість у використанні. Наприклад, таке чітке маркування повинні мати штучні або змінені зображення, аудіо- та відеоконтент, так звані дипфейки.
Зазначено, що на рівні країн — членів Євросоюзу мають бути створені регуляторні органи, які сприятимуть інноваціям у сфері ШІ на рівні малих та середніх підприємств та проводитимуть відповідні тренінги для їх персоналу в поводженні з ШІ до того, як вироблені за його допомогою продукти або послуги потраплятимуть на ринок.
Уточнимо, закон ЄС про ШІ ще має бути затверджений на рівні Ради ЄС. Основі його положення набудуть чинності через 20 діб після оприлюднення в Офіційному журналі ЄС.