Unijne porozumienie w sprawie regulacji dotyczącej sztucznej inteligencji

W grudniu 2023 r. tzw. trilog, na który składa się Komisja, Rada oraz Parlament Unii Europejskiej, osiągnął wstępne porozumienie w sprawie projektu tzw. Artificial Intelligence Act, tj. „Rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji”. Historyczne porozumienie zakłada uwzględnienie dwóch aspektów – tempa rozwoju sztucznej inteligencji oraz ograniczeń mających na celu zapobieganie jej nadużyciom.

Zawarte porozumienie otwiera drogę do możliwego wejścia tego aktu w życie już w pierwszej połowie 2024 r.

Cele i zakres regulacji

Projektowane rozporządzenie zakłada, że systemy sztucznej inteligencji, które są wprowadzane na europejski rynek oraz używane na terytorium państw członkowskich Unii Europejskiej, muszą spełniać kryteria bezpieczeństwa oraz być zgodne z podstawowymi prawami i wartościami wspólnoty. Celem regulacji jest również wspieranie inwestycji i innowacji w obszarze sztucznej inteligencji w Europie.

Poza zakresem regulacji znajdują się obszary związane z bezpieczeństwem narodowym państw członkowskich UE. Dodatkowo przyjęto, że projektowane rozporządzenie nie będzie dotyczyć systemów AI wykorzystywanych wyłącznie do celów badawczo-rozwojowych.

Nowe elementy porozumienia

Nowe przepisy przede wszystkim precyzują obowiązki dostawców i użytkowników oraz dostosowują je do prezentowanego poziomu ryzyka.

Kluczowe nowe elementy zawarte w projektowanym rozporządzeniu obejmują m.in.:

1. wprowadzenie regulacji dotyczących modeli sztucznej inteligencji o ogólnym przeznaczeniu, które w przyszłości mogą generować ryzyko systemowe, oraz systemów sztucznej inteligencji o wysokim ryzyku;
2. modyfikację systemu zarządzania, zakładającą uprawnienia wykonawcze na poziomie Unii Europejskiej;
3. poszerzenie listy zakazów (przy jednoczesnej możliwości korzystania z zdalnej identyfikacji biometrycznej przez organy ścigania w przestrzeniach publicznych, jednak z dodatkowymi środkami bezpieczeństwa);
4. wprowadzenie zobowiązania dla operatorów systemów o wysokim ryzyku do przeprowadzenia oceny wpływu poszczególnych rozwiązań na prawa podstawowe przed wprowadzeniem ich do użytku, co stanowi dodatkową warstwę ochrony praw jednostki.

Organy Unii wypracowały także porozumienie co do ustalenia horyzontalnych poziomów ochrony tj. wytycznych pozwalających określić, czy dany system charakteryzuje niskie, ograniczone czy wysokie ryzyka, a także przypisania im odpowiednich obowiązków i wymogów. Ustalono, że systemy wysokiego ryzyka podlegałyby bardziej rygorystycznym (lecz technicznie wykonalnym) wymogom i obowiązkom, takim jak: zapewnienie ludzkiej kontroli nad maszyną, sporządzenie dokumentacji technicznej lub wdrożenie systemu zarządzania ryzykiem.

Co ważne, projektowane regulacje wprowadzają zakazy dotyczące takich praktyk jak: manipulacja kognitywna zachowaniem, niecelowane pozyskiwanie obrazów twarzy z Internetu lub kamer przemysłowych, rozpoznawanie emocji w miejscu pracy i placówkach edukacyjnych, punktowanie zachowań społecznych, kategoryzacja biometryczna pozwalająca wywnioskować dane wrażliwe, np. orientację seksualną czy przekonania religijne, oraz niektóre przypadki prognozowania kryminologicznego wobec konkretnych osób.