Parlament Europejski przyjął akt o sztucznej inteligencji.
Według danych Eurobarometru 87 proc. mieszkańców Wspólnoty uważa, że Europejczycy powinni być chronieni przed nieetycznymi technologiami cyfrowymi, także wykorzystującymi AI. Takie regulacje poparli w środę europosłowie. W czasie sesji plenarnej 523 głosami przyjęli akt o sztucznej inteligencji.
AI Act ma stworzyć zasady dla wykorzystania i rozwoju sztucznej inteligencji w UE. Jego głównymi celami są ochrona praw obywateli i zapewnienie, że technologie AI są wdrażane w sposób etyczny, przejrzysty i zgodny z prawami człowieka. Opiera się ona na podejściu opartym na ryzyku. W uproszczeniu – im system sztucznej inteligencji mocniej ingeruje w swobody obywatelskie, tym mocniej będzie obwarowany. Na szczycie piramidy znajdą się te systemy, których użycie będzie w UE zupełnie zabronione.
– Akt o sztucznej inteligencji ukierunkowuje rozwój technologii w stronę, gdzie to ludzie ją kontrolują – przekonywał w czasie debaty parlamentarnej poseł Dragoș Tudorache (Renew Europe), współsprawozdawca dokumentu.
Wszystkie systemy AI używane na terenie UE będą musiały być zgodne z sześcioma podstawowymi zasadami. To m.in. przejrzystość, niedyskryminacja i sprawiedliwość, zachowanie prywatności oraz odporność na niewłaściwe zastosowanie. Większym obowiązkom będą podlegały systemy, które trafią do koszyka oznaczonego jako „wysokie ryzyko”. To m.in. narzędzia AI stosowane w takich obszarach jak: edukacja i inne usługi publiczne, zatrudnienie czy infrastruktura krytyczna.
Takie systemy będą musiały przejść m.in. ocenę zgodności z regulacjami czy monitorowanie ich działania przez regulatora. Wyłączeniom spod tych obowiązków będą podlegały tylko proste systemy, np. do obsługi dokumentów.
AI Act wprowadza także pojęcie systemów zakazanych. Ich użycie w ogóle nie będzie możliwe w Unii. Brando Benifei (S&D), drugi z europosłów odpowiedzialnych za regulację, przekonywał, że rozszerzenie tego katalogu było jednym z największych osiągnięć PE w negocjacjach z pozostałymi organami odpowiedzialnymi za prawodawstwo – Radą i Komisją Europejską.
I tak będą zabronione: ocena wiarygodności osób fizycznych, czyli tzw. social scoring, tworzenie baz danych oparte na masowym przetwarzaniu wizerunków osób fizycznych czy ocena emocji i w miejscu pracy. Co do zasady nie będzie można także prowadzić zdalnej identyfikacji biometrycznej w czasie rzeczywistym. Ustawodawca zostawił jednak trzy wyjątki: działania organów ściganie związanego z określonymi przestępstwami (np. handel ludźmi), lokalizowanie zaginionych ofiar niektórych przestępstw i zapobieganie atakom terrorystycznym. Ten ostatni wyjątek budził najwięcej kontrowersji wśród organizacji upominających się o ochronę praw człowieka – w dyskusjach argumentowano, że wyjątek zbyt szeroko otwiera drzwi organom ścigania.
Jeszcze zanim posłowie podjęli decyzję o przyjęciu AI Act, Komisja Europejska rozpoczęła poszukiwanie specjalistów do biura AI, które ma się zajmować jego wdrażaniem. Zgodnie z opublikowaną ofertą poszukuje pracowników technicznych na roczny kontrakt.
AI Act zacznie obowiązywać na przełomie maja i czerwca. Przepisy będą wchodziły w życie etapami. Do końca roku w krajach członkowskich będą musiały zakończyć działanie systemy zakazane. Po roku zaczną obowiązywać zasady dotyczące systemów AI ogólnego przeznaczenia, a cały akt będzie egzekwowalny za dwa lata. Grzywny za nieprzestrzeganie przepisów mogą wynieść do 35 mln euro lub 7 proc. światowego rocznego obrotu. ©℗