Projekt ustawy o sztucznej inteligencji przedstawiony kilka dni temu przez Ministerstwo Cyfryzacji pokazuje kierunek przyszłego nadzoru nad AI. Technologią, która miała stanowić filar cywilizacji i gospodarki. Wyłaniający się z projektu obraz jest niejednoznaczny i może niepokoić, choć w ustawie wprowadzono rozwiązania mogące pomóc w ograniczeniu jarzma bezlitosnych urzędowych oczu. Niektóre z zapisów mogą być odebrane przez przedsiębiorców, badaczy i opinię publiczną jako łańcuch na szyi przytwierdzony do 100-kilogramowej stalowej kuli. Inne zaś mogą być uznane wręcz za łagodne.

Zgodnie z zapisami ma powstać Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Wygląda na to, że „rozwojem” będzie się zajmować głównie z nazwy – w projekcie ustawy można na ten temat znaleźć niewiele. Przykładowy zapis: „podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju”. Roczny budżet (maksymalnie 30 mln zł) skutecznie jednak ograniczy realność takich działań. Co ciekawe, konkurs na przewodniczącego ma być otwarty. To doskonałe rozwiązanie. Może też pomóc w uzasadnieniu opinii publicznej, że wybór był merytoryczny. Dokonać ma go premier, tak jak powołać zastępców. W ramach komisji ma funkcjonować Społeczna Rada do spraw Sztucznej Inteligencji. Nie ma tu otwartego konkursu, a ręce przewodniczącego mogą być przez to dodatkowo związane. Kandydatów mogą zgłaszać urzędy (np. RPO), izby gospodarcze, związki zawodowe, uczelnie wyższe. Za pracę w radzie nie przysługuje wynagrodzenie ani nawet zwrot kosztów dojazdu. To może zniechęcać chętnych spoza Warszawy.

Jakie zadania miałaby komisja?

Komisja ma proponować nowe rozwiązania prawne, a także zmiany już istniejących. W tym sensie będzie to centrum analityczne. Głównym jej zadaniem jest jednak egzekwowanie Aktu UE o AI. Każdy przedsiębiorca będzie miał możliwość zażądania od komisji interpretacji prawa lub opinii za 150 zł. Komisja będzie oceniać, czy projekt AI przedsiębiorcy zostaje zatwierdzony, jakie wiąże się z nim ryzyko itd. Niedopatrzeniem jest brak terminu, w jakim musi zostać wydana opinia. Wiadomo jednak, że w przypadku negatywnej decyzji i odwołania przedsiębiorcy komisja ma 3 miesiące na rozpatrzenie sprzeciwu. Nie wiadomo więc, jak długo zajmie cały ten proces. I jak w tej sytuacji przedsiębiorca powinien ustalać biznesplan, organizować dofinansowanie itd? Może to np. zawoalowana zachęta, by inwestować w USA, Singapurze lub w Chinach?

Komisja ma także uprawnienia kontrolne. Zatrudnienie w takim urzędzie ekspertów posiadających realną wiedzę i umiejętności w tak szybko zmieniającej się branży może być trudne. Kontrolę mogą przeprowadzać jej pracownicy, ale także eksperci zewnętrzni posiadający wiedzę specjalistyczną. Doskonałym i proprzedsiębiorczym rozwiązaniem jest to, że kontrola może się odbyć zdalnie. Gdy zajdzie potrzeba lub gdy ktoś tak zechce, to Komisja ma jednak uprawnienia do kontroli stacjonarnej, w siedzibie firmy. Ma wtedy możliwości podobne do Państwowej Inspekcji Pracy przy kontroli przestrzegania przepisów BHP. Podobnie jak PIP Komisja ds. AI ma uprawnienia do swobodnego wstępu na teren podmiotu kontrolowanego, w tym do obiektów, pomieszczeń i systemów informatycznych, w celu przeprowadzenia oględzin. Obie instytucje mogą żądać od podmiotów kontrolowanych dostępu do wszelkiego rodzaju dokumentów, w tym akt, pism, nośników danych oraz korespondencji elektronicznej, a także sporządzać z tych materiałów notatki, kopie i wyciągi. Zarówno Komisja ds. AI, jak i Państwowa Inspekcja Pracy mają prawo do żądania ustnych lub pisemnych wyjaśnień od pracowników lub przedstawicieli podmiotu oraz do zabezpieczania dokumentów niezbędnych do prowadzenia kontroli. Komisji może towarzyszyć też policja. Ryzyko administracyjnej kary pieniężnej w wysokości do 35 mln euro lub do 7 proc. całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego to kwoty ogromne, mające wywołać efekt psychologiczny.

Inaczej niż w Brukseli na poziomie UE w Polsce zdecydowano się zdublować funkcjonujące już działania nadzorcze w Urzędzie Ochrony Danych Osobowych (UODO). W konsekwencji AI w Polsce zajmować będą się dwa urzędy, bo często zwraca się uwagę na to, że Akt o AI można uznać za rozwinięcie i doprecyzowanie RODO, bo analogie są ewidentne. Wchodzi jednak nowy urząd, a co za tym idzie, przedsiębiorca czasem może być zmuszony informować o ewentualnych incydentach aż trzy urzędy: Komisję AI, UODO, a czasem nawet ministra właściwego (w zależności od branży), jeśli to incydent cyberbezpieczeństwa. Podobnie w przypadku skarg – obywatel może je złożyć do UODO i do Komisji AI.

Unijny akt o sztucznej inteligencji

Nie ma alternatywy – stworzenie ram regulacji AI oraz komisji nadzoru rynku jest wymuszone przez unijny akt o sztucznej inteligencji. Powstawanie tego prawa od początku napotkało na wiele problemów. Pierwszy projekt z KE wpłynął bez świadomości szybkich zmian wywołanych nadejściem dużych modeli językowych, jak GPT. Unijni biurokraci w ogóle nie wiedzieli, że coś takiego wchodzi, jakie ma możliwości i w jaki sposób będzie transformowało świat. Nie mogli zdawać sobie sprawy z realnych ryzyk, ale także z szans. W celu „ochrony” obywateli Parlament Europejski chciał to prawo wzmocnić. Ale ochrony przed czym? Nie wiadomo, bo skąd oni mieli o tym wiedzieć? Dopiero powstawały analizy wpływu i ryzyk, więc być może oparto się na popkulturowym ujęciu sztucznej inteligencji, na czele z „Terminatorem 2” i podobnej treści ekspertyz? Czasem wypowiadanych przed organizacje pozarządowe, a innym razem przez zatroskanych intelektualistów i badaczy, którzy dzięki temu mogli zyskać rozgłos. Tymczasem niedawno opublikowane badania od zespołu z Apple wskazują na przesadzone oceny wobec możliwości modeli AI/LLM, w szczególności kwestionuje on zdolność modeli językowych do rozumowania logicznego.

W ramach podążania za głośnymi trendami akt UE wyraża wiele obaw przed np. dezinformacją. To topowy temat od 2016 r., gdy szukamy odpowiedzi na pytania, dlaczego ludzie w taki, a nie inny sposób zagłosowali w wyborach w USA czy w referendum brexitowym. W Brukseli zrobiono standardową akcję: to, co aktualnie modne i głośne, wstawiono w wielu miejscach w powstające prawo. Nie pierwszy i nie ostatni raz, by przypomnieć owczy pęd do regulacji kryptowalut i metawersum, gdy Facebook ogłosił zamiar wprowadzania takich rozwiązań. Z rozwiązań się wycofał, a czas polityków i urzędników UE zużyty na alarmowanie i na wyprzedzające przeregulowanie zmarnowano. To osobny problem. Za każdym razem, gdy pojawia się jakaś nowa technologia i innowacja, w Brukseli na hurra wysuwa się teksty regulacji. I nie powinno to dziwić, bo urzędnicy chcą wykazać się pracą, chcą awansować. A do awansów potrzebują sukcesów, czyli np. przepychania nowych praw.

Być może także z tego powodu biznes, rozwój i badania są domeną USA i Chin, a Europie zostaje zaszczytne prawo pierwszego regulatora. Wielu polityków w Unii Europejskiej od lat na to narzeka. W USA mają rakiety kosmiczne wielokrotnego użytku, które już wkrótce tanim kosztem będą wynosić tony ładunków w kosmos. W Europie mamy zakrętki przytwierdzone do butelek, zakaz działania dla przemysłu takiego jak produkcja samochodów z silnikami spalinowymi, bo tanie elektryki będziemy mogli kupić sobie w Chinach. Oraz drogą energię elektryczną, dzięki czemu wytwarzanie czegokolwiek w Europie przestanie mieć sens, podobnie jak budowa centrów danych. Amazon i Google inwestują w budowę modułowych elektrowni atomowych (SMR), w Polsce uznano, że to technologia zbyt ryzykowna. Skąd weźmiemy prąd na to AI?

Trzeba przyznać, że w Polsce już miały miejsce naruszenia zasad dziś zakazywanych w Akcie o AI. Wystarczy przypomnieć stosowanie w kampanii wyborczej do Sejmu technologii deepfake bez wyraźnego oznaczenia. Teraz takie działania mogłyby się spotkać z konsekwencjami. Jeśli jednak tworzenie potencjalnie dysfunkcjonalnej struktury urzędniczej miałoby przewrotnie ograniczać jej działania, to niektórzy przedsiębiorcy mogą uznać to za zaletę. Niewątpliwie powody do zadowolenia może mieć też osoba przyszłego przewodniczącego – będzie miał fajną wizytówkę i wpis w CV. Jeśli jest branża, która może być zachwycona wejściem prawa nakładającego obostrzenia na AI – to są to prawnicy. ©℗

*Autor to niezależny badacz i konsultant cyberbezpieczeństwa i prywatności, autor książek „Filozofia cyberbezpieczeństwa” i „Propaganda”