Sztuczna inteligencja

Odroczenie części obowiązków wynikających z AI Act to szansa dla nas wszystkich. Ale kupiony czas nie jest prezentem – jest kredytem. A kredyty spłaca się wspólnie albo wcale.

Aż 69 proc. polskich pracowników korzysta w pracy z narzędzi sztucznej inteligencji, o których pojęcia nie ma firmowy dział IT. To shadow AI – jedno z największych ryzyk prawnych dla biznesu. O tym, jak zidentyfikować systemy AI i określić rolę regulacyjną organizacji, rozmawiały mecenas Martyna Rzeczkowska oraz mecenas Natalia Zawadzka (ZP Zackiewicz & Partners) podczas webinaru „AI w organizacji: identyfikacja, role i obowiązki regulacyjne”, pierwszego z cyklu trzech webinarów poświęconych AI governance.

Nie każdy błąd sztucznej inteligencji będzie incydentem wymagającym zgłoszenia organom. AI Act wyznacza jednak granicę, po której problem nie może zostać potraktowany wyłącznie jako wewnętrzna awaria techniczna. Jeżeli działanie lub wadliwe funkcjonowanie systemu AI prowadzi bezpośrednio albo pośrednio do śmierci, poważnego uszczerbku na zdrowiu, poważnego naruszenia praw podstawowych, znacznej szkody w mieniu lub środowisku albo poważnego i nieodwracalnego zakłócenia infrastruktury krytycznej, uruchamiany jest szczególny mechanizm raportowania.

Pracownik kopiuje fragment umowy od prywatnego chatbota, analizuje dane klienta za pomocą bezpłatnego narzędzia AI albo zakłada konto w aplikacji, o której nie wie dział IT. Tak powstaje shadow AI – niekontrolowane wykorzystanie sztucznej inteligencji poza zatwierdzonym środowiskiem firmy. Problem nie sprowadza się do złamania wewnętrznego regulaminu. Organizacja może stracić kontrolę nad danymi, sposobem podejmowania decyzji i narzędziami rzeczywiście wykorzystywanymi do pracy.

Firmy korzystające z systemów sztucznej inteligencji wysokiego ryzyka nie będą mogły sprowadzić nadzoru człowieka do formalnego potwierdzania decyzji algorytmu. AI Act wymaga, aby osoba nadzorująca system miała odpowiednie kompetencje, szkolenie, uprawnienia i wsparcie. Musi także rozumieć ograniczenia AI, potrafić zakwestionować wynik, odrzucić rekomendację, zmienić decyzję, a w odpowiednich sytuacjach przerwać działanie systemu.

Bruksela zmienia tempo wdrażania regulacji dotyczących sztucznej inteligencji, dostosowując harmonogram obowiązków do charakteru poszczególnych ryzyk. Zgodnie ze wstępnym porozumieniem osiągniętym 7 maja przez instytucje unijne część przepisów ma zacząć obowiązywać później, co da rynkowi więcej czasu na przygotowanie się do nowych obowiązków.

Chatboty nie tylko „halucynują”. Coraz więcej badań pokazuje, że potrafią schlebiać użytkownikom, wzmacniać urojenia i osłabiać krytyczne myślenie. Problem nie polega już wyłącznie na fałszywych odpowiedziach sztucznej inteligencji, lecz na samej relacji człowieka z maszyną.

Sejm przyjął w piątek większość poprawek Senatu do ustawy o systemach sztucznej inteligencji. Teraz trafi ona na biurko prezydenta.

Chipflacja, zwolnienia i boom inwestycyjny... Najbardziej namacalnym elementem całej dyskusji o wpływie AI na gospodarkę są potężne inwestycje w nowe moce obliczeniowe. W tej nowej rzeczywistości rynki zachowują się, jakby poza sztuczną inteligencją nie było już dziedzin wartych zainwestowania.