Sztuczna inteligencja

Aż 69 proc. polskich pracowników korzysta w pracy z narzędzi sztucznej inteligencji, o których pojęcia nie ma firmowy dział IT. To shadow AI – jedno z największych ryzyk prawnych dla biznesu. O tym, jak zidentyfikować systemy AI i określić rolę regulacyjną organizacji, rozmawiały mecenas Martyna Rzeczkowska oraz mecenas Natalia Zawadzka (ZP Zackiewicz & Partners) podczas webinaru „AI w organizacji: identyfikacja, role i obowiązki regulacyjne”, pierwszego z cyklu trzech webinarów poświęconych AI governance.

Nie każdy błąd sztucznej inteligencji będzie incydentem wymagającym zgłoszenia organom. AI Act wyznacza jednak granicę, po której problem nie może zostać potraktowany wyłącznie jako wewnętrzna awaria techniczna. Jeżeli działanie lub wadliwe funkcjonowanie systemu AI prowadzi bezpośrednio albo pośrednio do śmierci, poważnego uszczerbku na zdrowiu, poważnego naruszenia praw podstawowych, znacznej szkody w mieniu lub środowisku albo poważnego i nieodwracalnego zakłócenia infrastruktury krytycznej, uruchamiany jest szczególny mechanizm raportowania.

Pracownik kopiuje fragment umowy od prywatnego chatbota, analizuje dane klienta za pomocą bezpłatnego narzędzia AI albo zakłada konto w aplikacji, o której nie wie dział IT. Tak powstaje shadow AI – niekontrolowane wykorzystanie sztucznej inteligencji poza zatwierdzonym środowiskiem firmy. Problem nie sprowadza się do złamania wewnętrznego regulaminu. Organizacja może stracić kontrolę nad danymi, sposobem podejmowania decyzji i narzędziami rzeczywiście wykorzystywanymi do pracy.

Firmy korzystające z systemów sztucznej inteligencji wysokiego ryzyka nie będą mogły sprowadzić nadzoru człowieka do formalnego potwierdzania decyzji algorytmu. AI Act wymaga, aby osoba nadzorująca system miała odpowiednie kompetencje, szkolenie, uprawnienia i wsparcie. Musi także rozumieć ograniczenia AI, potrafić zakwestionować wynik, odrzucić rekomendację, zmienić decyzję, a w odpowiednich sytuacjach przerwać działanie systemu.

Bruksela zmienia tempo wdrażania regulacji dotyczących sztucznej inteligencji, dostosowując harmonogram obowiązków do charakteru poszczególnych ryzyk. Zgodnie ze wstępnym porozumieniem osiągniętym 7 maja przez instytucje unijne część przepisów ma zacząć obowiązywać później, co da rynkowi więcej czasu na przygotowanie się do nowych obowiązków.

Chatboty nie tylko „halucynują”. Coraz więcej badań pokazuje, że potrafią schlebiać użytkownikom, wzmacniać urojenia i osłabiać krytyczne myślenie. Problem nie polega już wyłącznie na fałszywych odpowiedziach sztucznej inteligencji, lecz na samej relacji człowieka z maszyną.

Sejm przyjął w piątek większość poprawek Senatu do ustawy o systemach sztucznej inteligencji. Teraz trafi ona na biurko prezydenta.

Chipflacja, zwolnienia i boom inwestycyjny... Najbardziej namacalnym elementem całej dyskusji o wpływie AI na gospodarkę są potężne inwestycje w nowe moce obliczeniowe. W tej nowej rzeczywistości rynki zachowują się, jakby poza sztuczną inteligencją nie było już dziedzin wartych zainwestowania.

Naczelny Sąd Administracyjny skrytykował pełnomocnika podatnika za bezrefleksyjne wykorzystanie narzędzi sztucznej inteligencji. Zażalenie napisało AI, a prawnik nawet go nie przeczytał. Wziął tylko wynagrodzenie za usługę – wytknął sąd.

Nauczyciel może korzystać z narzędzi AI pomocniczo, ale automatyczne ocenianie uczniów przez algorytm wchodzi w obszar wysokiego ryzyka. AI Act wskazuje edukację jako jedną z dziedzin, w których sztuczna inteligencja może wpływać na dostęp do kształcenia, ocenę efektów uczenia się i dalszą ścieżkę zawodową. Oznacza to obowiązki dotyczące jakości danych, nadzoru człowieka, przejrzystości, dokumentacji i ochrony praw ucznia.

AI Act zakazuje ośmiu kategorii zastosowań sztucznej inteligencji uznanych za niedopuszczalne ze względu na ryzyko dla praw podstawowych, bezpieczeństwa i autonomii człowieka. Zakazy obowiązują od 2 lutego 2025 r. Obejmują m.in. szkodliwą manipulację, scoring społeczny, wybrane formy predykcyjnego typowania przestępczości, masowe budowanie baz rozpoznawania twarzy, rozpoznawanie emocji w pracy i szkole oraz część zastosowań biometrii.