AI Act

Do tej pory obowiązki wynikające z unijnego prawa o sztucznej inteligencji brzmiały jak problem korporacji z Doliny Krzemowej. To się kończy w najbliższą niedzielę. Od 2 sierpnia 2026 roku każdy, kto zawodowo publikuje treści stworzone lub przerobione przez AI — od influencerki promującej kosmetyki, przez właściciela jednoosobowego warsztatu, po agencję reklamową i sklep z chatbotem — ma nowy obowiązek: musi jasno oznaczyć, że to sztuczna inteligencja. Za jego zignorowanie grozi kara sięgająca 15 milionów euro. Tłumaczymy prostym językiem, co dokładnie się zmienia, czym naprawdę jest „deepfake" w rozumieniu nowych przepisów i jak przygotować się w kilka minut — z komentarzem radcy prawnego Katarzyny Załęskiej.

Kamera monitoringu może jedynie nagrywać obraz. Może również korzystać ze sztucznej inteligencji, która szuka porzuconego bagażu albo liczy ludzi. Największa ingerencja zaczyna się jednak wtedy, gdy system analizuje twarze przechodniów i porównuje je z bazą danych. AI Act wprowadza w tym obszarze jedne z najostrzejszych ograniczeń. Przepisy zakazują części praktyk biometrycznych, a rozpoznawanie twarzy w czasie rzeczywistym przez organy ścigania dopuszczają tylko w szczególnych sytuacjach.

Nie każdy błąd sztucznej inteligencji będzie incydentem wymagającym zgłoszenia organom. AI Act wyznacza jednak granicę, po której problem nie może zostać potraktowany wyłącznie jako wewnętrzna awaria techniczna. Jeżeli działanie lub wadliwe funkcjonowanie systemu AI prowadzi bezpośrednio albo pośrednio do śmierci, poważnego uszczerbku na zdrowiu, poważnego naruszenia praw podstawowych, znacznej szkody w mieniu lub środowisku albo poważnego i nieodwracalnego zakłócenia infrastruktury krytycznej, uruchamiany jest szczególny mechanizm raportowania.

Pracownik kopiuje fragment umowy od prywatnego chatbota, analizuje dane klienta za pomocą bezpłatnego narzędzia AI albo zakłada konto w aplikacji, o której nie wie dział IT. Tak powstaje shadow AI – niekontrolowane wykorzystanie sztucznej inteligencji poza zatwierdzonym środowiskiem firmy. Problem nie sprowadza się do złamania wewnętrznego regulaminu. Organizacja może stracić kontrolę nad danymi, sposobem podejmowania decyzji i narzędziami rzeczywiście wykorzystywanymi do pracy.

Firmy korzystające z systemów sztucznej inteligencji wysokiego ryzyka nie będą mogły sprowadzić nadzoru człowieka do formalnego potwierdzania decyzji algorytmu. AI Act wymaga, aby osoba nadzorująca system miała odpowiednie kompetencje, szkolenie, uprawnienia i wsparcie. Musi także rozumieć ograniczenia AI, potrafić zakwestionować wynik, odrzucić rekomendację, zmienić decyzję, a w odpowiednich sytuacjach przerwać działanie systemu.