Kamera monitoringu może jedynie nagrywać obraz. Może również korzystać ze sztucznej inteligencji, która szuka porzuconego bagażu albo liczy ludzi. Największa ingerencja zaczyna się jednak wtedy, gdy system analizuje twarze przechodniów i porównuje je z bazą danych. AI Act wprowadza w tym obszarze jedne z najostrzejszych ograniczeń. Przepisy zakazują części praktyk biometrycznych, a rozpoznawanie twarzy w czasie rzeczywistym przez organy ścigania dopuszczają tylko w szczególnych sytuacjach.
Widok kamery na ulicy coraz częściej wywołuje pytanie: czy system rozpoznaje twarze?
Odpowiedź nie musi być twierdząca. Tradycyjny monitoring może po prostu rejestrować obraz. Materiał jest później oglądany przez człowieka, np. po przestępstwie.
Bardziej zaawansowane rozwiązanie może automatycznie wykrywać ruch, liczyć osoby albo alarmować o wejściu do chronionej strefy.
Jeszcze innym rodzajem technologii jest identyfikacja biometryczna. W tym przypadku system wykorzystuje cechy człowieka po to, aby ustalić lub zweryfikować jego tożsamość.
AI Act wyraźnie rozróżnia te przypadki. To ważne, ponieważ używanie słowa „monitoring” wobec każdego rozwiązania zaciera skalę ingerencji.
Nagranie tłumu to jedno. Automatyczne sprawdzanie twarzy każdej osoby w tłumie to coś zupełnie innego.
Twarz nie jest zwykłym "hasłem"
Dane biometryczne są szczególnie wrażliwe z bardzo praktycznego powodu. Hasło można zmienić. Kartę płatniczą można zastrzec. Numer telefonu można zastąpić. Cech fizycznych człowieka nie można w prosty sposób wymienić po wycieku danych.
Systemy biometryczne mogą wykorzystywać m.in. twarz, odciski palców, tęczówkę oka lub inne cechy pozwalające rozpoznać osobę.
AI Act traktuje biometrię jako jeden z obszarów wymagających szczególnej ostrożności. Część zastosowań jest zakazana. Inne, o ile nie są objęte zakazem, mogą być klasyfikowane jako wysokiego ryzyka..
AI Act zakazał części praktyk
Najbardziej szkodliwe zastosowania AI nie czekają na pełne wdrożenie całego systemu regulacyjnego.
Zakazy określonych praktyk zaczęły być stosowane 2 lutego 2025 r. Komisja Europejska wymienia wśród nich m.in. nieukierunkowane pobieranie zdjęć twarzy z internetu lub nagrań monitoringu w celu budowania bądź rozszerzania baz rozpoznawania twarzy.
Zakazane są również określone systemy biometrycznej kategoryzacji służące do wyciągania wniosków o szczególnie wrażliwych cechach człowieka.
Ograniczenia dotyczą także rozpoznawania emocji w miejscach pracy i szkołach, z wyjątkami przewidzianymi w przepisach, np. dla niektórych zastosowań medycznych lub związanych z bezpieczeństwem.
Komisja opublikowała wytyczne dotyczące praktyk zakazanych, aby wyjaśnić sposób stosowania tych regulacji.
Rozpoznawanie twarzy na żywo. Tu granica jest najostrzejsza
Największe kontrowersje dotyczą zdalnej identyfikacji biometrycznej w czasie rzeczywistym w publicznie dostępnej przestrzeni.
Wyobraźmy sobie kamerę na dużym dworcu. Obiektyw rejestruje setki ludzi. System pobiera obraz twarzy i automatycznie porównuje go z bazą poszukiwanych osób. Analiza odbywa się na bieżąco.
To właśnie ten rodzaj technologii stwarza wyjątkowe ryzyko masowej obserwacji.
AI Act zasadniczo ogranicza używanie zdalnej identyfikacji biometrycznej w czasie rzeczywistym przez organy ścigania w miejscach publicznie dostępnych. Rozporządzenie przewiduje jednak wąskie wyjątki odnoszące się do szczególnie poważnych sytuacji.
Nie jest więc prawdą ani stwierdzenie, że „UE całkowicie zakazała służbom rozpoznawania twarzy”, ani teza, że „policja może swobodnie skanować wszystkich przechodniów”. Regulacja znajduje się pomiędzy tymi skrajnościami.
Poszukiwanie ofiary i poważne zagrożenie to szczególne przypadki
Wyjątki przewidziane w AI Act dotyczą szczególnych celów. Mogą wiązać się z poszukiwaniem określonych ofiar, zapobieganiem konkretnemu i poważnemu zagrożeniu dla życia lub bezpieczeństwa oraz ściganiem sprawców określonych poważnych przestępstw.
Samo powołanie się na bezpieczeństwo publiczne nie powinno jednak automatycznie otwierać drogi do powszechnego rozpoznawania twarzy.
Znaczenie mają konieczność, proporcjonalność, zakres czasowy i terytorialny oraz procedury wymagane przez przepisy.
To fundamentalna różnica między celem: „znajdźmy konkretną osobę w związku z wyjątkowo poważnym zagrożeniem” a celem: „sprawdzajmy wszystkich na wszelki wypadek”.
Szkoła i pracodawca nie powinni zaglądać w emocje
Szczególne kontrowersje wywołują systemy próbujące rozpoznawać emocje.
Pracodawca mógłby teoretycznie analizować twarz pracownika podczas rozmowy i oceniać, czy jest znudzony, zestresowany albo zaangażowany. Szkoła mogłaby próbować ustalać, czy uczeń uważa na lekcji.
Problem polega nie tylko na prywatności. Poważne wątpliwości dotyczą wiarygodności takich wniosków.
Ten sam wyraz twarzy może mieć wiele przyczyn. Człowiek może wyglądać na zmęczonego, ponieważ jest chory, zestresowany albo po prostu ma określoną mimikę.
AI Act objął rozpoznawanie emocji w miejscu pracy i placówkach edukacyjnych zakazem, z ograniczonymi wyjątkami wynikającymi z przepisów.
Ma to szczególne znaczenie ze względu na nierównowagę sił. Pracownik może obawiać się odmowy udziału w monitoringu pracodawcy. Uczeń nie ma swobody właściwej dorosłemu konsumentowi.
Biometryczna kategoryzacja człowieka. UE wyznaczyła twardą granicę
Jeszcze poważniejsze zagrożenie powstaje wtedy, gdy AI próbuje na podstawie cech biometrycznych wnioskować o szczególnie wrażliwych cechach osoby.
System mógłby próbować klasyfikować ludzi według poglądów politycznych, przekonań religijnych lub innych kategorii szczególnie chronionych.
AI Act zakazuje określonych praktyk tego rodzaju.
Chodzi o uniknięcie świata, w którym kamera nie tylko rozpoznaje człowieka, ale próbuje przypisać mu poglądy i cechy, a następnie podejmuje wobec niego działania na tej podstawie.
Co może zrobić obywatel poddany działaniu AI
AI Act przewiduje ramy nadzoru i mechanizmy dotyczące osób, na które wpływają systemy AI. Polska pracuje nad krajowym systemem instytucjonalnym.
Rada Ministrów przyjęła 31 marca 2026 r. projekt ustawy o systemach sztucznej inteligencji. Projekt przewiduje powstanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która ma odpowiadać za część zadań nadzorczych, przyjmowanie skarg i zgłoszeń dotyczących poważnych incydentów. Projekt trafił do Sejmu jako druk nr 2443.
Trzeba jednak oddzielić dwie kwestie. AI Act jest rozporządzeniem unijnym obowiązującym bezpośrednio według własnego harmonogramu. Polska ustawa ma natomiast stworzyć krajowe rozwiązania dotyczące m.in. organów i procedur nadzoru.
W przypadku systemów przetwarzających dane osobowe znaczenie zachowuje także RODO oraz kompetencje UODO. Polski organ zwracał uwagę na konieczność precyzyjnego ułożenia relacji między nadzorem nad AI a nadzorem nad ochroną danych osobowych.
Bezpieczeństwo i prywatność nie są prostym wyborem
Debata o rozpoznawaniu twarzy często jest przedstawiana zbyt prosto.
Z jednej strony pojawia się argument: technologia może pomóc znaleźć zaginione dziecko albo niebezpiecznego sprawcę. Z drugiej: powszechna identyfikacja biometryczna może stworzyć infrastrukturę stałego nadzoru. Oba argumenty dotyczą realnych wartości.
Dlatego AI Act nie sprowadza się do jednego hasła „zakazać” lub „pozwolić”. W najbardziej niebezpiecznych zastosowaniach wprowadza zakazy. W innych ustanawia szczególne warunki.
Dla przeciętnego obywatela podstawowe rozróżnienie jest proste. Kamera, która nagrywa plac, nie robi tego samego co system, który rozpoznaje każdą znajdującą się na nim osobę.
Q&A. Rozpoznawanie twarzy, kamery i AI Act
Czy każda kamera używa sztucznej inteligencji?
Nie. Wiele kamer jedynie rejestruje obraz.
Czy każda kamera z AI rozpoznaje twarze?
Nie. AI może np. wykrywać obiekty, liczyć ludzi lub analizować ruch bez ustalania tożsamości.
Czy AI Act całkowicie zakazuje rozpoznawania twarzy?
Nie. Zakazuje określonych praktyk i bardzo mocno ogranicza niektóre zastosowania, zwłaszcza zdalną identyfikację biometryczną w czasie rzeczywistym przez organy ścigania w przestrzeni publicznej.
Czy policja może użyć takiego systemu?
W ściśle określonych sytuacjach przewidzianych prawem mogą istnieć wyjątki. Nie oznacza to swobodnej zgody na stałe identyfikowanie wszystkich przechodniów.
Czy można budować bazę twarzy ze zdjęć pobranych z internetu?
AI Act zakazuje nieukierunkowanego pobierania obrazów twarzy z internetu lub monitoringu w celu tworzenia bądź rozszerzania baz rozpoznawania twarzy.
Czy pracodawca może analizować emocje pracownika za pomocą AI?
AI Act zakazuje określonego używania systemów rozpoznawania emocji w miejscu pracy, z wyjątkami określonymi w przepisach.
Czy szkoła może sprawdzać za pomocą kamery, czy uczeń jest skupiony?
Systemy rozpoznawania emocji w placówkach edukacyjnych są objęte zakazem, z ograniczonymi wyjątkami wynikającymi z regulacji.
Gdzie w Polsce będzie można złożyć skargę?
Polski system instytucjonalny jest tworzony w związku z krajową ustawą wdrażającą mechanizmy nadzoru AI Act. Projekt ustawy jest w procesie legislacyjnym i przewiduje nową Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.
Źródła:
- Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689.
- Komisja Europejska, informacje o zakazanych praktykach AI.
- Komisja Europejska, informacje o systemach wysokiego ryzyka i biometrii.
- Ministerstwo Cyfryzacji i Kancelaria Prezesa Rady Ministrów, informacje o polskim projekcie ustawy o systemach sztucznej inteligencji.
- Sejm RP, rządowy projekt ustawy o systemach sztucznej inteligencji, druk nr 2443.
- Urząd Ochrony Danych Osobowych, uwagi dotyczące nadzoru nad systemami AI przetwarzającymi dane osobowe.
Materiał chroniony prawem autorskim - wszelkie prawa zastrzeżone.
Dalsze rozpowszechnianie artykułu za zgodą wydawcy INFOR PL S.A. Kup licencję.
Wpisz adres e-mail wybranej osoby, a my wyślemy jej bezpłatny dostęp do tego artykułu