Prezes Urzędu Ochrony Danych Osobowych zapytał Ministerstwo Rodziny, Pracy i Polityki Społecznej, czy rząd planuje wprowadzenie przepisów chroniących kandydatów do pracy przed dyskryminacją ze strony algorytmów - tzw. dyskryminacja algorytmiczna. To sygnał, że luka między możliwościami sztucznej inteligencji a polskim prawem pracy robi się coraz większa.
Dyskryminacja algorytmiczna: czy polskie prawo nadąży za sztuczną inteligencją w rekrutacji? Czym jest dyskryminacja algorytmiczna?
Sztuczna inteligencja używana w rekrutacji potrafi w kilka sekund przeanalizować setki dokumentów, nagrań wideo czy profili w mediach społecznościowych. Problem polega na tym, że system uczy się na danych historycznych – a te często zawierają ukryte uprzedzenia. Jeśli w przeszłości firma rzadko zatrudniała kobiety na stanowiska techniczne, algorytm może „wyciągnąć" z danych wniosek, że mężczyźni są lepszymi kandydatami. Efekt? Formalnie neutralne narzędzie selekcyjne faktycznie ogranicza szanse określonych grup.
Do tego dochodzi kwestia zakresu danych. Kodeks pracy wyraźnie mówi, jakich informacji pracodawca może żądać od kandydata (art. 22 zn. 1 KP). Tymczasem nowoczesne systemy AI analizują znacznie więcej – mogą wnioskować o stanie zdrowia, orientacji seksualnej czy przekonaniach politycznych na podstawie pozornie "niewinnych danych", takich jak sposób mówienia, ton głosu czy aktywność w sieci.
Dyskryminacja algorytmiczna: czy polskie prawo nadąży za sztuczną inteligencją w rekrutacji? Co dziś chroni kandydata?
Polskie prawo nie jest bezbronne, ale ochrona jest rozproszona w kilku aktach prawnych. Kandydat i pracownik mogą dziś korzystać z trzech filarów ochrony:
- Kodeks pracy – gwarantuje równe traktowanie (art. 18 zn. 3a–18 zn. 3e KP) i ogranicza zakres danych, jakich może żądać pracodawca (art. 22 zn. 1 KP).
- RODO – daje prawo do informacji, sprzeciwu wobec profilowania i – co kluczowe – prawo do tego, by decyzja o zatrudnieniu nie była podejmowana wyłącznie przez maszynę (art. 22 RODO).
- Akt w sprawie sztucznej inteligencji (AI Act) – kwalifikuje systemy rekrutacyjne jako AI wysokiego ryzyka, co nakłada na ich dostawców i użytkowników szereg obowiązków dotyczących przejrzystości, nadzoru i bezpieczeństwa.
Żaden z tych aktów nie odpowiada jednak wprost na pytanie: co dokładnie wolno pracodawcy, który wdraża algorytm do rekrutacji?
Czego konkretnie oczekuje Prezes UODO?
W piśmie do Resortu Pracy Prezes UODO nie przedstawił gotowego projektu ustawy, lecz listę zagadnień, które powinny znaleźć się w ewentualnej regulacji. Wśród najważniejszych postulatów znalazły się:
- Przejrzystość – kandydat musi wiedzieć, że w procesie rekrutacji bierze udział algorytm, i rozumieć, na jakiej podstawie system podejmuje decyzje.
- Nadzór człowieka – żadna istotna decyzja o zatrudnieniu nie może zapaść wyłącznie maszynowo. Człowiek musi mieć realną możliwość weryfikacji wyniku.
- Prawo do wyjaśnienia – osoba odrzucona powinna móc dowiedzieć się, dlaczego algorytm ją ocenił negatywnie.
- Ograniczenie zakresu danych – system nie powinien analizować informacji wykraczających poza katalog z art. 22 zn. 1 KP, w tym danych szczególnych kategorii (zdrowie, wyznanie, orientacja).
- Ocena ryzyka przed wdrożeniem – zarówno ocena skutków dla ochrony danych (DPIA), jak i ocena wpływu na prawa podstawowe powinny być obowiązkowym elementem każdego wdrożenia.
Jak mogłaby wyglądać taka regulacja? Przykład z sektora bankowego
UODO w swoim piśmie sięgnął po konkretny wzorzec – art. 105a ust. 1a Prawa bankowego:
1a. Banki, inne instytucje ustawowo upoważnione do udzielania kredytów, instytucje pożyczkowe oraz podmioty, o których mowa w art. 59d ustawy z dnia 12 maja 2011 r. o kredycie konsumenckim, a także instytucje utworzone na podstawie art. 105 ust. 4, mogą w celu oceny zdolności kredytowej i analizy ryzyka kredytowego podejmować decyzje, opierając się wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, danych osobowych – również stanowiących tajemnicę bankową – pod warunkiem zapewnienia osobie, której dotyczy decyzja podejmowana w sposób zautomatyzowany, prawa do otrzymania stosownych wyjaśnień co do podstaw podjętej decyzji, do uzyskania interwencji ludzkiej w celu podjęcia ponownej decyzji oraz do wyrażenia własnego stanowiska.
Przepis ten reguluje automatyczne podejmowanie decyzji wobec klientów banków i można go uznać za punkt odniesienia dla przyszłych rozwiązań w prawie pracy. Prezes UODO zastrzega, że nie postuluje mechanicznego kopiowania tego przepisu do Kodeksu pracy. Chodzi raczej o przeniesienie idei zabezpieczeń: przejrzystości, wyjaśnialności i ludzkiego nadzoru. Chodzi o taki schemat działania:
- Określenie celu przetwarzania: konkretne cele wskazane w ustawie i wskazanie celów wykorzystania AI w rekrutacji
- Prawo do wyjaśnienia decyzji: kandydat ma prawo zrozumieć ocenę algorytmu
- Interwencja człowieka: obowiązek rozpatrzenia stanowiska pracownika, musi istnieć realny nadzór człowieka w procesie rekrutacji
- Prawo do przedstawienia własnego stanowiska: możliwość zakwestionowania wyniku rekrutacji i odwołania się
- Zakres danych: ograniczony ustawowo, dane mieszczące się w katalogu z art. 22 zn. 1 KP.
Dlaczego AI w rekrutacji to system „wysokiego ryzyka"?
Unijny akt w sprawie sztucznej inteligencji (AI Act) z 2024 r. wprost zalicza systemy wykorzystywane do rekrutacji i selekcji kandydatów do kategorii AI wysokiego ryzyka. Istnieją konkretne obowiązki, które dotyczą zarówno dostawców oprogramowania, jak i pracodawców, którzy je stosują. Obejmują one m.in.: zarządzanie ryzykiem w całym cyklu życia systemu, dokumentację techniczną i rejestrowanie zdarzeń, przejrzystość działania, obowiązkowy nadzór człowieka, wymagania dotyczące dokładności, solidności i cyberbezpieczeństwa.
Ważne
Dodatkowo art. 86 AI Act daje każdej osobie prawo do uzyskania jasnego i merytorycznego wyjaśnienia, jeśli decyzja dotycząca jej sytuacji prawnej została podjęta na podstawie wyników systemu wysokiego ryzyka. Te wymogi są już wiążące wprost w polskim porządku prawnym, jednak brak krajowych przepisów proceduralnych sprawia, że ich praktyczne stosowanie w rekrutacji pozostaje niepewne.
Dyskryminacja algorytmiczna: czy polskie prawo nadąży za sztuczną inteligencją w rekrutacji? Co powinno poprzedzić zmianę prawa?
Zanim parlament uchwali ewentualną nowelizację Kodeksu pracy, UODO rekomenduje dwie kluczowe oceny:
- DPIA (Data Protection Impact Assessment) – klasyczna ocena skutków dla ochrony danych z art. 35 RODO, pozwalająca rozpoznać ryzyka i dobrać odpowiednie zabezpieczenia.
- FRIA (Fundamental Rights Impact Assessment) – ocena wpływu systemu AI na prawa podstawowe, o której mówi art. 27 AI Act. To instrument odrębny od DPIA, ale oba powinny się wzajemnie uzupełniać.
Bez tych analiz trudno ocenić, czy proponowane przepisy rzeczywiście ochronią kandydatów, a jednocześnie nie sparaliżują procesów rekrutacyjnych.
Wystąpienie Prezesa UODO to zapowiedź ewolucji w rekrutacji w prawie pracy. Organ nadzoru nie tworzy nowego prawa, tylko wskazuje Minister Rodziny, Pracy i Polityki Społecznej obszary, w których polskie przepisy nie nadążają za technologią. Dla pracodawców to sygnał ostrzegawczy: nawet jeśli dziś mogą sięgać po zaawansowane narzędzia selekcji, jutro mogą zostać zobowiązani do udowodnienia, że ich algorytm nie dyskryminuje, nie profiluje nadmiernie i pozwala człowiekowi zakwestionować maszynową ocenę. Dla kandydatów – obietnica, że drzwi do jawności procesu rekrutacji zostaną uchylone nieco szerzej. Pismo UODO nie nakłada na nikogo nowych obowiązków, ale wyraźnie zarysowuje kierunek, w którym powinny pójść przepisy. Czy resort pracy podejmie ten temat? Czas pokaże.
Materiał chroniony prawem autorskim - wszelkie prawa zastrzeżone.
Dalsze rozpowszechnianie artykułu za zgodą wydawcy INFOR PL S.A. Kup licencję.
Wpisz adres e-mail wybranej osoby, a my wyślemy jej bezpłatny dostęp do tego artykułu