Pracownik sam uruchomił AI? Problem może mieć cała firma

Skala zjawiska jest znaczna. W globalnym badaniu Microsoft i LinkedIn 78 proc. użytkowników AI deklarowało korzystanie w pracy z własnych narzędzi sztucznej inteligencji. Z kolei badanie IBM dotyczące naruszeń danych z 2025 r. wskazało na poważną lukę między tempem wdrażania AI a poziomem kontroli i zarządzania tymi rozwiązaniami.

Shadow AI poza kontrolą firmy

Shadow AI obejmuje narzędzia sztucznej inteligencji wykorzystywane bez wiedzy lub zgody osób odpowiedzialnych w organizacji za bezpieczeństwo, technologię i zgodność z prawem.

Może to być prywatne konto w popularnym chatbocie, aplikacja do automatycznego sporządzania notatek ze spotkań, generator dokumentów, narzędzie analizujące arkusze kalkulacyjne lub rozszerzenie przeglądarki. Część takich rozwiązań jest bezpłatna i można uruchomić je w ciągu kilku minut.

Właśnie łatwość dostępu odróżnia shadow AI od wcześniejszego problemu nieautoryzowanego oprogramowania. Pracownik nie musi instalować skomplikowanego programu ani uzyskiwać uprawnień administratora. Często wystarczy przeglądarka i prywatny adres e-mail.

Firma może więc oficjalnie korzystać z jednego zatwierdzonego systemu AI, podczas gdy pracownicy używają równolegle wielu innych narzędzi. Z punktu widzenia zarządu takie rozwiązania mogą być niewidoczne aż do chwili wystąpienia problemu.

Dane firmy trafiają do nieautoryzowanego AI

Najbardziej bezpośrednie ryzyko pojawia się w chwili wpisania danych służbowych do zewnętrznego systemu. Pracownik może wkleić projekt umowy, dane klienta, kod źródłowy, informacje finansowe, wewnętrzną korespondencję lub fragment dokumentacji produktu.

Nie musi działać w złej wierze. Celem może być skrócenie tekstu, przygotowanie odpowiedzi albo znalezienie błędu. Dla firmy kluczowe jest jednak to, że dane opuszczają kontrolowane środowisko i trafiają do narzędzia, którego warunków działania organizacja mogła nigdy nie przeanalizować.

Nie wiadomo wtedy, gdzie dane są przetwarzane, jak długo są przechowywane, kto może mieć do nich dostęp i czy mogą być wykorzystane do dalszego rozwoju usługi. Odpowiedź zależy od konkretnego narzędzia, jego wersji, umowy i ustawień. Problem shadow AI polega właśnie na tym, że firma często nie zna nawet odpowiedzi na pytanie, z jakiego systemu skorzystał pracownik.

Według IBM 13 proc. badanych organizacji zgłosiło naruszenia dotyczące modeli lub aplikacji AI, a kolejne 8 proc. nie wiedziało, czy taki incydent miał miejsce. Wśród organizacji, które doświadczyły naruszenia związanego z AI, 97 proc. nie miało właściwych mechanizmów kontroli dostępu do tych systemów. IBM podał również, że 60 proc. incydentów związanych z AI doprowadziło do naruszenia danych, a 31 proc. do zakłóceń operacyjnych.

AI Act nie kończy się na liście zatwierdzonych narzędzi

AI Act nie zawiera jednego przepisu zatytułowanego „zakaz shadow AI”. Nie oznacza to jednak, że niekontrolowane korzystanie z narzędzi pozostaje bez znaczenia dla obowiązków organizacji.

Rozporządzenie obejmuje różne role uczestników rynku AI, a obowiązki zależą między innymi od rodzaju systemu, sposobu jego użycia i tego, kto sprawuje nad nim kontrolę. W przypadku systemów wysokiego ryzyka podmiot stosujący ma używać rozwiązania zgodnie z instrukcją, zapewnić odpowiedni nadzór człowieka oraz monitorować działanie systemu.

Trudno realizować te obowiązki wobec narzędzia, o którego istnieniu firma nie wie. Jeszcze większy problem powstaje wtedy, gdy nieautoryzowane AI zaczyna rzeczywiście wpływać na decyzje dotyczące ludzi lub kluczowych procesów.

Przykładem może być sytuacja, w której pracownik bez wiedzy pracodawcy wykorzystuje publiczny model do oceny kandydatów, porządkowania zgłoszeń klientów albo tworzenia rekomendacji, na podstawie których podejmowane są decyzje. Z punktu widzenia organizacji nie jest już istotne wyłącznie to, że pracownik chciał szybciej wykonać zadanie. Trzeba ustalić, jaką rolę system odgrywał w rzeczywistym procesie.

Obowiązek kompetencji w zakresie AI już obowiązuje

Od 2 lutego 2025 r. stosowany jest art. 4 AI Act dotyczący kompetencji w zakresie AI. Dostawcy i podmioty stosujące systemy AI mają podejmować działania zapewniające odpowiedni poziom wiedzy i umiejętności osób zajmujących się obsługą oraz wykorzystaniem tych systemów.

Zakres działań powinien uwzględniać wiedzę techniczną, doświadczenie i wykształcenie personelu, a także kontekst użycia AI oraz osoby, wobec których systemy są stosowane.

W praktyce samo wysłanie pracownikom wiadomości z zakazem korzystania z publicznych chatbotów może nie rozwiązać problemu. Organizacja powinna wiedzieć, do jakich zadań pracownicy chcą używać AI, jakie ryzyka się z tym wiążą i jakie narzędzia mogą stosować bezpiecznie.

Brak legalnej, wygodnej alternatywy często sprzyja powstawaniu shadow AI. Jeżeli zatwierdzony system jest trudno dostępny lub nie odpowiada potrzebom zespołu, pracownicy mogą szukać własnych rozwiązań.

Zakaz używania AI nie wystarczy

Firma powinna przede wszystkim ustalić, gdzie AI jest już wykorzystywana. Audyt nie powinien ograniczać się do systemów zakupionych przez dział IT. Znaczenie mają również aplikacje internetowe, prywatne konta, rozszerzenia przeglądarek i funkcje AI wbudowane w inne usługi.

Kolejnym krokiem jest klasyfikacja danych. Pracownik musi wiedzieć, jakich informacji nie wolno przekazywać do zewnętrznych narzędzi oraz które systemy zostały dopuszczone do pracy z określonymi kategoriami danych.

Potrzebne są również jasne zasady dotyczące odpowiedzialności za wynik. Tekst wygenerowany przez AI nie powinien trafiać automatycznie do klienta, a rekomendacja systemu nie może zastępować wymaganej weryfikacji tylko dlatego, że narzędzie działa szybko i przekonująco.

Najskuteczniejsza polityka nie sprowadza się więc do całkowitego zakazu. Musi wskazywać, które narzędzia są dozwolone, do jakich zadań, z jakimi danymi i pod czyją kontrolą.

Shadow AI jako problem zarządu, a nie tylko działu IT

Nieautoryzowane AI może dotyczyć bezpieczeństwa informacji, ochrony danych, tajemnicy przedsiębiorstwa, praw autorskich, jakości decyzji i zgodności z regulacjami. Dlatego nie jest wyłącznie technicznym problemem administratorów.

Zarząd powinien wiedzieć, jakie systemy są używane do istotnych procesów i kto zatwierdza ich zastosowanie. W przeciwnym razie może powstać rozbieżność między oficjalną dokumentacją a rzeczywistym sposobem działania organizacji.

Firma może mieć rozbudowaną politykę AI, a jednocześnie wykonywać część zadań przy użyciu narzędzi, których nikt nie skontrolował. W takiej sytuacji samo istnienie regulaminu nie daje pełnej kontroli.

Źródła:

• Rozporządzenie Parlamentu Europejskiego i Rady UE 2024/1689, w szczególności art. 3, art. 4 i art. 26.
• Microsoft i LinkedIn, Work Trend Index 2024, badanie 31 tys. osób w 31 państwach.
• IBM, Cost of a Data Breach Report 2025, dane dotyczące naruszeń związanych z AI i kontroli dostępu.
• IBM, materiały dotyczące shadow AI i niekontrolowanych źródeł danych.
• ENISA, Threat Landscape 2025, analiza ryzyka wynikającego z integracji systemów AI ze środowiskiem przedsiębiorstw.