Na początku był zachwyt: szybkie wdrożenia, nowe możliwości i obietnica, że sztuczna inteligencja zmieni sposób funkcjonowania firm. Dziś coraz wyraźniej widać jednak drugą stronę rewolucji AI. Organizacje muszą odpowiedzieć nie tylko na pytanie, co mogą zrobić dzięki sztucznej inteligencji, ale także kto odpowiada za jej błędy, gdzie trafiają dane i jak odzyskać kontrolę nad systemem.
– Odpowiedzialność zawsze będą brali użytkownicy. Należy do tego podchodzić jednak jak do narzędzia i kto używa tego narzędzia, ten ponosi odpowiedzialność – mówi Bartosz Łopiński, prezes Billennium S.A., w rozmowie z Szymonem Glonkiem w programie „Z pierwszej strony” Dziennika Gazety Prawnej.
AI bez kontroli? Firmy odkrywają problem „shadow AI”
Jednym z największych wyzwań związanych z wykorzystaniem sztucznej inteligencji w organizacjach jest brak kontroli nad tym, w jaki sposób pracownicy korzystają z dostępnych narzędzi.
Jak wskazuje Łopiński, 98 proc. incydentów związanych z AI miało być związanych z brakiem odpowiedniego governance, czyli mechanizmów nadzoru i kontroli nad wykorzystaniem sztucznej inteligencji. Problem dodatkowo komplikuje zjawisko określane jako „shadow AI”.
Chodzi o sytuację, w której firma oficjalnie wdraża określone rozwiązania AI, ale pracownicy równolegle korzystają z powszechnie dostępnych narzędzi. Są one często wygodniejsze, bardziej intuicyjne i oferują większe możliwości.
– Znalezienie kompromisu idealnego pomiędzy tym, co jest wygodne i można, a tym, czego należy przestrzegać, tutaj właśnie musimy znaleźć ten idealny, bezpieczny środek – tłumaczy prezes Billennium.
Problemem nie jest więc wyłącznie wybór odpowiedniego narzędzia. Organizacja musi wiedzieć, jakie dane są do niego wprowadzane, gdzie trafiają i co się z nimi później dzieje.
Dane to przewaga konkurencyjna
W przypadku firm technologicznych kontrola nad wykorzystaniem AI staje się szczególnie istotna. Łopiński przyznaje, że w Billennium skala korzystania ze sztucznej inteligencji okazała się większa, niż początkowo zakładano.
Firma stworzyła własny AI Governance Suite, którego zadaniem jest identyfikowanie komunikacji z dużymi modelami językowymi (LLM) i analizowanie jej w czasie rzeczywistym. System ma nie tylko wykrywać potencjalne nieprawidłowości czy wycieki danych, ale również umożliwiać odpowiednie sterowanie przepływem informacji.
To istotne nie tylko z punktu widzenia cyberbezpieczeństwa. Dane mogą być jednym z najważniejszych aktywów przedsiębiorstwa.
– Jeżeli my pozwolimy na wyciek danych, często strategicznych, często tych, które decydują o naszej przewadze konkurencyjnej, to my w tym momencie pozbywamy się najważniejszego asetu, który mamy – podkreśla Łopiński.
Jego zdaniem suwerenność technologiczna nie powinna oznaczać odcinania się od światowych rozwiązań. Chodzi raczej o świadome decydowanie, które dane pozostają w organizacji i w jaki sposób są wykorzystywane.
Nadchodzi trzecia fala AI
Według prezesa Billennium rozwój sztucznej inteligencji można dziś podzielić na kolejne etapy.
Pierwszym było zachłyśnięcie się możliwościami generatywnej AI i wykorzystywanie jej w najprostszej formie. Drugim etapem jest „agentyzacja”, czyli przejście od generowania tekstu czy odpowiedzi do wykonywania przez AI konkretnych zadań i działań.
Trzecia fala ma polegać na opanowaniu i zorkiestrowaniu całego ekosystemu AI.
– Trzecia fala to będzie umiejętne zapanowanie nad tym wszystkim i zorkiestrowanie tego w sposób bezpieczny, zgodny z przepisami – przewiduje Łopiński.
Co ważne, jego zdaniem bezpieczeństwo nie musi oznaczać ograniczenia innowacyjności. Wręcz przeciwnie. Dobrze zaprojektowany system kontroli może dawać firmom większą odwagę w eksperymentowaniu z nowymi technologiami.
Czy człowiek rzeczywiście kontroluje AI?
Jednym z kluczowych pytań pozostaje rola człowieka. Przepisy dotyczące sztucznej inteligencji mocno akcentują potrzebę ludzkiego nadzoru, ale samo pozostawienie człowieka „w pętli” nie gwarantuje jeszcze bezpieczeństwa.
Problemem może być bowiem nadmierne zaufanie do systemu.
Łopiński zwraca uwagę na mechanizm znany z innych dziedzin, w których człowiek przyzwyczaja się do tego, że technologia działa poprawnie. Jeżeli przez długi czas otrzymuje prawidłowe wyniki, może w pewnym momencie przestać wystarczająco dokładnie sprawdzać kolejne.
– Błędy zaczynają się kumulować. I w pewnym momencie ta wiara w to, że już ktoś sprawdził, może spowodować, że człowiek przegapi rozwiązanie – mówi.
Dlatego, jego zdaniem, w przyszłości jednym ze sposobów ograniczania błędów AI może być wykorzystanie kolejnych systemów AI do kontroli pierwszego systemu. Taki nadzór powinien być wielowarstwowy i oparty na niezależnych mechanizmach kontrolnych.
AI wymaga bramek kontrolnych, a nie tylko procedur
Tradycyjne podejście do technologii zakładało, że można stworzyć zestaw procedur opisujących konkretne działania. W przypadku sztucznej inteligencji – zdaniem Łopińskiego – takie podejście może być niewystarczające.
AI jest bowiem technologią niedeterministyczną. Nie zawsze daje dokładnie ten sam rezultat, nawet jeśli użytkownik oczekuje podobnego działania.
Dlatego organizacje powinny budować raczej system bramek kontrolnych, które współpracują ze sobą i wychwytują potencjalne problemy.
– Właściwe wdrożenie AI to nie jest zautomatyzowanie, usprawnianie tego, co znamy, tylko stworzenie właśnie systemu, który będzie działał na takim bardzo fundamentalnym poziomie – przekonuje.
To oznacza zmianę myślenia o wdrażaniu AI. Nie chodzi tylko o to, by sztuczna inteligencja szybciej przygotowała dokument czy wiadomość. Organizacja powinna budować system oparty na uporządkowanym i chronionym rejestrze faktów, z którego AI może bezpiecznie korzystać.
Najtrudniejsza zmiana dotyczy ludzi
Technologia jest tylko jednym elementem układanki. Drugim – i być może trudniejszym – są pracownicy.
Wdrożenie AI zmienia sposób wykonywania pracy, podejmowania decyzji i korzystania z informacji. Dlatego potrzebne jest nie tylko szkolenie z obsługi konkretnych narzędzi, ale również zmiana sposobu myślenia.
– Tutaj człowiek jest elementem, który wymaga najwięcej atencji, bo to zmiana sposobu zachowań, sposobu pracy i takie podejście AI first jest tutaj absolutnie kluczowe – mówi Łopiński.
Różnica między przedsiębiorstwami prywatnymi a administracją publiczną jest w tym kontekście istotna. Firmy komercyjne mają zazwyczaj większą tolerancję na eksperymentowanie i błędy. W administracji konsekwencje błędnej decyzji mogą być znacznie poważniejsze.
– Na koniec dnia prawdopodobnie sprowadza się to do ludzi jednak znowu. Na ile mamy odwagę, żeby eksperymentować i też na ile organizacja daje tę przestrzeń na eksperymentowanie – zauważa prezes Billennium.
Polska ma szansę na AI-owy renesans usług
Łopiński zwraca uwagę na jeszcze jeden aspekt rewolucji AI. Sama technologia staje się coraz bardziej dostępna, a różnice funkcjonalne między popularnymi modelami są – jak wskazuje, powołując się na raport Harvardu – coraz mniejsze.
Problemem nie jest więc już wyłącznie dostęp do technologii. Największym wyzwaniem pozostaje jej skuteczne wdrożenie w organizacjach.
Poziom wykorzystania AI w firmach nadal jest, jego zdaniem, niewielki. To tworzy ogromną przestrzeń dla firm usługowych, które mogą pomagać przedsiębiorstwom przechodzić przez proces wdrażania nowych rozwiązań.
To również szansa dla Polski.
– Mamy 600 tysięcy znakomitej jakości inżynierów i to oni muszą wziąć udział w tym procesie wdrożenia, bo to nie technologia i nie funkcjonalności, tylko ludzie pokazują, czy innowacja miała miejsce – podkreśla Łopiński.
Najpierw trzeba wiedzieć, jak wyłączyć AI
W rozmowie pojawia się także pytanie o granicę autonomii sztucznej inteligencji. Im bardziej zaawansowane będą systemy, tym większą część zadań będą mogły wykonywać bez bezpośredniego udziału człowieka.
Nie oznacza to jednak, że człowiek może zrezygnować z kontroli.
Łopiński porównuje sytuację do autopilota w samolocie. System może wykonywać ogromną część pracy, ale obok nadal znajduje się pilot, który odpowiada za lot i może przejąć sterowanie.
Dlatego – jego zdaniem – projektowanie systemu AI powinno zaczynać się od pytania, jak go wyłączyć i jak odzyskać nad nim kontrolę.
– Tak jak planując wycieczkę w góry, myślimy o tym, jak bezpiecznie wrócić. Tak w przypadku wdrożeń systemów AI w szczególności musimy wiedzieć, w jaki sposób wyłączyć to i w jaki sposób przejąć kontrolę nad tym systemem – mówi.
To szczególnie ważne w przypadku systemów niedeterministycznych, które nie gwarantują z góry określonego rezultatu.
Nie chodzi już o to, czy wdrażać AI
Debata o sztucznej inteligencji w firmach wchodzi więc w kolejną fazę. Pytanie „czy wdrażać AI?” coraz częściej zastępuje pytanie: jak zrobić to bezpiecznie, odpowiedzialnie i tak, aby technologia rzeczywiście dawała przewagę konkurencyjną?
Zdaniem Bartosza Łopińskiego odpowiedzią nie jest rezygnacja z AI ani zamknięcie organizacji na nowe rozwiązania. Potrzebne są mechanizmy governance, kontrola przepływu danych, wielowarstwowe systemy zabezpieczeń i – przede wszystkim – jasno określona odpowiedzialność człowieka.
Bo nawet najbardziej zaawansowane AI pozostaje narzędziem. A za decyzję podjętą z jego pomocą nadal musi odpowiadać konkretny człowiek.
Materiał chroniony prawem autorskim - wszelkie prawa zastrzeżone.
Dalsze rozpowszechnianie artykułu za zgodą wydawcy INFOR PL S.A. Kup licencję.
Wpisz adres e-mail wybranej osoby, a my wyślemy jej bezpłatny dostęp do tego artykułu