Milena Perka

Holenderski organ ochrony danych nałożył na Ubera karę 825 mln euro za automatyczne dezaktywowanie kont kierowców. Gdy system wykrywał podejrzenie oszustwa albo zbyt niskie oceny, kierowca mógł z dnia na dzień utracić dostęp do platformy, a wraz z nim możliwość zarobkowania. Ta sprawa pokazuje, że człowiek pojawiający się dopiero na etapie reklamacji nie zawsze zapewnia rzeczywisty nadzór. Najpierw trzeba bowiem odpowiedzieć na pytanie, kto faktycznie podjął decyzję i czy prawo w ogóle pozwalało oddać ją algorytmowi.

Spór Google z Komisją Europejską może przesądzić o granicach między ochroną prywatności a otwieraniem rynków cyfrowych. Sąd UE będzie musiał odpowiedzieć, czy argumenty o bezpieczeństwie danych mogą uzasadniać utrzymanie przewagi zbudowanej właśnie dzięki tym danym.

Ministerstwo Cyfryzacji zapowiedziało, że do listopada 2027 r. opublikuje listę systemów sztucznej inteligencji wykorzystywanych przez administrację publiczną. To ważny krok w stronę przejrzystości państwa. Ale sama nazwa systemu nie odpowie na najważniejsze pytanie dla obywatela: czy AI analizowała jego sprawę, a jeśli tak, to co brała pod uwagę i czy urzędnik rzeczywiście zweryfikował jej wynik.

Komisja Europejska zaproponowała regulację, która obejmie nie tylko media społecznościowe i platformy wideo, lecz także gry online, sklepy z aplikacjami, systemy operacyjne, chatboty i cyfrowych towarzyszy opartych na AI. Najbardziej medialnym elementem projektu jest granica wieku dla samodzielnych kont. Prawnie ważniejsza jest jednak inna zmiana: bezpieczeństwo dzieci ma zostać wpisane w architekturę usługi, poddane testom i udokumentowane. Ochrona małoletnich będzie przy tym wymagała ustalania wieku użytkowników. To tworzy nowy konflikt między bezpieczeństwem, prywatnością i anonimowością w sieci.

Od 2 sierpnia AI Act nakazuje ujawniać, że obraz, dźwięk lub wideo będące deepfake’em zostały wygenerowane albo zmanipulowane przez sztuczną inteligencję. Problem w tym, że etykieta „AI” nie zastępuje zgody na użycie cudzej twarzy, nie legalizuje oszustwa i nie kończy pytania o odpowiedzialność platformy, która sprzedała reklamie zasięg.

Firma może zbudować przedsiębiorstwo bez tradycyjnego zespołu pracowników. Nie może jednak zbudować przedsiębiorstwa bez odpowiedzialności za działania swoich agentów. Agent AI może wykonać decyzję. Nie może jednak ponieść jej prawnych konsekwencji.

Komisja Europejska uznała ChatGPT za bardzo dużą wyszukiwarkę internetową (VLOSE – very large online search engine) w rozumieniu Digital Services Act (DSA). Ta decyzja pokazuje, że narzędzia generatywnej AI nie mieszczą się w jednej regulacyjnej szufladzie. Ten sam produkt może jednocześnie podlegać AI Act jako rozwiązanie oparte na modelu AI oraz DSA jako usługa pośrednia wpływająca na dostęp milionów osób do informacji. Dla przedsiębiorstw korzystających z ChatGPT nie oznacza to bezpośredniego objęcia obowiązkami VLOSE. Powinno jednak zmienić sposób oceny dostawcy, umowy i ryzyka technologicznego.

Przedsiębiorcy często zadają pytanie, czy ich organizacja korzysta ze sztucznej inteligencji. Dziś to już niewłaściwie postawiony problem. W zdecydowanej większości przedsiębiorstw odpowiedź brzmi: tak. Znacznie ważniejsze staje się jednak pytanie, czy organizacja zarządza sposobem wykorzystania AI przez swoich pracowników i czy jest w stanie wykazać, że sprawuje nad tym procesem realny nadzór.

Jeszcze kilka lat temu pytanie o cyfrowy majątek po śmierci człowieka dotyczyło przede wszystkim dostępu do poczty elektronicznej, kont w mediach społecznościowych, plików przechowywanych w chmurze czy kryptowalut. Rozwój sztucznej inteligencji sprawia jednak, że problem sukcesji cyfrowej nabiera zupełnie nowego wymiaru. Po człowieku mogą pozostać już nie tylko dane, konta i cyfrowe aktywa, lecz także systemy zdolne do dalszego działania.