Deepfake przestaje być wyłącznie problemem wizerunkowym i technologicznym. AI Act wprowadza obowiązek ujawniania, że obraz, dźwięk lub wideo zostały sztucznie wygenerowane albo zmanipulowane przez AI, jeżeli materiał może zostać uznany za deepfake. Obowiązki obejmą internet, reklamę, komunikację polityczną i część treści informacyjnych. Za naruszenie zasad przejrzystości firmom grożą kary do 15 mln euro albo 3 proc. światowego obrotu.
AI Act definiuje deepfake szeroko: jako wygenerowany lub zmanipulowany przez AI obraz, dźwięk albo wideo, które przypomina istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia i może fałszywie wydawać się autentyczne. Nie chodzi więc wyłącznie o spektakularne nagrania z podmienioną twarzą polityka. Obowiązek może dotyczyć także realistycznego nagrania audio, sztucznego wystąpienia, spreparowanej wypowiedzi, realistycznego zdjęcia z wydarzenia, które nigdy się nie odbyło, albo materiału reklamowego sugerującego udział osoby, która w rzeczywistości w nim nie uczestniczyła.
Zasada jest prosta: podmiot wykorzystujący system AI do wygenerowania lub zmanipulowania obrazu, dźwięku albo wideo stanowiącego deepfake będzie musiał ujawnić, że treść została sztucznie wygenerowana albo zmieniona. Informacja ma być przekazana jasno, odróżnialnie i najpóźniej w momencie pierwszego kontaktu odbiorcy z materiałem. To oznacza, że ukrycie informacji w regulaminie, stopce kampanii albo opisie niewidocznym dla użytkownika nie powinno być traktowane jako bezpieczne rozwiązanie.
Obowiązek oznaczania dotyczy nie tylko dostawców narzędzi generatywnych, ale także podmiotów, które takich narzędzi używają. Inne zadania ma dostawca systemu, który powinien zapewnić techniczne oznaczanie i wykrywalność treści syntetycznej, a inne agencja, partia, firma, wydawca lub influencer publikujący materiał. AI Act rozdziela te role, ale nie zwalnia z odpowiedzialności żadnego profesjonalnego uczestnika łańcucha publikacji.
Kampania wyborcza z AI pod większą kontrolą
Najbardziej wrażliwym polem będzie kampania wyborcza. Deepfake polityczny może wpływać na ocenę kandydata, frekwencję, decyzję wyborcy albo zaufanie do instytucji. Jeżeli komitet, partia, agencja lub inny podmiot przygotuje realistyczne nagranie z wykorzystaniem AI, powinien jasno ujawnić sztuczny charakter materiału. Dotyczy to zarówno spotu wideo, jak i krótkiego nagrania w mediach społecznościowych, syntetycznego głosu, sztucznego zdjęcia lub realistycznej sceny przedstawiającej wydarzenie, którego nie było.
AI Act nie zakazuje używania generatywnej AI w komunikacji politycznej jako takiej. Granica przebiega gdzie indziej: odbiorca nie może być wprowadzany w błąd co do autentyczności materiału. Jeżeli materiał ma charakter satyryczny, fikcyjny, artystyczny lub twórczy, obowiązek przejrzystości jest ograniczony do poinformowania o istnieniu treści wygenerowanej lub zmanipulowanej w sposób, który nie utrudnia odbioru dzieła. W kampanii wyborczej ten wyjątek będzie jednak wymagał ostrożności, bo granica między satyrą a manipulacją polityczną może być sporna.
Znaczenie będą miały także przepisy o reklamie politycznej, ochronie danych osobowych, prawie wyborczym i ochronie dóbr osobistych. AI Act nie zastępuje tych regulacji. Jeżeli deepfake wykorzystuje wizerunek lub głos realnej osoby bez zgody, może jednocześnie naruszać kilka reżimów prawnych. Oznaczenie materiału jako wygenerowanego przez AI nie zawsze usunie odpowiedzialność za bezprawne użycie wizerunku, zniesławienie lub naruszenie prawa do prywatności.
Reklama z awatarem, głosem i sztucznym wizerunkiem
W reklamie obowiązki będą szczególnie istotne tam, gdzie AI tworzy realistyczny przekaz imitujący człowieka, eksperta, klienta, lekarza, urzędnika, celebrytę albo zwykłego konsumenta. Jeżeli materiał sugeruje autentyczną wypowiedź, rekomendację albo udział realnej osoby, a w rzeczywistości został wygenerowany lub istotnie zmanipulowany, odbiorca powinien zostać poinformowany, że ma do czynienia z treścią syntetyczną.
Nie każdy retusz, montaż lub standardowa obróbka będzie deepfake’em. AI Act przewiduje, że obowiązek technicznego oznaczania po stronie dostawcy nie ma zastosowania w zakresie, w jakim system pełni funkcję pomocniczą przy standardowej edycji albo nie zmienia istotnie danych wejściowych ani ich znaczenia. Inaczej należy jednak ocenić sytuację, w której AI tworzy realistyczną osobę, wkłada komuś w usta wypowiedź, generuje sztuczne poparcie produktu albo pokazuje zdarzenie jako rzeczywiste.
Dla agencji marketingowych i działów komunikacji oznacza to potrzebę rozdzielenia treści czysto kreacyjnych od treści realistycznych, które mogą zostać odebrane jako autentyczne. Bezpieczna procedura powinna obejmować opis sposobu użycia AI, decyzję, czy materiał wymaga oznaczenia, zatwierdzenie przez człowieka oraz zachowanie dokumentacji kampanii.
Internet, media społecznościowe i treści informacyjne
Obowiązki przejrzystości obejmą także materiały publikowane w internecie. Dotyczy to wideo, grafik, nagrań audio i tekstów generowanych lub manipulowanych przez AI, jeżeli służą informowaniu opinii publicznej o sprawach publicznego zainteresowania. W przypadku tekstu AI Act przewiduje obowiązek ujawnienia sztucznego charakteru treści wtedy, gdy materiał został wygenerowany lub zmanipulowany przez AI i opublikowany w celu informowania opinii publicznej o sprawie publicznej.
Istotny wyjątek dotyczy materiałów, które przeszły proces ludzkiej weryfikacji lub kontroli redakcyjnej, a odpowiedzialność redakcyjną ponosi osoba fizyczna lub prawna. Ten wyjątek ma znaczenie dla redakcji, ale nie powinien być rozumiany jako zgoda na automatyczne publikowanie treści bez nadzoru. Wydawca, który wykorzystuje AI jako narzędzie pomocnicze, powinien mieć proces kontroli, korekty, odpowiedzialności i archiwizacji decyzji redakcyjnych.
Komisja Europejska opublikowała 10 czerwca 2026 r. kodeks praktyk dotyczący przejrzystości treści generowanych przez AI. Kodeks ma pomagać dostawcom i podmiotom wykorzystującym generatywną AI w spełnianiu obowiązków oznaczania i etykietowania. Przystąpienie do kodeksu jest dobrowolne, ale same obowiązki z AI Act mają charakter prawny. Komisja wskazuje też na zestaw ikon, które mogą być używane do oznaczania treści generowanych przez AI.
Kary za brak oznaczenia deepfake’u
Brak prawidłowego oznaczenia deepfake’u może zostać zakwalifikowany jako naruszenie obowiązków przejrzystości z art. 50 AI Act. Maksymalna kara za takie naruszenie wynosi 15 mln euro albo 3 proc. całkowitego rocznego światowego obrotu przedsiębiorstwa z poprzedniego roku obrotowego. Dla małych i średnich przedsiębiorstw, w tym startupów, AI Act przewiduje zasadę łagodniejszego limitu: kara ma sięgać niższej z wartości procentowej albo kwotowej.
Przy ustalaniu kary organ będzie brał pod uwagę m.in. charakter, wagę i czas trwania naruszenia, liczbę osób dotkniętych skutkami, rozmiar szkody, wielkość i udział rynkowy operatora, stopień współpracy z organem, działania naprawcze, umyślność lub niedbalstwo oraz to, czy podmiot odniósł korzyść finansową albo uniknął strat dzięki naruszeniu. Inaczej może zostać oceniony pojedynczy błąd oznaczenia, a inaczej zorganizowana kampania oparta na ukrywaniu syntetycznego charakteru materiałów.
Źródła: Rozporządzenie Parlamentu Europejskiego i Rady UE 2024/1689, AI Act Service Desk, Komisja Europejska, Kodeks praktyk dotyczący przejrzystości treści generowanych przez AI.
Materiał chroniony prawem autorskim - wszelkie prawa zastrzeżone.
Dalsze rozpowszechnianie artykułu za zgodą wydawcy INFOR PL S.A. Kup licencję.
Wpisz adres e-mail wybranej osoby, a my wyślemy jej bezpłatny dostęp do tego artykułu