Fałszywy głos zadzwoni do rodziny, deepfake pokaże polityka? Od 2 sierpnia zmieniają się zasady

Jeszcze kilka lat temu fałszywe filmy zdradzały nienaturalne ruchy ust, błędy w mimice i widoczne zniekształcenia obrazu. Dziś te sygnały coraz częściej znikają.

Nowoczesne modele potrafią wygenerować realistyczną wypowiedź, odtworzyć barwę głosu, zmienić ruch ust w istniejącym filmie albo stworzyć postać, która nigdy nie istniała.

Dla zwykłego użytkownika internetu problem jest poważny, ponieważ większość materiałów oglądamy szybko. Film pojawia się w serwisie społecznościowym, komunikatorze lub na przypadkowej stronie. Odbiorca widzi znajomą twarz, słyszy znany głos i podejmuje decyzję, zanim zdąży zweryfikować źródło.

Właśnie na tym opiera się skuteczność deepfake’u.

Nie musi być technicznie doskonały. Wystarczy, że jest wystarczająco wiarygodny przez kilkadziesiąt sekund.

Od 2 sierpnia 2026 r. wchodzą ważne obowiązki przejrzystości

AI Act przewiduje szczególne wymagania dotyczące treści generowanych i modyfikowanych przez sztuczną inteligencję.

Art. 50 rozporządzenia obejmuje m.in. obowiązki dotyczące deepfake’ów oraz określonych treści generowanych przez AI. Komisja Europejska wskazuje, że przepisy te są stosowane od 2 sierpnia 2026 r. Ich celem jest ograniczenie ryzyka oszustwa, podszywania się pod ludzi, manipulacji i dezinformacji.

W praktyce oznacza to zmianę filozofii. Odbiorca nie powinien być zmuszony do samodzielnego zgadywania, czy ogląda dokumentację prawdziwego zdarzenia, czy materiał syntetyczny.

Dostawcy określonych systemów generujących treści mają obowiązki związane z zapewnieniem możliwości rozpoznania sztucznego pochodzenia materiału. Z kolei podmioty wykorzystujące system AI do tworzenia lub manipulowania deepfake’ami muszą ujawniać sztuczny charakter treści.

Regulacja przewiduje przy tym szczególne rozwiązania dla działalności artystycznej, satyrycznej, twórczej i fikcyjnej. Oznaczenie nie powinno niszczyć odbioru utworu, ale informacja o sztucznej ingerencji nadal ma znaczenie.

Telefon z głosem dziecka może być oszustwem

Dla przeciętnej rodziny największym problemem nie jest polityczny film krążący po platformach społecznościowych. Groźniejsze może być nagranie głosowe wysłane bezpośrednio na telefon.

Schemat jest prosty. Ofiara słyszy głos osoby bliskiej. Rozmówca twierdzi, że wydarzył się wypadek, zgubił telefon, został zatrzymany albo pilnie potrzebuje pieniędzy.

Gdy pojawiają się emocje i presja czasu, znany głos staje się dowodem wiarygodności.

Dlatego w epoce generatywnej AI zasada „przecież słyszałem jego głos” przestaje wystarczać.

W przypadku pilnej prośby o pieniądze należy przerwać rozmowę i skontaktować się z bliską osobą innym, wcześniej znanym kanałem. Rodziny mogą także ustalić proste hasło bezpieczeństwa znane wyłącznie najbliższym.

AI Act może zwiększyć przejrzystość legalnego rynku technologicznego. Nie sprawi jednak, że oszuści zaczną dobrowolnie oznaczać fałszywe wiadomości.

Fałszywa reklama może wyglądać jak wiadomość z telewizji

Osobną kategorią są reklamy inwestycyjne. Fałszywy materiał może przedstawiać znanego przedsiębiorcę, lekarza, dziennikarza, polityka lub celebrytę, który rzekomo rekomenduje produkt albo sposób szybkiego zarabiania.

W praktyce użytkownik może trafić na materiał stylizowany na fragment programu informacyjnego. Pojawiają się elementy przypominające studio telewizyjne, znana twarz i przekonująco brzmiąca wypowiedź.

Celem nie jest wtedy wyłącznie dezinformacja. Odbiorca ma kliknąć, pozostawić dane i wpłacić pieniądze.

Sam obowiązek oznaczenia treści AI nie rozwiąże problemu takich kampanii. Materiały przestępcze z definicji powstają po to, aby obchodzić prawo. Nowe przepisy mogą jednak ułatwić budowanie standardu, zgodnie z którym brak informacji o sztucznym pochodzeniu materiału stanie się sygnałem ostrzegawczym.

Polityczny deepfake może działać, zanim pojawi się dementi

W polityce szczególnie groźny jest moment publikacji.

Wyobraźmy sobie fałszywe nagranie pojawiające się kilka godzin przed głosowaniem. Polityk rzekomo przyznaje się do przestępstwa, obraża wyborców albo ogłasza decyzję dotyczącą bezpieczeństwa państwa.

Nawet jeżeli materiał zostanie później zdemaskowany, część odbiorców go nie zobaczy. Inni mogą uznać sprostowanie za próbę tuszowania sprawy.

Dlatego deepfake stanowi nie tylko problem prawdziwości konkretnego nagrania. Może również osłabiać zaufanie do materiałów autentycznych. Polityk przyłapany na prawdziwej kompromitującej wypowiedzi może próbować przekonywać, że film wygenerowała AI.

To zjawisko bywa określane jako możliwość odrzucania prawdziwych dowodów dzięki samemu istnieniu wiarygodnych deepfake’ów.

Nie wszystko, co stworzyła AI, jest deepfake’em

Warto rozróżnić dwa pojęcia. Każdy deepfake jest materiałem powstałym przy wykorzystaniu zaawansowanej ingerencji technologicznej, ale nie każda grafika wygenerowana przez AI jest deepfake’em.

Ilustracja przedstawiająca nieistniejące futurystyczne miasto nie podszywa się pod realne wydarzenie. Wygenerowany obraz konkretnej osoby wykonującej czynność, której nigdy nie wykonała, może natomiast wprowadzać odbiorców w zupełnie inny sposób.

Kluczowe jest wrażenie autentyczności i związek z realnym człowiekiem, obiektem, miejscem albo wydarzeniem.

Inaczej ocenia się także fikcję i satyrę. Film parodystyczny może wykorzystywać sztuczną inteligencję w sposób oczywisty dla odbiorcy. Problem zaczyna się wtedy, gdy użytkownik ma uwierzyć, że ogląda autentyczne zdarzenie.

AI Act nie zastąpi ostrożności

Nowe przepisy wzmacniają przejrzystość, ale użytkownik nadal powinien zadawać podstawowe pytania.

• Skąd pochodzi nagranie?
• Czy opublikował je oficjalny profil?
• Czy inne wiarygodne źródła potwierdzają zdarzenie?
• Czy osoba widoczna na filmie naprawdę wypowiadała się na dany temat?
• Czy autor materiału wywołuje presję czasu?
• Czy odbiorca jest zachęcany do szybkiego przelewu lub podania danych?

W przypadku deepfake’u technologi może być nowa, ale mechanizm oszustwa pozostaje stary. Ofiara ma nie myśleć, tylko działać.

Q&A. Deepfake i AI Act

Co to jest deepfake?

To materiał dźwiękowy, wizualny lub audiowizualny wygenerowany albo zmanipulowany przez AI w taki sposób, że może sprawiać wrażenie autentycznego.

Czy tworzenie deepfake’ów jest całkowicie zakazane?

Nie. AI Act nie wprowadza generalnego zakazu tworzenia wszystkich deepfake’ów. Wprowadza m.in. obowiązki przejrzystości dotyczące ujawnienia sztucznego charakteru takich materiałów.

Od kiedy obowiązują przepisy dotyczące przejrzystości?

Kluczowe obowiązki wynikające z art. 50 AI Act są stosowane od 2 sierpnia 2026 r.

Czy żart z użyciem AI trzeba oznaczyć?

Znaczenie ma charakter materiału i sposób jego prezentacji. AI Act przewiduje szczególne podejście do dzieł artystycznych, satyrycznych, twórczych i fikcyjnych.

Czy oznaczenie „AI” wystarczy w każdej sytuacji?

Przepisy wymagają skutecznej przejrzystości, ale praktyczny sposób realizacji obowiązków jest doprecyzowywany m.in. przez wytyczne i kodeks praktyk dotyczący treści generowanych przez AI.

Czy oszust zadzwoni i poinformuje, że używa deepfake’u?

Nie. Regulacje nakładają obowiązki na legalnie działające podmioty, ale przestępcy mogą je ignorować. Dlatego regulacja nie zastępuje weryfikacji rozmówcy.

Jak sprawdzić, czy głos dziecka jest prawdziwy?

Najbezpieczniej przerwać kontakt i zadzwonić na wcześniej znany numer. Można też poprosić o informację, którą zna wyłącznie rodzina.

Czy deepfake polityka będzie zawsze oznaczony?

Legalnie publikujący podmiot może podlegać obowiązkom przejrzystości. Nie ma jednak gwarancji, że anonimowi sprawcy lub zagraniczne konta będą przestrzegać unijnych przepisów.

Źródła:

• Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689, w szczególności przepisy dotyczące przejrzystości.
• Komisja Europejska, informacje o kodeksie praktyk dotyczącym przejrzystości treści generowanych przez AI.
• Komisja Europejska, pytania i odpowiedzi dotyczące przejrzystych systemów AI.
• Urząd Ochrony Danych Osobowych, stanowisko dotyczące obowiązków wobec deepfake’ów wynikających z art. 50 AI Act.