Badacze ujawnili, że setki kont na TikToku masowo publikują treści tworzone przez generatywną sztuczną inteligencję, osiągając w ciągu miesiąca łącznie nawet 4,5 mld wyświetleń. Organizacja AI Forensics z Paryża wskazuje, że 354 konta opublikowały aż 43 tys. takich materiałów, często w sposób przypominający automatyczne działanie — nawet po 70 postów dziennie.

TikTok motorem napędowym dla treści AI

Część z tych kont ma wykorzystywać algorytm TikToka, licząc na wirusowy zasięg. Najczęściej pojawiają się treści seksualizujące kobiece ciało, przedstawiające „idealizowane” AI-kobiety w wyzywających pozach i strojach. Według raportu to właśnie ten typ treści dominował wśród najbardziej aktywnych profili, a wiele z nich nie miało żadnych oznaczeń wskazujących na użycie AI.

Inne materiały przybierały formę fałszywych nagrań informacyjnych, często z antyimigracyjnymi przekazami lub podszywających się pod znane media. Badacze wskazują też na treści seksualizujące postaci wyglądające na nieletnie, które mimo naruszeń potrafiły funkcjonować na platformie miesiącami. Po zgłoszeniach część z tych kont została jednak usunięta.

TikTok zaprzecza części zarzutów

TikTok odrzucił zarzuty jako „nieudowodnione” i podkreślił, że problem dotyczy wielu platform. Firma twierdzi, że usuwa szkodliwe treści, blokuje boty i inwestuje w technologie oznaczania materiałów tworzonych przez AI. Jednocześnie pozwala użytkownikom ograniczyć liczbę treści AI w ich feedzie, choć AI Forensics ostrzega, że system oznaczeń jest nadal niewydolny.

Badacze sugerują, że TikTok powinien stworzyć osobną sekcję wyłącznie dla treści generowanych przez sztuczną inteligencję lub wprowadzić obowiązkowe, bardziej widoczne oznaczenia. Ostrzegają, że granica między treściami tworzonymi przez ludzi a generowanymi syntetycznie zaciera się coraz szybciej — a platformy muszą przygotować się na erę, w której AI dominuje feedy użytkowników.