Niemiecka sieć nadawcza Deutsche Welle wykryła w sierpniu br. ponad 11 kont na platformie TikTok, które miały rozpowszechniać wygenerowane przez AI nagrania kobiet pokazujących siebie przed i po rzekomo drastycznej utracie wagi. O tym, że nagrania zostały wygenerowane przez sztuczną inteligencję, świadczą m.in. nienaturalne ruchy dłoni oraz powtarzające się, identyczne pozy. Według DW konta te miały promować aplikację fitnessową, w której użytkowniczki mogą realizować 75-dniowe wyzwania sportowe.
Polska Agencja Prasowa przeanalizowała podobne nagrania na platformie Instagram. Jedna z wygenerowanych przez AI publikacji osiągnęła tam 7,4 mln wyświetleń. Zarówno nagrania na TikToku, jak i na Instagramie nie były opatrzone informacją, że zostały wygenerowane przez sztuczną inteligencję.
NASK zaobserwował podobne treści również w polskiej infosferze. Ewelina Bartuzi-Trokielewicz, kierowniczka Zakładu Analiz Audiowizualnych i Systemów Biometrycznych w NASK przekazała PAP, że w sieci obecne są przede wszystkim podobne nagrania nastawione na sprzedaż środków na odchudzanie. Chodzi o generowane lub zmanipulowane nagrania „przed i po”, które pokazują spektakularne efekty odchudzania, a także przedstawiają promowane preparaty jako działające porównywalnie, a nawet szybciej niż leki takie jak Ozempic czy Mounjaro. - Mamy tutaj podwójną manipulację obejmującą fikcyjną transformację jako „dowód” oraz nieuprawnione zestawienie niezweryfikowanego suplementu z lekami na receptę o udokumentowanym działaniu klinicznym - dodała ekspertka.
PAP zwróciła się do TikToka Polska oraz Mety z prośbą o stanowiska w tej sprawie. TikTok Polska poinformował, że zweryfikował przesłane przykłady wygenerowanych przez AI nagrań i usunął je z powodu naruszenia Zasad Społeczności. Dodatkowo platforma usunęła inne niezgodne z ich zasadami treści promujące opisywaną aplikację fitnessową oraz zablokowała jej hasztag.
Z kolei Meta - według otrzymanych przez PAP informacji - aby przeciwdziałać nieautentycznym profilom, wysłała do kont publikujących te treści prośbę o potwierdzenie autentyczności. Dodatkowo przesłane treści te zostały objęte ograniczeniem wiekowym powyżej 18 lat i nie są już rekomendowanymi materiałami. Meta zgodnie ze swoimi zasadami zezwala na publikowanie treści utraty wagi lub przybierania na wadze, a także produktów lub usług z nią związanych, o ile nie zawierają one negatywnych stwierdzeń dotyczących wyglądu fizycznego.
Zdaniem Bartuzi-Trokielewicz szkodliwość takich materiałów działa na kilku poziomach. - Nagrania pokazują transformacje, które nie wydarzyły się naprawdę i często są fizjologicznie nieosiągalne w sugerowanym czasie. Odbiorca porównuje własne, realne postępy z fikcyjnym wzorcem - zaznaczyła. Dodała, że ten mechanizm jest znany z badań nad wpływem retuszowanych zdjęć na obraz własnego ciała, tylko w tym przypadku w wersji zautomatyzowanej i skalowalnej.
Rozmówczyni PAP zwróciła uwagę, że grupą szczególnie narażoną są młode kobiety i nastolatki, do których ten format jest wprost adresowany, a także kobiety które chcą schudnąć po ciąży.
Jak podkreśliła, istotny jest również aspekt konsumencki, czyli tworzenie fałszywego dowodu skuteczności, który ma skłonić odbiorców do zakupu planu treningowego lub subskrypcji aplikacji, których rzeczywista wartość nie została w żaden sposób zweryfikowana. W tym przypadku chodzi o wprowadzanie w błąd co do cech produktu oraz brak oznaczenia reklamy, co dodatkowo narusza zasady przejrzystości komunikacji komercyjnej.
- W udokumentowanych przypadkach nagrania powstają również w wyniku kradzionych materiałów prawdziwych twórczyń, którym podmieniono twarze. Poszkodowane są więc także osoby, których praca i wizerunek zostały wykorzystane bez zgody - dodała. DW znalazł pierwotne nagrania prawdziwych twórczyń, na bazie których powstały te wygenerowane przez AI.
Podobny przypadek w maju br. opisał brytyjski portal BBC. Ich śledztwo ujawniło wprowadzające w błąd reklamy produktów fitness, w których również występowały postacie generowane przez AI. Na nagraniach miały być prezentowane drastyczne transformacje, a także postacie AI wykonujące konkretne plany treningowe. Jak podało BBC autorzy takich filmów mieli deklarowali m.in. zrzucenie dużej masy ciała w krótkim czasie.
Z kolei ekspertka ds. sztucznej inteligencji w NASK Alicja Martinek zauważyła, że często poza samymi fałszywymi metamorfozami sztuczna inteligencja jest wykorzystywana do uatrakcyjnienia reklamy. - Spotkałam się z kampanią, gdzie kobieta wykonuje plan treningowy, a w tle leci piosenka. Piosenka ta jest w całości wygenerowana przez AI, co słychać w tekście - opowiada on o efektach planu, jeśli zacznie się konkretnego dnia. W tekście występuje masa błędów językowych. Nawet jeśli sama wizualna część wygląda atrakcyjnie i przekonywująco by zakupić aplikację czy plan treningowy - właśnie taka piosenka w tle, zawierająca liczne błędy, może być podpowiedzią, że dana reklama nie jest prawdziwa - podkreśliła.
Bartuzi-Trokielewicz zaznaczyła, że pojedyncze nagranie może być trudne do wykrycia, jednak odbiorca powinien zwracać uwagę na to czy ruchy, kadry oraz scenografia nie powielają się na innych kontach. Warto też przyjrzeć się niespójnościom między „przed” i „po”, gdzie oprócz sylwetki zmieniają się rysy twarzy, a nawet wzrost. Według ekspertki kluczowe jest także to czy profil danej osoby zawiera tylko treści promocyjne. O wykorzystaniu sztucznej inteligencji mogą świadczyć także typowe artefakty generatywne, czyli nienaturalna i wyidealizowana skóra bez porów, problemy z dłońmi, zębami i włosami oraz dziwna fizyka ubrań i światła.
Weronika Moszpańska (PAP)
