„UNICEF jest coraz bardziej zaniepokojony doniesieniami o gwałtownym wzroście liczby dostępnych w internecie, generowanych przez sztuczną inteligencję obrazów dzieci – często także zmanipulowanych i wykorzystujących zjawisko seksualizacji” – napisano w komunikacie.
Analiza UNICEF objęła 11 państw, a w jej przeprowadzeniu uczestniczyły też Interpol i sieć ECPAT, która zrzesza organizacje pozarządowe, walczące z dziecięcą prostytucją, pornografią i handlem dziećmi w celach seksualnych. Nie podano nazw krajów, które objęto badaniem; przekazano jedynie, że w niektórych z nich poddawanie zdjęć dzieci manipulacjom o charakterze seksualnym dotykało aż 25 proc. małoletnich.
Podkreślono zarazem, że znaczący odsetek objętych analizą dzieci wykazał „dużą świadomość ryzyka”.
„W niektórych krajach objętych badaniem do dwóch trzecich dzieci powiedziało, że obawia się, iż AI może być użyte do tworzenia fałszywych seksualnych obrazów lub filmów. Poziom obaw znacznie różni się między krajami, co podkreśla pilną potrzebę wzmocnienia świadomości, prewencji i środków ochronnych” – napisano w komunikacie UNICEF.
ONZ-owska agenda podkreśliła, że proceder niczym nie różni się od innych materiałów o charakterze seksualnego wykorzystywania dzieci (CSAM – child sexual abuse material). „Krzywda, którą powodują (nadużycia wykorzystujące AI), nie ma nic wspólnego z fikcją” – głosi komunikat UNICEF.
By zapobiec dalszemu – jak podkreślono – dynamicznemu rozwojowi tego procederu, Fundusz Narodów Zjednoczonych na rzecz Dzieci zaapelował do deweloperów AI o staranność i dbałość we wdrażaniu podejścia safety-by-design (zaprojektowane z myślą o bezpieczeństwie – PAP) oraz wprowadzanie solidnych barier ochronnych.
Podkreślono zarazem, że rozwój zbyt dużej liczby modeli AI odbywa się bez odpowiednich zabezpieczeń. „Ryzyka potęgują się, gdy generatywne narzędzia AI są bezpośrednio wbudowane w media społecznościowe, w których zmanipulowane obrazy szybko się rozprzestrzeniają” – ostrzegli autorzy badania.
Podkreślono, że nawet bez możliwości identyfikacji konkretnej osoby „materiał generowany przez AI, który seksualnie wykorzystuje najmłodszych, w istotny sposób przyczynia się do upowszechniania takich praktyk i stwarza poważne wyzwania dla organów ścigania w identyfikacji i ochronie dzieci, które potrzebują pomocy”.
Autorzy badania zaapelowali o unikanie korzystania z tego typu treści. „Krzywda spowodowana nadużyciami technologii deepfake jest realna i pilna. Dzieci nie mogą czekać, aż prawo nadrobi zaległości” – napisano w raporcie UNICEF.(PAP)
