TikTok i Veštačka inteligencija: Uklonjeni seksualizovani snimci crnkinja posle BBC istrage

2026-03-27 - 17:23

Riya Ulan (left) / Instagram (right) Rija Ulan (levo) je primetila da je njen video upotrebljen za stvaranje digitalnog lika pomoću veštačke inteligencije (desno) TikTok je zabranio 20 naloga pošto je BBC ukazao na upotrebu crnih influenserki stvorenih pomoću veštačke inteligencije za usmeravanje korisnika na sajtove koji promovišu seksualno eksplicitni sadržaj. Ovi nalozi su deo rastućeg trenda na društvenim mrežama Instagramu i TikToku koji se smatraju rasističkim, eksploatatorskim i obmanjujućim zbog rasnih stereotipa i jezika koji se koristi. BBC i istraživači nezavisne publikacije o veštačkoj inteligenciji Riddance su na ove dve platforme pronašli desetine naloga koji prikazuju izrazito seksualizovane crne ženske digitalne likove, odnosno avatare. Slike i video-snimci stvoreni su pomoću veštačke inteligencije, ali nisu bili označeni kao takvi, što predstavlja očigledno kršenje smernica platformi. Skoro svi nalozi su bili na Instagramu, a oko trećine je imalo verzije i na TikToku. Meta, matična kompanija Instagrama, rekla je za BBC da istražuje slučaj, ali nije odgovorila da li je preduzela bilo kakve konkretne mere. Avatari su često prikazani u oskudnim kupaćim kostimima ili drugoj izazovnoj odeći i često imaju prenaglašene proporcije tela. Neki imaju izuzetno tamne tonove kože koji su digitalno stvoreni, zbog čega deluju veštački. U nazivima naloga su često izrazi koji upućuju na crno i tamno, kao što su „black", „noir", „dark", i „ebony". U objavama na pojedinim nalozima postavljeni su i komentari o belim muškarcima, poput „voli bele muškarce" i „zašto mi je u životu potreban beli muškarac". Ovi nalozi se uglavnom međusobno prate ili lajkuju sadržaj jedni drugih. U saradnji sa analitičarima Džeremijem Karaskom i Anđel Nulani iz publikacije Riddance, BBC je identifikovao 60 takvih naloga, uglavnom na Instagramu, na kojima su bili linkovi ka plaćenom seksualno eksplicitnom sadržaju na sajtovima trećih strana. Na tim sajtovima sadržaj je označen kao stvoren pomoću veštačke inteligencije, ali takvu oznaku nisu imali nalozi na Instagramu. Tokom istraživanja otkriveni su i mnogi drugi nalozi na Instagramu i TikToku koji su imali slične avatare stvorene pomoću veštačke inteligencije a koji nisu vodili ka plaćenom sadržaju. Aplikacija za bezbedan dejting koja to nije: 'Delili su moju adresu i ponižavali me' Dejting aplikacije u Srbiji: Kako ih koristiti bezbedno Dipfejk pornografija uništava živote studentkinja 'Bila sam besna' Jedan od naloga koji je TikTok ugasio, ali je u trenutku objavljivanja teksta i dalje bio aktivan na Instagramu, izazvao je dodatni bes zbog krađe video-snimaka stvarnih ljudi. Predstavljen je kao nalog upečatljivog lika stvorenog pomoću veštačke inteligencije i u roku od svega nekoliko nedelja od otvaranja u decembru prikupio je tri miliona pratilaca. Međutim, na njemu su objavljivani izmenjeni snimci stvarne kreatorke sadržaja, Rije Ulan, modela iz Malezije, koje je ona postavila na njenom profilu. Lice avatara, koje ima izuzetno taman, veštački stvoren ton kože, postavljeno je preko Rijinog tela, pri čemu su kopirani njeni pokreti, odeća i pozadina. „Bila sam besna", rekla je Rija za BBC. „Naravno da su svi moji snimci dostupni, ali to ne znači da neko može jednostavno da ih uzme, ukrade i objavi". Instagram Neki nalozi, među kojima je i onaj koji je ukrao Rijin sadržaj, negiraju da su stvoreni pomoću veštačke inteligencije Jedan od njenih izmenjenih snimaka dostigao je više od 35 miliona pregleda na TikToku i 173 miliona na Instagramu, što je oko 47 puta više od pregleda Rijine objave. Iako tri snimka, koji jasno odgovaraju Rijinom sadržaju nisu seksualni, drugi video-snimci na nalogu stvorenom pomoću veštačke inteligencije koji koristi isti digitalno stvoreni lik prikazuju ga u oskudnoj odeći i u provokativnim pozama. Linkovi na tom nalogu vode ka plaćenom sadržaju za odrasle. „Ne znam da li me više brine to što koriste moj snimak za promociju eksplicitnog sadržaja ili to što ljudi zapravo veruju u to", kaže ona. Dodaje da je korisnicima sve teže da razlikuju stvaran od veštački stvorenog sadržaja i da „ljudi stalno nasedaju na ove modele stvorene pomoću veštačke inteligencije". Mnogi korisnici očigledno doživljavaju ove avatare kao stvarne iako imaju nerealne karakteristike. U objavama i storijima na Instagramu, neki od naloga negiraju upotrebu veštačke inteligencije, među kojima je i onaj koji je preuzeo Rijin sadržaj. Rija kaže da je više puta prijavljivala nalog obema platformama, ali da sadržaj u tom trenutku nije bio uklonjen. TikTok ga je zabranio tek pošto je BBC zatražio objašnjenje. Šta je Moltbuk, „društvena mreža za veštačku inteligenciju" Kako da znate da gledate video nastao pomoću veštačke inteligencije Zašto deca rade smrtonosne TikTok izazove 'Nerealni prikazi' „Verujem da su ovi nalozi rasistički jer njihovo postojanje podržava dugu istoriju eksploatacije crnih ljudi", kaže Nulani, jedna od istraživačica. „Upotreba karikatura, terminologije vezane za rasne fetiše i nerealnih prikaza crnih žena pokazuje da im nije stalo do naše bezbednosti niti dobrobiti, već do naše mogućnosti da budemo komercijalizovane kao deo onlajn pornografske industrije", dodaje ona. Karasko, koji na njegovim nalozima na društvenim mrežama kritikuje trendove i tehnike u oblasti veštačke inteligencije, kaže da „ono što je novo je količina bestidnih, rasističkih prikaza izrazito tamnoputih ljudi". Iako je „taj fetiš" možda postojao i ranije, veštačka inteligencija mu „daje novi zamah", kaže on. Objašnjava da veštačka inteligencija olakšava uklanjanje nijansi na slikama i video-snimcima i omogućava da se stvaraju tonovi kože koji nisu prirodni, kao i efekti koji su ranije zahtevali animaciju ili ručno oslikavanje kože. Kaže i da avatari ne snose društvene posledice. „Nema stida i to je nešto što veštačka inteligencija jednostavno iskorišćava". Houda Fonone / BOCHIC Kreatorka sadržaja Huda Fonone kaže da se plaši da se prikazi stvarnog životnog iskustva zamenjuju veštačkim slikama na internetu Huda Fonone, marokanska manekenka i kreatorka sadržaja koja se zalaže za autentičnije prikaze crnih žena, kaže da se ovaj trend svodi na „brisanje identiteta". „Svilenkasta kosa, izrazito mršava tela i neverovatno besprekorna koža...kao da crnačka lepota može da se prihvati samo kada je 'doterana'". Ona upozorava da to može dodatno da učvrsti stereotipe, dok se „naše priče i stvarna životna iskustva zamenjuju veštačkom slikom". BBC je Meti i TikToku poslao primere naloga koje je identifikovao i zatražio odgovore. Dva dana kasnije, portparol TikToka rekao je za BBC da je kompanija „uklonila sadržaj i zabranila naloge koji krše naša pravila". U roku od nekoliko dana, na 20 naloga u aplikaciji je postavljena oznaka „zabranjeno". „TikTok zabranjuje sadržaj stvoren pomoću veštačke inteligencije koji prikazuje ljude bez njihove dozvole i imamo nultu toleranciju za sadržaj koji promoviše seksualne usluge izvan platforme", rekao je portparol. Kompanija naglašava da zabranjuje i uklanja sadržaj stvoren pomoću veštačke inteligencije koji je štetan ili obmanjujući, kao i da zahteva od korisnika da jasno označe realističan sadržaj nastao uz pomoć veštačke inteligencije. Dodali su i da su na određeni broj video-snimaka naknadno primenili odgovarajuće oznake. Meta je saopštila da istražuje sadržaj koji je prijavljen. Kaže da želi da korisnici znaju kada gledaju objave napravljene uz pomoć veštačke inteligencije, kao i da ima uspostavljene politike za označavanje sadržaja stvorenog pomoću veštačke inteligencije. Devet Instagram naloga koje je BBC pratio, izgleda da su uklonjeni. Nijedna od ove dve platformi nije iznela detalje o njihovoj reakciji na Rijine prvobitne prijave. BBC na srpskom je od sada i na Jutjubu, pratite nas OVDE. Pratite nas na Fejsbuku, Tviteru, Instagramu i Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk Veštačka inteligencija i u seksu: Lutke za verbalnu i fizičku interakciju „Moje ukradene fotografije služile su da se muškarcima na prevaru uzme novac“ Kad te „dipfejkuju": „Nalepili su moje lice na porno snimak" Kako je bot u kog sam se zaljubio raskinuo sa mnom TikTok vas prati, čak i ako ne koristite aplikaciju - kako da ga sprečite Ponižavanje nastavnica: Surova osvetnička kampanja đaka &