Undress aplikacije i online grooming kao novo oružje digitalnog nasilja i opasnost

U virtuelnom svijetu u kojem granice između stvarnog i izmaštanog svakim danom postaju sve tanje, nova prijetnja polako, ali neumoljivo, ulazi u živote tinejdžera u Bosni i Hercegovini. Undress aplikacije i botovi koji uz pomoć umjetne inteligencije „skidaju“ odjeću s fotografija i stvaraju lažne, seksualizirane slike – postala je nova alatka digitalnog nasilja među mladima (ali i odraslima), često bez ikakve svijesti o mogućim posljedicama. Sadržaji proizvedeni pomoću ovakvih AI aplikacija se nerijetko koriste za osvetničku pornografiju. No, ovo nije jedina opasnost za djecu i mlade (pa i odrasle) online – odrasli pod lažnim identitetima mogu manipulisati djecom, što zovemo online grooming. 

Na meti su najčešće žene, nerijetko maloljetnice. Njihove slike, preuzete s društvenih mreža, završavaju u privatnim porukama, grupnim chatovima, pa čak i na porno platformama. Rjeđe, i dječaci i muškarci bivaju žrtve ovog vida nasilja. Postoji sve više upozorenja roditeljima da ne stavljaju slike djece na profile na društvenim mrežama jer se ove fotografije mogu iskoristiti za kreiranje pornografskog sadržaja.

„Online seksualno iskorištavanje i zlostavljanje ugrožavaju djecu širom svijeta, pri čemu je 1 od 8 djece žrtva. Proizvodnja i distribucija neprimjerenih sadržaja u kojima su djeca, uzrokuju dugotrajnu štetu, a porast takvih sadržaja generisanih umjetnom inteligencijom (AI) predstavlja sve veću prijetnju”, kazala je Nineta Popović, voditeljica Odjela za komunikacije UNICEF BiH.

Psihološke traume, ucjene, povlačenje iz društva i potpuni gubitak osjećaja sigurnosti – samo su neki od efekata ove nove digitalne igre moći. Roditelji pokušavaju razumjeti o čemu se radi  ili, nisu ni svjesni ovakvih opasnosti, institucije pokušavaju da se bore s prijavama, pravni okviri se tek razvijaju, a škole ne znaju kako reagovati.

Uz najave Sama Altmana, osnivača OpenAI koji razvija ChatGPT, da će dozvoliti erotiku za odrasle, ovaj problem skidanja postaje sve ozbiljniji.

Kako funkcionišu Undress aplikacije

• Razni vidovi aplikacija baziranih na umjetnoj inteligenciji (AI) funkcionišu tako da generativna umjetna inteligencija može „skinuti” odjeću sa osobe i to sa bilo koje fotografije koja je javno dostupna.
• Prema podacima koje iznosi Aimojo, oko 85% sadržaja koji su 2023 prijavljeni National Center for Missing and Exploited Children (NCMEC), vodi porijeklo sa Meta naloga (Facebook, Instagram, WhatsApp). 
• Pri tome, neke osobe ne mogu zaključati svoje profile, a ni samo zaključavanje nije rješenje jer fotografiju može zloupotrijebiti i neko iz bliskih krugova te osobe. Uglavnom su žene žrtve ovakvih napada. 
• Nekada slike dolaze iz manje očekivanih izvora, usljed hakiranja aplikacija. Reuters je javio kako je aplikacija za žene Tea, koja omogućava anonimno komentarisanje i ocjenjivanje muškaraca, potvrdila  26. jula 2025. da je došlo do neovlaštenog pristupa njenim sistemima i da su hakeri ukrali oko 72.000 korisničkih slika, uključujući 13.000 selfija i fotografija ličnih dokumenata za verifikaciju, dok su 59.000 slika poticalo iz postova, komentara i poruka. Nema informacija da su ove slike korištene da bi se izmijenile putem umjetne inteligencije ili služile za trening umjetne inteligencije, ali ovo je jedna od mogućih “sudbina” ovako neovlašteno preuzetih podataka.
• Umjetna inteligencija je trenirana na velikim bazama javnih slika, uglavnom pornografskog karaktera. Upravo zbog toga, osoba kojoj je na ovaj način „skinuta” odjeća, ima preuveličane sekundarne spolne karakteristike npr. grudi i ne odražava stvarnu fizionomiju osobe, ali nanose veliku štetu. 
• Obično traže mail adresu i za besplatne varijante (trial) imaju ograničen broj upotreba, ali dovoljno je jedna upotreba da se napravi šteta. Čest je i slučaj korištenja više mail adresa zaobilaženja ovih ograničenja da se napravi eksplicitan sadržaj.

 

Sve više prijava zbog zloupotrebe Undress aplikacija

Kako je kazao Saša Petrović, inspektor za cybersigurnost pri Federalnoj upravi policije, oni su  imali dvije prijave u 2024. godini koje su dolazile od maloljetnih osoba ženskog spola koje su bile ucjenjivane fotografijama nastalim korištenjem undress aplikacija. 

„Prijava je rezultirala lišenjem slobode tog lica. Same fotografije su potjecale sa Instagram profila maloljetnih osoba i tu su bile sa odjećom”, dodao je Petrović.

On je istakao kako je bilo i drugih prijava koje nisu direktno vezane za undress aplikacije, ali jesu za modifikovanje fotografija putem umjetne inteligencije. Postojali su i slučajevi skidanja videa sa PornHuba, pa stavljanja lica i glasa druge osobe u cilju ucjenjivanja, često maloljetnih lica.

„Modus djelovanja ovih ljudi koji ucjenjuju jeste da nađu dostupne slike, najčešće djevojaka, skinu sliku i pošalju joj, pod prijetnjom da će sliku pokazati roditeljima, ako ne uplati određeni iznos novca”, kazao je Petrović.

Prijava zloupotrebe ovih aplikacija bilo je i u Republici Srpskoj. 

„Ministarstvo unutrašnjih poslova Republike Srpske je zaprimilo nekoliko prijava gdje je korištena predmetna aplikacija. U konkretnim slučajevima žrtve nisu bila djeca već odrasle ženske osobe u dobi između 19 i 30 godina. Iskorištene su fotografije u kupaćim kostimima koje su bile javno objavljene na društvenim mrežama oštećenih, kazao je načelnik Jedinice za visokotehnološki kriminalitet Uprave kriminalističke policije MUP-a RS-a, Olivije Zimonja.

Međutim, u MUP-u RS-a pretpostavljaju da je broj slučajeva mnogo veći ali da se iz različitih razloga, kao što su strah od stigmatizacije i slično, oni ne prijavljuju. „Tome u prilog ide i činjenica da se na internetu mogu pronaći fotografije djece i odraslih osoba bez odjeće sa našeg područja, a da nemamo toliki broj prijava”, dodao je Zimonja.

Nevladine organizacije postaju ključni oslonac žrtvama i edukatori o problemima određenih AI aplikacija i online groominga

Udruženje “Nova generacija” iz Banjaluke pokrenulo je 2013. godine  “Plavi telefon“, savjetodavnu liniju koja se bavi pružanjem psihološke pomoći i podrške djeci i mladima. Savjetnici Plavog telefona pružaju podršku osobama koje prijave nasilje, te prikupljaju osnovne informacije kako bi ih proslijedili nadležnim institucijama. Usluga je anonimna, besplatna i dostupna djeci, mladima i odraslima putem telefona ili chata, a najčešće se prijavljuju slučajevi porodičnog, emocionalnog, fizičkog, seksualnog i digitalnog nasilja.

„Imali smo slučajeva koji se mogu podvesti pod osvetničku pornografiju gdje bi momak nakon prekida veze iz osvete napravio video bivše djevojke tako što je njeno lice montirao na tijelo nage djevojke i taj sadržaj dijelio dalje ili joj prijetio da će podijeliti s drugima ako prekine odnos s njim. Pored toga, dešavalo se i da djeca i mladi pokazuju jedni drugima ‘nage fotografije’ svojih vršnjaka koje su prethodno napravili uz pomoć vještačke inteligencije, a bez njihovog znanja i pristanka”,  kazala je Maja Kovačević iz Udruženja “Nova generacija” 

„U većini situacija, osobe koje su doživljavale nasilje su bile te koje su im se obraćale za pomoć i podršku i većinom se radilo o djevojkama odnosno djevojčicama”,  istakla je Kovačević.

Prema njenim riječima, Plavi telefon sve češće prima prijave u kojima djeca i mladi sami pošalju intimne fotografije osobama upoznatim online, a zatim postanu žrtve ucjena i prijetnji. U mnogim slučajevima riječ je o online groomingu – kada odrasli pod lažnim identitetom stiču povjerenje, a potom manipulišu i zastrašuju djecu. Žrtve su uglavnom djevojčice i djevojke, iako ima i prijava koje uključuju dječake. 

Tokom 2024. i 2025. godine, Plavi telefon je nadležnim institucijama proslijedio 72 prijave, od kojih se 8% odnosilo na seksualno nasilje putem interneta. 

U slučajevima online seksualnog nasilja, Plavi telefon podržava djecu da se obrate odraslima i nadležnim institucijama, a kada postoji ozbiljan rizik, nasilje prijavljuju i bez saglasnosti djeteta radi njegove zaštite.

Kovačević smatra kako mladi ponekad šalju intimne fotografije ne iz naivnosti, već iz potrebe za prihvatanjem, ljubavlju i pažnjom koje im možda nedostaju u stvarnom okruženju, što ih čini posebno ranjivim na manipulaciju i zloupotrebu.

„Vjerujem da većina mladih ljudi nije u potpunosti svjesna svih rizika koje nosi slanje intimnih fotografija ili eksplicitnih sadržaja, čak ni kada ih šalju osobi s kojom su trenutno u vezi. Takvo ponašanje se među mladima često doživljava kao izraz povjerenja, bliskosti ili čak kao „normalno“ ponašanje u partnerskom odnosima. Međutim, ono što često nedostaje jeste dublje razumijevanje dugoročnih posljedica i potencijalne opasnosti koje ovakvi postupci mogu donijeti.”, dodala je Kovačević.

Online chat sobe i online igre kao mjesto za nalaženje žrtvi za grooming te oslanjanje djece na vještačku inteligenciju kao problem iz domene mentalnog zdravlja

Adi Pejdah iz Centra za sigurni internet, programa humanitarne organizacije „Međunarodni forum solidarnosti EMMAUS” (MFS-EMMAUS) iz Sarajeva kaže kako oni nisu imali prijave koje se odnose konkretno na Undress aplikacije, ali su imali druge prijave koje su vezane za zloupotrebe vještačke inteligencije, kao što su to chatbot sobe.

„To su sobe, webstranice u koje može svako od nas ući i u njima postoji nešto kao chat GPT i vi odaberete s kim ćete razgovarati, to može biti neka poznata osoba, recimo Angelina Jolie, ili vi kreirate profil s kojim ćete razgovarati. Imali smo slučaj da je dijete previše razgovaralo sa umjetnom inteligencijom, a prijavu su napravili roditelji. Dijete je imalo razgovor sa psihologom.” 

Kako je Pejdah objasnio, setovi podataka koji su korišteni za treniranje umjetne inteligencije kako bi mogla kreirati slike bez odjeće, bili su pornografski materijali, jer predstavljaju najveće setove podataka, a upravo je to ono što je potrebno za obučavanje modela umjetne inteligencije. Ovo objašnjava i pojavu da kada se kroz filter Undress aplikacija provuku slike stvarnih osoba, rezultat je preseksualiziran, odnosno to nije prava slika osobe koja je na slici.

„Što se tiče sadržaja koji podrazumijeva nage slike, mi nismo imali prijava iz Bosne i Hercegovine, vezano za slike uređene AI alatima, ali jesmo imali prijave drugih seksualno eksplicitnih sadržaja, odnosno nage djece. Imali smo i linkove koji vode na druge države. Radi se o slikama s pornografskim materijalom koji je kreiran od strane vještačke inteligencije. Obzirom da smo dio međunarodne grupe centara, koju čini 55 organizacija u 51 državi, u slučaju kada imamo prijavu, ako je u pitanju pornografski materijal, provjerim da li je u Bosni, ako jeste, ja prosljeđujem policiji Federacije, RS ili Brčko distrikta u skladu sa za to potpisanim protokolima o saradnji. Na neki način služimo kao filter policijskim upravama”, objasnio je Pejdah.

Centar koristi ICCAM bazu podataka, ali samo za unos prijava koje dobiju u vidu linkova, sa neke stranice na kojoj je materijal, skrinšatova.

„Ako postoji seksualno eksplicitan materijal, postavljen već negdje na internetu, mi ga automatski unosimo u ICCAM bazu koja je povezana s Interpolom i taj materijal dolazi do drugih centara, kako bi se mogao izbrisati ako bude prepoznat. Svaka ta fotografija sadrži određene meta podatke. Čak i ako uredite fotografiju, izrežete, opet ostaje daj digitalni otisak koji može nekome pomoći da uđe u trag”, objasnio je Pejdah.

On je potvrdio kako znaju da među mladima postoji korištenje Undress aplikacija i upozorava kako je jedini način da ne dođe do zloupotrebe to da se nikad eksplicitne fotografije, bilo snimljene bile editovane Undress filterima ne šalju nikome.

„Čak i ako si pokrijete lice nekim filterom, koristite stickere ili pomoću vještačke inteligencije izmijenite karakteristike lica, neko ko zna kako se ovo radi, to može jednako lako ukloniti”.

Roditelji često nisu ni svjesni šta se sve može dogoditi u online svijetu i ne razumiju načine na koje nepoznata osoba može komunicirati sa njihovim djetetom.

„Online igrica Roblox i slične  mogu biti opasne za djecu jer omogućava online komunikaciju s nepoznatim osobama, a među njima mogu biti i odrasli koji se lažno predstavljaju kao djeca – što stvara prostor za online grooming. Problem ove igrice je poklon. Predatori navuku djecu putem davanja poklona potrebnih za igranje. Takve osobe koriste prijateljski ton i interesovanja djece da bi stekle njihovo povjerenje, daju poklone za igricu, a zatim uvode seksualne teme, traže privatne informacije ili čak intimne fotografije, što ozbiljno ugrožava sigurnost i emocionalno zdravlje djeteta”, objasnio je Pejdah.

Ove igrice su plodan teren za dječiju pornografiju, ucjene, vršnjačko nasilje i iskorištavanje maloljetnika i mladih od strane odraslih. 

Prijave za ove vidove zlostavljanje i zloupotreba tehnologije moguće je uraditi na web stranici sigurnodijete.ba koju vodi Centar za sigurni internet, te putem info maila i te helpline linije na koju se javlja psiholog, koji uzima podatke, procjenjuje da li je poziv za prijavu ili ne i, po potrebi se dalje se prosljeđuje i procesuira.

Izmjene krivičnog zakona u Republici Srpskoj i Federaciji BiH

U Republici Srpskoj je u avgustu 2023. došlo do izmjena zakona prema kojima su, prema članu 170a, objave eksplicitnih sadržaja generisanih umjetnom inteligencijom regulisani. U Federaciji BiH su krajem jula 2025. usvojene izmjene i dopune Krivičnog zakona kako bi se i objavljivanje eksplicitnog sadržaja generisanog putem AI prepoznalo kao krivično djelo. Ovo je obuhvaćeno čl. 189a Krivičnog zakona FBiH. 

„Izmjenama i dopunama Krivičnog zakona koji je usvojen u oba doma Parlamenta nedavno je usvojena moja inicijativa i uvrštena u zakon: da je krivično djelo objava i distribuiranje eksplicitnog sadržaja, uključujući i onaj koji je nastao ili je izmijenjen tehnologijom”, kazala je Lana Prlić, zastupnica u Predstavničkom domu Parlamenta FBiH.

DSA (Digital Service Act – Zakon o digitalnim uslugama) u EU je jedan od zakonskih okvira koji dotiče i teme zloupotrebe deepfake pornografskih sadržaja, odnosno eksplicitnih sadržaja kreiranih putem umjetne/vještačke inteligencije. Međutim, već sad se javljaju kritike na račun toga da ovih okviri neće zaštititi građane od non-konsenzualne deepfake pornografije.

„Male države sa ograničenim kapacitetima, a to su sve države Zapadnog Balkana kao i većina malih država u Evropi, jako teško mogu imati institucije koje adekvatno mogu provoditi propise u online svijetu. Osnovni problem je u tome što se ovi propisi trebaju donijeti na nacionalnom nivou i trebaju po sadržaju biti usklađeni sa navedenim zakonima unutar EU. Upravo su Evropska komisija i druge EU institucije koje trebaju pomoći kako bi se efektivno moglo natjerati digitalne platforme da se usklade sa zahtjevima, koji u ovom trenutku zapravo i ne postoje u BiH u smislu u kojem to predviđa DSA”, kazao je Nasir Muftić, docent na Pravnom fakultetu Univerziteta u Sarajevu, ekspert iz oblasti regulacije  digitalnih tehnologija.

Muftić je istakao kako BiH nema opštu obavezu moderacije sadržaja na digitalnim platformama predviđenu jasno u našem pravnom sistemu te da je zbog toga je važno što prije donijeti zakon, opšti propis o elektronskim komunikacijama koji će podsjećati na DSA (Digital Service Act – Zakon u digitalnim uslugama) u EU, kao i ojačati poziciju regulatora. To bi značilo da bi društvene mreže imale obavezu da eksplicitne sadržaje pod prijetnjom sankcije uklanjaju.

On je dodao kako organizacije iz Srbije i BiH, poput UG Zašto ne? kroz određene projekte u kojima i on učestvuje trenutno rade na jednom istraživanju koje treba da ispita institucionalne kapacitete u ove dvije države sa ciljem provedbe DSA, DMA i AI Acta.

Edukacija kao preventiva

Dječja psihologinja Klaudija Ribić ističe kako su mladi sve izloženiji nerealnim prikazima tijela u medijima, što posebno u adolescenciji povećava nezadovoljstvo vlastitim izgledom i rizik od osjećaja manje vrijednosti. 

„Ovakve situacije za osobu su obično visoko stresne, a da li će za osobu taj događaj predstavljati traumatsko iskustvo zasigurno zavisi i od ozbiljnosti događaja, načina reakcije, podrške koja je dostupna u datom trenutku, karakteristikama same osobe. Često ovakvi događaji kod djece i mladih izazivaju osjećaj krivnje, stida, ali i nepovjerenja prema ljudima, kao i nesigurnosti prilikom budućih upuštanja u bilo kakve vršnjačke odnose”, kazala je Ribić. 

AI aplikacije koje skidaju odjeću još više distorziraju sliku tijela jer su obučavani na pornografskim setovima podataka te tako uvećavaju sekundarne spolne karakteristike poput ženskih grudi. Također, nude i opcije poput BDSM i drugih vidova fetiša, praksi koje, da nije tehnologije, tinejdžeri svakako ne bi imali pred očima. Izloženost ovakvim sadržajima ne samo da može mijenjati percepciju očekivanja od vlastitog i tuđeg tijela nego i seksualnosti.

Ribić je istakla da je najbolja prevencija edukacija – ne samo djece i mladih, već i roditelja, nastavnika i svih koji učestvuju u njihovom odgoju. Naglasila je i odgovornost roditelja da prate kakvom su sadržaju mlađa djeca izložena, jer djeca često iz radoznalosti i nezrelosti mogu napraviti nešto nepromišljeno.

„Posebno je važno educirati odrasle, jer smo skloni  vjerovanju kako se takve stvari ne događaju nama, događaju se nekome drugom.” 

Ribić ističe nekoliko ključnih koraka u ovakvim slučajevima. Prvo i najvažnije, kaže da se žrtva nikako ne smije osuđivati. „Posebno je važno izbjegavati rečenice poput: ‘Sam/a si kriva jer si poslala takvu fotografiju’ – to dodatno traumatizira osobu.“

Roditeljima i starateljima savjetuje da odmah obavijeste nadležne institucije, prije svega policiju, kako bi se pokušao pronaći počinitelj i uklonio štetni sadržaj. Važno je informisati školu koju pohađa dijete, kako bi se spriječilo daljnje nasilje poput ogovaranja, isključivanja iz grupe i ponovnog dijeljenja sadržaja.

Dodaje i da je nužno osigurati psihološku podršku – i za dijete i za roditelje – odmah nakon incidenta, ali i kasnije, ukoliko bude potrebno.

„Iako AI-generirani slučajevi trenutno čine mali dio prijava, može se očekivati nagli porast. AI također proširuje načine viktimizacije, prerađujući bezazlene slike, ‘pomlađujući’ odrasle te omogućavajući mladima da stvaraju zlostavljački sadržaj putem ‘nudify’ aplikacija. Rješavanje ove krize zahtijeva hitne i koordinirane napore tehnoloških kompanija, vlasti, organa zaštite zakona i edukatora i roditelja. Promet i dostupnost AI mora biti strogo kontrolisana, kako bi se na vrijeme otkrilo zlostavljanje i zaštitila djeca. Ovo su dugotrajni i komplikovani procesi, za razliku od tehnologije, koja je nezaustavljiva. Ne smijemo ignorirati ovu opasnost i nadati se da se nama neće desiti. Odrasli se moraju informisati o ovoj temi , te i sami biti svjesni opasnosti, ali i mehanizmima zaštite. Stoga je prva akcija u zaštiti djece – iskren razgovor s njima i upućivanje informacija o zaštiti i prijavljivanju svakog pokušaja zloupotrebe”, zaključila je Nineta Popović iz UNICEF BiH.