Djeca su na društvenim mrežama potpuno nezaštićena od nasilja. Novi izvještaj upozorava da tehnologija brzo napreduje, dok zakoni i platforme ne uspijevaju da im pruže adekvatnu bezbjednost.
Pokušaji regulisanja društvenih mreža do sada nisu imali mnogo uspjeha. Mladi ljudi su bez zaštite izloženi mržnji i nasilju. To pokazuje godišnji izvještaj organizacije Jugendschutz.net, prenosi Deutsche Welle.
Beba leži na stomaku i spava, ruke i noge opušteno ispružene. Dirljiva slika, objavljena na društvenoj mreži Instagram. Roditelji javno dijele emocionalne i intimne trenutke svoje djece i time privlače veliku pažnju, skupljaju lajkove i pratioce. Ali, da li su te fotografije dobre i za dijete?
Slobodno dostupne slike djece na internetu se kopiraju, obrađuju i njima se manipuliše, stavljaju se u drugi kontekst, koriste u svrhe zlostavljanja i komentarišu na se**ualizovan način. Čak su se i u slučaju uspavane bebe pojavili takvi komentari.
Ovaj primjer zabilježen je u aktuelnom godišnjem izvještaju Jugendschutz.net, institucije u Njemačkoj koja se finansira iz javnih sredstava, a bavi se zaštitom djece i mladih na internetu.
"Samo vrh ledenog brega"
Izvještaj pokazuje da su mladi na internetu i dalje nedovoljno zaštićeni od se**ualizacije, mržnje i nasilja. Jugendschutz.net je tokom 2025. godine zabilježio više od 15.000 slučajeva.
"To je samo vrh ledenog brega", rekao je Stefan Glazer, rukovodilac kompetencijskog centra koji su zajednički osnovale savezna država i pokrajine.
Ova institucija prima onlajn prijave kršenja odredbi o zaštiti mladih i takođe sama istražuje na internetu. Ona po potrebi kontaktira vlasnike platformi poput TikToka, Jutjuba (YouTube), Instagrama, Snepčeta (Snapchat), Diskorda (Discord) ili Votsapa (WhatsApp) i uključuje organe krivičnog gonjenja.
Prema Glazerovim riječima, u 93 odsto svih slučajeva registrovanih 2025. godine radilo se o se**ualnom nasilju – i to pretežno o dječjoj po**ografiji. Četiri odsto svih prekršaja odnosilo se na politički ekstremizam. Tome se dodaju drastične fantazije o mržnji i nasilju prema ženama i djevojčicama.
Do sada potcijenjen problem je i muzički striming servis Spotify, koji se sve češće pojavljuje kao mesto za ekstremno desničarsku muziku, se**ualizovano nasilje nad maloljetnicima, kao i za plejliste sa samopovređujućim ili suicidalnim porukama.
Četbotovi sa se**ualizovanim "sopstvenim životom"
Mnogi rizici se dodatno pogoršavaju upotrebom vještačke inteligencije (AI), čija je primjena znatno dobila na značaju.
"Manipulisane slike služe kao sredstvo za širenje ekstremističkih narativa ili za ponižavanje. Vještačko se stapa sa stvarnim i iskrivljuje percepciju stvarnosti", istakao je Glazer.
Botovi koji pomoću generativne vještačke inteligencije komuniciraju sa korisnicima sve više djeluju kao pravi partneri – sa slobodno oblikovanim, fiktivnim ličnostima, djelimično kreiranim prema stvarnim uzorima. Savjetuju, treniraju ili simuliraju odnose. Istraživanja Jugendschutz.net-a pokazuju posebno problematičnu stranu ovoga:
"Četbotovi razvijaju sopstveni život, opisuju se**ualne radnje sa maloljetnicima i mogu se kreirati kao maloljetni likovi koji djeluju se**ualizovano", objasnio je Glazer.
Uzrok su, između ostalog, slabi filteri i nedovoljno bezbjedna podešavanja. Efikasna kontrola starosti korisnika nedostaje, a postojeće opcije prijavljivanja jedva da štite maloljetnike. Izveštaj otkriva i poražavajuću statistiku: kada obični korisnici prijave kršenja zaštite mladih, vlasnici platformi reaguju u samo dva odsto slučajeva. S druge strane, kada se uključe zvanične institucije poput Jugendschutz.net-a, platforme djeluju u gotovo svim slučajevima.
Politika zaostaje za razvojem
Predstavljajući godišnji izvještaj, savezna ministarka za porodicu Karin Prin (CDU) nazvala je sve to "zastrašujućom stvarnošću" sa kojom su djeca i mladi uglavnom suočeni bez ikakve zaštite.
"Još smo daleko od toga da djeci i mladima omogućimo bezbjedno i bezbrižno učešće u digitalnom svijetu", rekla je Prin. Potrebni su "bezbjednost, zaštita i jasna pravila" koja "konačno moraju da drže korak sa tehnološkim razvojem".
Međutim, upravo tu nastaju problemi. U Evropskoj uniji od 2024. godine važi Zakon o digitalnim uslugama (Digital Services Act - DSA). On obavezuje pružaoce usluga da osiguraju "visok nivo bezbjednosti i privatnosti" za maloljetnike. Platforme moraju aktivno da analiziraju rizike i svoje usluge učine bezbjednim za djecu. To podrazumijeva, na primjer, da profili mladih podrazumijevano budu privatni.
Algoritmi koji preporučuju dodatni sadržaj treba da se prilagode, a funkcije koje podstiču zavisnost, poput automatske reprodukcije ili "puš" (push) obavještenja, treba da se ograniče. Prema riječima ministarke Prin, svako četvrto dijete već pokazuje rizično ili zavisničko korišćenje društvenih mreža. Na nivou EU u pripremi je i Zakon o digitalnoj pravičnosti (Digital Fairness Act - DFA). Njime se želi ciljano djelovati protiv "dizajnerskih praksi koje stvaraju zavisnost i štetne su", kao i ograničiti upotreba vještačke inteligencije na društvenim mrežama.
Regulacija završava na sudu
Ključno pitanje je verifikacija starosti. Jednostavne izjave korisnika se više ne smatraju dovoljnim, ali još uvijek nema tehničkih rješenja koja se ne mogu lako zaobići. U Australiji, gdje od decembra 2025. godine važi starosno ograničenje za mlade pri korišćenju društvenih mreža, uspjesi su zasad ograničeni. U prvim studijama, više od polovine mladih ispod 16 godina i dalje je bilo aktivno na platformama.
Problem je i to što platforme ne žele da izgube unosan posao koji ostvaruju zahvaljujući pažnji korisnika, a polarizujući ili emocionalno nabijeni sadržaji privlače je najviše.
Ministarka Prin je istakla da se praktično svaka regulacija pravno osporava, te da prolaze godine dok se ti slučajevi ne riješe pred evropskim sudovima.
Borba u okviru mogućeg
Riječ je o teškoj borbi, ali ministarka za porodicu insistira na dosljednosti. "Ko želi da zaštiti djecu, mora biti spreman da se suoči sa strukturama moći u digitalnom svijetu i, ako treba, da se sukobi sa njima".
Ona ističe da se mora postići to da država više ne zaostaje za tehnološkim razvojem.
Do tada važi rečenica koju je Prin takođe izgovorila prilikom predstavljanja godišnjeg izveštaja Jugendschutz.net-a: "Vlasti pokušavaju da se bore protiv ekscesa u okviru postojećih propisa".
