Home VestiPolitika i društvo„Nije dovoljno reći detetu da ne klikće“: Šta kad algoritmi donose i govor mržnje?

„Nije dovoljno reći detetu da ne klikće“: Šta kad algoritmi donose i govor mržnje?

by bifadmin

Deca u Srbiji su najviše izložena govoru mržnje na internetu u odnosu na vršnjake iz ukupno 19 evropskih zemalja, pokazalo je nedavno predstavljeno veliko istraživanje. U odnosu na prethodno, beleži se zabrinjavajući rast od skoro 30 procentnih poena.

Mladi u Srbiji od 11 do 17 godina najviše su izloženi govoru mržnje na internetu, pokazuje istraživanje sprovedeno u 19 evropskih zemalja.

U istraživanju “EU kids online 2025/26″ navedeno je da izloženost štetnim sadržajima i govoru mržnje predstavlja važan aspekt onlajn iskustva dece.

Tijana Milošević, sa Filološkog fakulteta u Beograda, koja je učestvovala u istraživanju, kaže za portal N1 da je u Srbiji 74 odsto dece bilo izloženo govoru mržnje u toku prethodne godine, dok je u prethodnom ciklusu istraživanja iz 2018. godine to bio slučaj sa 45 odsto dece.

Ovaj procenat se odnosi ne samo na lično doživljen govor mržnje već na poruke u kojima se generalno izražava mržnja ili ponižavaju ljudi i određene grupe ljudi.

Ona navodi podatak da je velika većina dece, njih 91 odsto, rekla da nije tražila takav sadržaj namerno, a samo devet jeste.

“Prema rezultatima našeg komparativnog izveštaja u 19 evropskih zemalja, u proseku 57 odsto dece od 10 do 16 godina videlo je poruke koje sadrže mržnju u toku prethodne godine. Prema rezultatima izvestaja mreže iz prethodnog ciklusa, tada je 41 odsto dece uzrasta 12 do 16 godina videlo poruke mržnje u toku prethodne godine”, kaže Tijana Milošević za N1.

Nije teško naići na govor mržnje

Ona kaže da iako nisu direktno ispitivali faktore koji doprinose ovakvoj situaciji, jasno je da nije teško naići na govor mržnje na internetu, pošto takvi sadržaji često dobijaju dosta pažnje u vidu pregleda, sviđanja, odgovora i slično (engl. engagement), “a onda su zbog toga često i prioritizovani pri algoritamskom uređivanju sadržaja”.

“Količina sadržaja koji se deli je ogromna, i platforme, čak i uz proaktivnu upotrebu veštačke inteligencije u cilju efikasnijeg suzbijanja ovog sadržaja, imaju poteškoća u suzbijanju istih”, navodi Milošević.

Ona ukazuje i na suptilnije načine da se „prime“ ideje koje su u suprotnosti sa nekim opštim vrednostima ili pravilima na društvenim mrežama. Kako navodi, problematični stavovi i poruke mogu biti povezani sa drugim porukama vezanim za takozvanu samooptimizaciju.

“Postoji i mišljenje da platforme namerno okreću glavu od skidanja ovakvog sadržaja jer su takvi sadržaji često popularni pa doprinose većoj posećenosti platformama. S druge strane, platforme se, brane od ovakvih optužbi uz objašnjenje da zapravo toksicitet odvraća ljude od korišćenja njihovih platformi i zapravo šteti njihovom poslovnom modelu, te da platforme imaju ne samo zakonsku obavezu, već i poslovni interes da ovakve sadržaje uklone”, kaže Milošević.

Odgovornost nikako ne može biti samo na deci i roditeljima

Dobrinka Kuzmanović, koja je takođe učestvovala u istraživanju, smatra da je potpuno izbegavanje govora mržnje na internetu danas veoma teško, jer veliki deo sadržaja deca ne biraju sama, već im preporučuju algoritmi.

“Zato nije dovoljno samo reći detetu da „ne klikće“, već je važno podržati decu da prepoznaju govor mržnje, da ga ne šire dalje, da znaju kako da prijave ili blokiraju sadržaj i kome mogu da se obrate za pomoć. Odgovornost nikako ne može biti samo na deci i roditeljima. Tu su i same platforme, način na koji preporučuju sadržaj, kako ga moderiraju i koliko brzo reaguju kada se prijavi štetan sadržaj. Cilj nije da decu sklonimo sa interneta, već da digitalno okruženje učinimo bezbednijim i da deca imaju dovoljno znanja i podrške da se snađu kada naiđu na problematičan sadržaj”, kaže za portal N1 Kuzmanović.

Milošević smatra da je bitno graditi odnos poverenja sa detetom, gde dete zna da može otvoreno da priča sa roditeljem kada ga nešto uznemiri na mrežama, da će roditelj pružiti razumevanje i podršku, „da zna da mu neće zbog toga biti oduzet telefon ili pristup mrežama, što može generisati strah zbog koga deca nekad ništa ne kažu roditeljima“.

„Roditeljske kontrole i drugi sistemi tehničke podrške se takođe mogu koristiti. Paralelno sa tim, važna je i bolja edukacija u školama na ovu temu. Možda najvažnije iz moje perspektive je edukacija kako kod kuće tako i u školi o tome zašto je ovakva vrsta netrpeljivosti i mržnje prolematična, kako za društvo tako i za pojedinca. Kada su u pitanju dečaci odnosno mladići i menosfera, osvešćivanje o patrijarhatu i mizoginiji, i tome kako se ona može kriti u naizlged bezazlenim sadržajima koji promovišu takozvanu samo-optimizaciju, fitnes, pozitivno razmišljanje”, kaže Milošević.

Normalizacija toksičnosti dostigla vrhunac

Ona smatra da je normalizacija nasilja i toksičnosti u našem javnom diskursu, što uključuje onlajn sferu – i koja je “čini se, dosegla vrhunac prethodnih godina – nešto što je uticalo na porast izloženosti govoru mržnje na koji smo naišli”.

“Nažalost ovaj proces vidim i kao globalan, pogotovo sa normalizacijom mržnje i mizoginog govora kome je doprineo, između kome je doprineo, između ostalog, Tramp, ali i brojni političari desnice u svetu”, kaže Tamara Milošević.

Ona ocenjuje da jačanje zakonskog okvira i bolja primena regulative, jedan od pristupa u smanjivanju uticaja govora mržnje na mlade.

Navodi član 40 “EU Digital Services Act”, koji bi nezavisnim istraživačima trebalo da pruži bolji pristup velikim platformama kako bi mogli da imaju bolji uvid u cirkulaciju sadržaja i efikasnost rešavanja ovih problema od strane platformi. Ovaj zakon obavezuje platforme i da redovno izveštavaju regulatore o tome kako se nose sa ovim problemima i koliko su u tome efikasni. Ipak ističe da postoje i brojni izazovi u pogledu primene i efikasnosti ovih mera, ali postojanje ovakve regulative, bilo je teško zamislivo pre samo desetak godina.

“Tu je i EU kids act, koji treba da pruži dodatne mere u pogledu, između ostalog, algoritamskog uređivanja sadržaja i odgovornosti platformi. Nadam se da će i naša zemlja ići u smeru sistemske regulacije i harmonizacije sa DSA-jem, umesto blanko zabrana pristupa mrežama”, smatra Milošević.

Potencijal za negativne posledice

Kuzmanović navodi da posledice zavise, pre svega, od vrste iskustva koje dete ima, ali i od individualnih karakteristika deteta.

“U okviru našeg istraživanja pravi se razlika između izloženosti sadržajima mržnje, direktne viktimizacije i sopstvenog učestvovanja u kreiranju ili širenju takvih sadržaja. Sama izloženost porukama mržnje ne znači automatski da je dete doživelo psihološku štetu. Deca mogu videti uznemirujući sadržaj, a da ga ne dožive podjednako intenzivno. Međutim, kada je dete direktna meta ili kada se poruke odnose na grupu s kojom se ono snažno identifikuje, potencijal za negativne posledice je veći”, kaže Kuzmanović.

Ona ističe da se tada mogu javiti osećanja straha, poniženja, odbačenosti, nesigurnosti, besa ili tuge, a kod učestalih i intenzivnih iskustava i izraženije teškoće poput anksioznih i depresivnih simptoma, pada samopoštovanja ili povlačenja iz socijalnih odnosa.

“Važan je i širi kontekst: koliko često se sadržaj pojavljuje, koliko dugo traje, da li se deli i ponavlja, uzrast i individualna osetljivost deteta, kao i to da li dete ima osećaj kontrole i podršku vršnjaka ili odraslih osoba od poverenja. Dakle, važno je razlikovati rizik od štete: susret sa problematičnim sadržajem predstavlja rizik, ali ne mora svako dete zbog toga doživeti istu posledicu”, zaključuje Kuzmanović.

Izvor: N1

Foto: Pixabay

Pročitajte i ovo...