foto: Pexels / Pixabay

Rastući problem onlajn ekstremističkog sadržaja predstavlja jedan od ključnih izazova sa kojim se suočavaju savremena društva širom sveta. Digitalna kultura i specifični obrasci komunikacije povezani sa njom omogućili su razvoj novih, sofisticiranih instrumenata i strategija isključivanja i radikalizacije. Naizgled bezazleni humorističan i ironičan sadržaj, uključujući i „mimove za mase“ i različite kulturne kodove, sve češće se koristi radi prikrivanja i normalizacije ekstremističkih poruka. Ovi sadržaji su namerno dvosmisleni: autsajderima zbunjujući i provocirajući, a insajderima emotivno rezonantni i mobilišući.  Njihova funkcija takođe je dvostruka –  s jedne strane omogućavaju uverljivo poricanje namere i izbegavanje moderacije i odgovornosti, dok s druge jačaju osećaj pripadnosti grupi, povećavaju angažovanost i legitimizuju ideološki isključive narative.

Upravo upotreba ovakvih metoda kognitivnog odvraćanja u procesu interpretacije poruka zamagljuje granicu između zakonitog slobodnog izražavanja i nezakonitog podsticanja na nasilje. U taj prostor „sive zone“ smešta se tzv. „granični sadržaj“ (eng. borderline content) – kategorija koja istovremeno izmiče jasnoj pravnoj kvalifikaciji i izaziva značajne društvene i političke posledice. Označavanje određenog onlajn sadržaja kao „graničnog“ sugeriše privremenu ili benignu dvosmislenost, iako u praksi uglavnom deluje kao mehanizam proizvodnje i normalizacije nasilja, isključivanja i dehumanizacije manjinskih društvenih grupa, kao i delegitimizacije demokratskih institucija. Dodatno, ovakva klasifikacija doprinosi depolitizaciji problema i odlaganju institucionalne reakcije, premeštajući teret dokazivanja štete na one koji su već izloženi i ranjivi (npr. etničke i verske manjine, migranti, LGBTQ+ osobe, politički disidenti i novinari). Zbog navedenih ograničenja, u poslednje vreme se zagovara upotreba pojma „implicitni ekstremistički sadržaj“, kao analitički i normativno preciznijeg okvira koji razotkriva zamaskirane ekstremističke prakse i preusmerava fokus na njihove strukturalne štetne efekte i sistemske rizike, u skladu sa standardima zaštite ljudskih prava.

EU regulatorni okvir: dometi i ograničenja

Iako regulatorni okviri poput Uredbe Evropske unije (EU) o širenju terorističkog sadržaja na internetu (TCO) i Akta o digitalnim uslugama (DSA), kao i uslovi korišćenja pružalaca usluga hostovanja, nude smernice za moderaciju eksplicitno nezakonitog sadržaja, oni ostaju neadekvatno opremljeni za prepoznavanje kodiranih i suptilnih ekstremističkih poruka. Nejasne i često široke definicije, kao i različita tumačenja među nacionalnim jurisdikcijama ostavljaju platforme bez neophodnih smernica i operativnih uputstava. Oslanjanje na pitanje zakonitosti sadržaja dodatno sužava prostor za delovanje, jer implicitni ekstremistički narativi funkcionišu ispod ovog praga. Time se odgovornost za procenu složenih političkih i društvenih rizika faktički prebacuje na privatne platforme i proizvodi se prostor institucionalne pasivnosti, u kome se pozivanje na slobodu izražavanja često koristi kao alibi za izostanak proporcionalne i kontekstualne intervencije. Čak i u domenu prevencije radikalizacije, normativni okvir EU i dalje je pretežno usmeren na suzbijanje rizika od terorizma i nasilnog ekstremizma, dok su nove forme ekstremističkog delovanja sa štetnim kumulativnim učinkom na društvenu koheziju i ljudska prava, posebno već marginalizovanih i ranjivih grupa, nedovoljno sistematski prepoznate.

Domaći teren: Ekosistem, a ne incidenti

Pored spore harmonizacije sa evropskim zakonodavnim okvirom i njegove nedosledne primene, u lokalnom kontekstu javlja se dodatna strukturna poteškoća: ekstremistički diskurs ne dolazi samo sa margina, već se neretko proizvodi i reprodukuje iz samog centra političke i medijske moći. U takvom okruženju, implicitni ekstremistički sadržaj je neodvojivi deo šireg diskurzivnog ekosistema u kom štetni narativi cirkulišu između alternativnih platformi, onlajn afektivnih zajednica, provladinih tabloidnih medija, kao i javnih političkih performansa, što pojačava njihov efekat i postepeno pomera granice društveno prihvatljivog. Proces mejnstrimizacije ekstremne politike u Srbiji, naročito na desnici, u kombinaciji sa institucionalizacijom čak i eksplicitnih formi radikalizujućih praksi, znatno otežava detekciju i regulisanje implicitnog ekstremističkog sadržaja. Uprkos tome, pažljivijim praćenjem moguće je identifikovati stabilne ponavljajuće komunikacione obrasce.  Oni obuhvataju, ali nipošto nisu ograničeni na: narative o „unutrašnjim neprijateljima” i „izdajnicima”; o „hibridnom ratu” protiv Srbije i egzistencijalnoj ugroženosti srpskog naroda i države; revizionističke i relativizujuće istorijske reference; kao i anti-rodne i anti-LGBTQ+ narative. U tom smislu, Srbija predstavlja specifičan evropski primer, u kom se elementi anti-sistemskog ekstremizma paradoksalno proizvode iz centra vlasti, čime se dugoročno podriva demokratski poredak, produbljuje društvena polarizacija i sužava prostor za politički pluralizam. U takvom ambijentu, suptilni oblici ekstremističkog sadržaja prolaze ispod radara i postaju normalizovan vid političke i svakodnevne komunikacije.

Korak napred, dva nazad: Zašto su ljudski moderatori nezamenljivi?

Sa razvojem automatizovanih sistema za detekciju, uključujući alate zasnovane na veštačkoj inteligenciji (AI), identifikacija otvorene terorističke propagande i pojedinih oblika nezakonitog sadržaja relativno je unapređena. Međutim, ovi sistemi imaju ozbiljna ograničenja u tumačenju konteksta, kulturnih nijansi, humora, ironije i kodiranih referenci, svega neophodnog za efikasno  i proporcionalno tretiranje implicitnog ekstremističkog sadržaja. Pritom, zakazuju u proceni namere, podteksta i verovatnoće nastanka štete, što dovodi do povećanja i lažno negativnih i lažno pozitivnih rezultata. Da stvar bude gora, algoritmi na kojima se zasnivaju neretko amplifikuju štetan sadržaj radi povećanja korisničkog angažmana. Zbog toga, uloga ljudskih moderatora, sposobnih da dekodiraju i kontekstualizuju suptilne značenjske slojeve, ostaje nezamenljiva. Aktuelni trend otpuštanja i smanjivanja broja zaposlenih moderatora u korist automatizovanih sistema je zabrinjavajući – složena i promenljiva priroda ovog fenomena zahteva da platforme kombinuju AI-posredovano preliminarno filtriranje sa adekvatno obučenim ljudskim moderatorima. Ipak, vlade se ne smeju osloniti isključivo na inicijativu privatnih kompanija, već moraju razviti regulatorne okvire koji će sprečiti da logike profita i duboko ukorenjene asimetrije moći između platformi, države i pojedinaca-korisnika potisnu demokratski nadzor i privatizuju odgovornost. Izgleda da u tom raskoraku leži najveći politički izazov.