foto: Pexels / Pixabay

ANALIZA

“Awful, but lawful”: Implicitni ekstremistički sadržaj i mit o “sivoj zoni”

Katarina Bogićević, Fakultet političkih nauka

Izvor: https://www.europarl.europa.eu/topics/en/article/20210121STO96105/radicalisation-in-the-eu-what-is-it-how-can-it-be-prevented

Rastući problem onlajn ekstremističkog sadržaja predstavlja jedan od ključnih izazova sa kojim se suočavaju savremena društva širom sveta. Digitalna kultura i specifični obrasci komunikacije povezani sa njom omogućili su razvoj novih, sofisticiranih instrumenata i strategija isključivanja i radikalizacije. Naizgled bezazleni humorističan i ironičan sadržaj, uključujući i “mimove za mase” i različite kulturne kodove, sve češće se koristi radi prikrivanja i normalizacije ekstremističkih poruka. Ovi sadržaji su namerno dvosmisleni: autsajderima zbunjujući i provocirajući, a insajderima emotivno rezonantni i mobilišući.  Njihova funkcija takođe je dvostruka –  s jedne strane omogućavaju uverljivo poricanje namere i izbegavanje moderacije i odgovornosti, dok s druge jačaju osećaj pripadnosti grupi, povećavaju angažovanost i legitimizuju ideološki isključive narative.

Upravo upotreba ovakvih metoda kognitivnog odvraćanja u procesu interpretacije poruka zamagljuje granicu između zakonitog slobodnog izražavanja i nezakonitog podsticanja na nasilje. U taj prostor „sive zone“ smešta se tzv. „granični sadržaj“ (eng. borderline content) –kategorija koja istovremeno izmiče jasnoj pravnoj kvalifikaciji i izaziva značajne društvene i političke posledice. Označavanje određenog onlajn sadržaja kao „graničnog“ sugeriše privremenu ili benignu dvosmislenost, iako u praksi uglavnom deluje kao mehanizam proizvodnje i normalizacije nasilja, isključivanja i dehumanizacije manjinskih društvenih grupa, kao i delegitimizacije demokratskih institucija. Dodatno, ovakva klasifikacija doprinosi depolitizaciji problema i odlaganju institucionalne reakcije, premeštajući teret dokazivanja štete na one koji su već izloženi i ranjivi (npr. etničke i verske manjine, migranti, LGBTQ+ osobe, politički disidenti i novinari). Zbog navedenih ograničenja, u poslednje vreme se zagovara upotreba pojma „implicitni ekstremistički sadržaj“, kao analitički i normativno preciznijeg okvira koji razotkriva zamaskirane ekstremističke prakse i preusmerava fokus na njihove strukturalne štetne efekte i sistemske rizike, u skladu sa standardima zaštite ljudskih prava.

EU regulatorni okvir: dometi i ograničenja

Iako regulatorni okviri poput Uredbe Evropske unije (EU) o širenju terorističkog sadržaja na internetu (TCO) i Akta o digitalnim uslugama (DSA), kao i uslovi korišćenja (ToS) pružalaca usluga hostovanja (HSP), nude smernice za moderaciju eksplicitno nezakonitog sadržaja, oni ostaju neadekvatno opremljeni za prepoznavanje kodiranih i suptilnih ekstremističkih poruka. Nejasne i često široke definicije, kao i različita tumačenja među nacionalnim jurisdikcijama ostavljaju platforme bez neophodnih smernica i operativnih uputstava. Oslanjanje na pitanje zakonitosti sadržaja dodatno sužava prostor za delovanje, jer implicitni ekstremistički narativi funkcionišu ispod ovog praga. Time se odgovornost za procenu složenih političkih i društvenih rizika faktički prebacuje na privatne platforme i proizvodi se prostor institucionalne pasivnosti, u kome se pozivanje na slobodu izražavanja često koristi kao alibi za izostanak proporcionalne i kontekstualne intervencije. Čak i u domenu prevencije radikalizacije, normativni okvir EU i dalje je pretežno usmeren na suzbijanje rizika od terorizma i nasilnog ekstremizma (VE), dok su nove forme ekstremističkog delovanja sa štetnim kumulativnim učinkom na društvenu koheziju i ljudska prava, posebno već marginalizovanih i ranjivih grupa, nedovoljno sistematski prepoznate.

Domaći teren: Ekosistem, a ne incidenti

Pored spore harmonizacije sa evropskim zakonodavnim okvirom i njegove nedosledne primene, u lokalnom kontekstu javlja se dodatna strukturna poteškoća: ekstremistički diskurs ne dolazi samo sa margina, već se neretko proizvodi i reprodukuje iz samog centra političke i medijske moći. U takvom okruženju, implicitni ekstremistički sadržaj je neodvojivi deo šireg diskurzivnog ekosistema u kom štetni narativi cirkulišu između alternativnih platformi, onlajn afektivnih zajednica, provladinih tabloidnih medija, kao i javnih političkih performansa, što pojačava njihov efekat i postepeno pomera granice društveno prihvatljivog. Proces mejnstrimizacije ekstremne politike u Srbiji, naročito na desnici, u kombinaciji sa institucionalizacijom čak i eksplicitnih formi radikalizujućih praksi, znatno otežava detekciju i regulisanje implicitnog ekstremističkog sadržaja. U tom smislu, Srbija predstavlja specifičan evropski primer, u kom se elementi anti-sistemskog ekstremizma paradoksalno proizvode iz centra vlasti, čime se dugoročno podriva demokratski poredak, produbljuje društvena polarizacija i sužava prostor za politički pluralizam. U takvom ambijentu, suptilni oblici ekstremističkog sadržaja prolaze ispod radara i postaju normalizovan vid političke i svakodnevne komunikacije.

Korak napred, dva nazad: Zašto su ljudski moderatori nezamenljivi?

Sa razvojem automatizovanih sistema za detekciju, uključujući alate zasnovane na veštačkoj inteligenciji (AI), identifikacija otvorene terorističke propagande i pojedinih oblika nezakonitog sadržaja relativno je unapređena. Međutim, ovi sistemi imaju ozbiljna ograničenja u tumačenju konteksta, kulturnih nijansi, humora, ironije i kodiranih referenci, svega neophodnog za efikasno  i proporcionalno tretiranje implicitnog ekstremističkog sadržaja. Pritom, zakazuju u proceni namere, podteksta i verovatnoće nastanka štete, što dovodi do povećanja i lažno negativnih i lažno pozitivnih rezultata. Da stvar bude gora, algoritmi na kojima se zasnivaju neretko amplifikuju štetan sadržaj radi povećanja korisničkog angažmana.

Zbog toga, uloga ljudskih moderatora, sposobnih da dekodiraju i kontekstualizuju suptilne značenjske slojeve, ostaje nezamenljiva. Aktuelni trend otpuštanja i smanjivanja broja ovih profesionalaca u korist automatizovanih sistema je zabrinjavajući – složena i promenljiva priroda problema zahteva da platforme kombinuju AI-posredovano preliminarno filtriranje sa adekvatno obučenim ljudskim moderatorima. To ne podrazumeva da se vlade mogu osloniti na inicijativu velikih tehnoloških kompanija, naprotiv, moraju razviti regulatorne okvire koji će sprečiti da logike profita i duboko ukorenjene asimetrije moći između privatnih platformi, države i pojedinaca-korisnika potisnu demokratski nadzor i privatizuju odgovornost. Izgleda da u tom raskoraku leži najveći izazov.