foto: Thomas Ulrich / Pixabay

Već više od 3 godine, Evropska Unija raspravlja o predlogu Uredbe o sprečavanju i borbi protiv seksualnog zlostavljanja dece (Child Sexual Abuse Regulation – CSAR), sveobuhvatnom regulatornom okviru koji, između ostalog, predviđa mere za otkrivanje materijala koji sadrži prikaze seksualnog zlostavljanja dece. U kritičkoj javnosti predlog je poznat pod nazivom “Chat Control” zbog dalekosežnih implikacija koje široko ili obavezno skeniranje komunikacija od strane tehnoloških kompanija može imati po pravo na privatnost, poverljivost komunikacija, zaštitu podataka o ličnosti i druga osnovna prava. Ova linija argumentacije ukazuje na paradoks koji leži u srži predloga: mere predstavljene kao zaštitne mogu istovremeno proizvesti šire štetne posledice po digitalna prava i transformisati zamišljenu infrastrukturu digitalne bezbednosti u prostor masovnog nadzora. Evropske organizacije civilnog društva koje se bave zaštitom digitalnih prava posebno upozoravaju na efekat hlađenja (chilling effect), rizik od lažno pozitivnih nalaza, nesrazmeran uticaj na ranjive društvene grupe, kao i širenje nadzornih praksi izvan prvobitno definisane svrhe. O dubini neslaganja unutar samih EU institucija svedoči i činjenica da je nedavno održana peta runda formalnih pregovora, trilateralni dijalog o Uredbi, završena bez postizanja konsenzusa o spornim pitanjima.

Zastoj u tranziciji: između privremene derogacije i konsolidovanog regulatornog okvira

Dinamiku ovih pregovora dodatno je zakomplikovao potez Evropske komisije u decembru prošle godine kada je predloženo ponovno produženje privremene ePrivacy derogacije (aka “Chat Control 1.0”). Evropski parlament glasao je protiv predloga čime je privremeni režim istekao 3. aprila tekuće godine, dok istovremeno novi regulatorni okvir nije usaglašen. Zagovornici produženja derogacije isticali su da je time stvoreno stanje pravne nesigurnosti za pružaoce digitalnih usluga, uz posledice po sposobnost kompanija da nastave sa dobrovoljnim skeniranjem komunikacija i otkrivanjem CSAM, rizikujući zaštitu dece. Ipak, predlog je usled snažnih političkih pritisaka ubrzo vraćen na odlučivanje, a putem proceduralnog manevra koji su izveli poslanici većinske grupacije Evropske narodne stranke (EPP), uz podršku predsednice Parlamenta. Za odbijanje predloga je sada bila potrebna apsolutna većina, čime je omogućeno da 9. jula on na kraju bude usvojen uprkos tome što se većina poslanika izjasnila protiv (314, naspram 276 za). U tom kontekstu, ovakav ishod potencijalno podgreva sumnju da je moguće osigurati demokratsku legitimnost procesa usaglašavanja dugoročnog CSAR okvira.

Zaštita dece na internetu: Opasnosti mehanizama opšte verifikacije uzrasta

Iako se verifikacija uzrasta naizgled ne nalazi u središtu CSAR predloga, ona predstavlja komplementarni pristup u okviru šireg evropskog nastojanja da se unapredi zaštita dece u digitalnom prostoru. Ovo podrazumeva primenu modela koji uslovljavaju pristup određenim digitalnim uslugama dostavljanjem identifikacionih dokumenata, biometrijskih podataka ili drugih podataka o identitetu korisnika. Naime, Komisija i Savet EU nastoje da verifikaciju uzrasta učine obaveznom za usluge koje bi, prema CSAR, bile označene kao rizične. Do sada predviđeni kriterijumi za procenu rizika upućuju na to da bi svaka usluga koja obezbeđuje visok nivo bezbednosti i zaštite privatnosti automatski mogla biti klasifikovana kao rizična, što pojačava zabrinutost oko pomeranja čitave logike modela evropskog digitalnog upravljanja ka neopravdanom i neproporcionalnom nadzoru. Ključni prigovor tiče se izostanka ubedljivih dokaza da bi široka primena mehanizama verifikacije uzrasta uopšte efikasno unapredila bezbednost dece na internetu. S druge strane, procene su da bi takva rešenja najviše pogodila upravo one društvene grupe koje već imaju ograničen pristup digitalnim resursima ili su strukturno diskriminisane, te oslabila mogućnost anonimnog učešća u digitalnom prostoru, koje predstavlja važan element zaštite novinara, uzbunjivača, aktivista i drugih ranjivih aktera. To ne znači da treba odustati od unapređenja prevencije i borbe protiv seksualne i drugih oblika eksploatacije dece, već da se dizajnirane mere moraju zasnivati na realnoj delotvornosti i biti usklađene sa principima nužnosti, proporcionalnosti i zaštite osnovnih prava.

Premda na nivou EU još uvek ne postoji jedinstven i obavezujući režim verifikacije uzrasta, pojedine države članice već eksperimentišu sa različitim modelima ograničavanja pristupa ili raspravljaju o njihovom uvođenju, dok Evropska komisija razvija zajedničke standarde koji bi omogućili primenu ovakvih mehanizama. Komisija je već predstavila tehničko rešenje koje države članice i druge javne ili privatne organizacije treba prvo da prilagode kako bi postalo dostupno kao samostalna aplikacija ili kao deo postojećih nacionalnih novčanika evropskog digitalnog identiteta.

Amplifikacija rizika: EU rešenja na domaćem terenu?

EDRi (European Digital Rights), uticajna mreža organizacija civilnog društva, postavlja jedno prosto, a suštinsko pitanje:

Da li biste se osećali slobodno da učestvujete u aktivizmu, razgovarate sa novinarima, razmenjujete poruke sa prijateljima ili komunicirate sa partnerom kada biste znali da se vaše komunikacije povezuju sa vašim biometrijskim podacima ili ličnom kartom?

Ukoliko niste to učinili odmah, sada zamislite da ste ujedno građanka ili građanin Srbije, u kojoj su u poslednjih par godina zabeležene sve učestalije i ozbiljnije zloupotrebe mehanizama državnog nadzora i kontrole, uključujući korišćenje (i razvoj) invazivnih špijunskih softvera, u svrhe praćenja i targetiranja političkih protivnika vlasti, novinara i “neposlušnih” građana koje treba “disciplinovati”. U takvom političkom i institucionalnom okruženju, evropska rešenja mogu poprimiti sasvim drugačije obrise.

Trenutno, Srbija nema uporediv regulatorni okvir koji bi omogućio opšte skeniranje privatnih komunikacija radi otkrivanja CSAM-a, ili zahtevao od svih korisnika potvrdu uzrasta na različitim platformama. Međutim, treba upozoriti da razvoj evropskog modela otvara širi proces regulatorne difuzije: mogućnost da se proširivanje nadzornih kapaciteta legitimiše pozivanjem na evropske standarde i obavezu usklađivanja sa EU.  U tom smislu, debata oko Chat Control-a nije relevantna samo kao evropsko pitanje digitalnih prava, već i kao  signal budućeg pravca digitalnog upravljanja u državama kandidatima.

Autorka: Katarina Bogićević