Ilustracija
Manjkavost vještačke inteligencije, nedostatak osoblja, kao i druge brojne ograničavajuće okolnosti dovele su do toga da video ubistva žene u Gradačcu bude objavljen, ali i da ostane više od tri sata na Instagramu, smatraju stručnjaci digitalne i sajber bezbjednosti koji su govorili za Radio Slobodna Evropa.
Algoritmi društvenih medija su notorno neefikasni, posebno za slike ili nepisani sadržaj, ocijenila je Caitlin Chin, ekspert za tehnološku regulativu u Sjedinjenim Državama i inostranstvu iz Centra za strateške i međunarodne studije (CSIS).
Smatra da su posljedice objavljivanja i dugog zadržavanja videa ubistva žene iz Gradačca, iz Bosne i Hercegovine, strašne i da ukazuju na neophodne promjene unutar kompanije Meta.
Nizamu Hećimović ubio je bivši partner Nermin Sulejmanović u videu uživo na Instagramu.
Trebala su tri sata da ovaj video bude uklonjen, a računi Sulejmanovića blokirani. U međuvremenu, on je još jednom uživo na Instagramu govorio o ubistvima i pitao publiku da mu kaže koliko je tačno ljudi ubio.
Iz Mete, kompanije u okviru koje je i Instagram, za Radio Slobodna Evropa kažu da su uklonili video, preduzeli korake da spriječe moguće ponovno dijeljenje kopija i da pomažu bh. agencijama u istragama.
“Kada je u pitanju sadržaj uživo, koristimo AI klasifikatore da proaktivno identifikujemo potencijalno kršeći sadržaj u liveu – kao što to činimo i na Facebooku i Instagramu – i odgovaramo na prijave naše zajednice”, rekli su iz Mete.
Zašto je trebalo toliko vremena?
Međutim, ekspert za tehnološku regulativu Chin kaže da su brojne ograničavajuće okolnosti dovele do toga da nasilni sadržaj prođe “filtere” Instagrama.
“Budući da ljudi koji su recenzenti često nisu u mogućnosti analizirati milijarde postova na društvenim mrežama, Instagram koristi algoritme za traženje napisanih ključnih riječi ili fraza.
Za nepisani sadržaj kao što su fotografije ili videozapisi, platforme društvenih medija će često koristiti softver koji automatski identifikuje sadržaj na slikama, na primjer, pištolj, automobil ili policija, a zatim će pokušati to pretvoriti u pisani tekst, što će algoritam naknadno skenirati.”
Navodi i da platforme mogu pretvoriti govorni sadržaj u pisani tekst koji algoritmi mogu skenirati.
“Međutim, generalno gledano, trenutne tehnologije za analizu nepisanih slika su manje precizne nego za pisani tekst – ovo je oblast u kojoj sam softver jednostavno nije adekvatan”, kaže Chin.
Na kraju, softver često ne pravi razliku između konteksta ili nijansi videa (na primjer, ako je scena nasilja isječak iz predstave ili filma ili pravi čin nasilja).
“Tako da su nam potrebni ljudski recenzenti da takođe pregledaju barem najozbiljnije videozapise koje su prijavili korisnici”, rekla je Chin za RSE.
Claudio Agosti, osnivač Tracking Exposed platforme i sofvera za analiziranje algoritama društvenih mreža, kaže da slučaj videa iz Gradačca pokazuje kako je bilo koja vrsta vještačke inteligencije, a u ovom slučaju, prepoznavanje obrazaca, ustvari manjkava.
“Sadržaj koji će biti postavljen sjutra je po definiciji novi, a vještačka inteligencija je istrenirana na onome što je ranije prikazivano.”
Agosti pojašnjava da što je mehanizam upozorenja “labaviji”, da će biti i više lažno pozitivnih rezultata.
“Recimo, da li ste znali da pješčane dine često znaju biti identifikovane kao golo tijelo?
Dalje, navodi i da je proces moderacije skup, da se radi o velikom trošku, a da svaka kompanija mora da radi na optimizaciji.
“Optimizacija znači da se određeni sadržaj skenira površnije ili da se skenira kasnije.”
“Naravno, čak i ako automatsko skeniranje ne podigne uzbunu, moderatori mogu da intervenišu obradom kroz mehanizam prijava. No, čak i ljudski sistem ima cijenu i u ovom slučaju je trebalo tri sata da ih se konsultuje.”
Saša Petrović, inspektor u odsjeku za borbu protiv sajber bezbjednosti Federalne uprave policije, kaže da deseci TikTok računa dijele video ubistva.
“Policijske agencije iz BiH imaju linkove prema Meti i ostalim društvenim mrežama, imaju opcije zamrzavanja podataka, banovanja korisnika… Dobio sam odobrenje policije iz Tuzle u petak, 11. augusta, i obratio sam se administratoru Mete. Za nekih 20-ak minuta je taj video uklonjen, kao i nalog”, kaže za RSE Petrović.
S druge strane, kaže, da on lično nema vezu s administratorima TikToka i da ne može djelovati u tom pravcu.
Ono što je najavilo Federalno ministarstvo unutrašnjih poslova jeste evidentiranje osoba koje su na bilo kojoj društvenoj mreži veličale počinioca i ubistva koja je počinio.
“Kolege koje rade u FUP-u prikupljaju informacije o svim korisničkim računima, i ovima na TikToku koji dijele video, ako dobijemo dozvolu iz MUP-a i Tužilaštva, onda ćemo krenuti u pribavljanje podataka o korisnicima i sankcionisanje”, kaže inspektor.
Smatra da bi moglo da se govori o krivičnom djelu podstrekivanje na ubistvo ili prekršaju javnog reda i mir, ali da o tome svakako treba odlučiti postupajući tužilac nakon istrage.
Ministarstvo unutrašnjih poslova Tuzlanskog kantona sprovodi istragu nakon trostrukog ubistva, te pokušaja ubistva tri osobe u Gradačcu, na sjeveru BiH. Nermin Sulejmanović je ubio partnerku koja ga je nekoliko dana ranije prijavila policiji zbog nasilja. Istražuju se i osobe koje su u prenosu uživo podržavale Sulejmanovića.
Dvije dimenzije, ljudska i tehnička
Darko Obradović iz Centra za stratešku analizu u Beogradu kaže da, osim tehničke dimenzije, algoritma koji bi trebao prepoznati određeni sadržaj koji je u skladu s uslovima korištenja, a koji je eksplicitno zabranjuje nasilje, nasilne scene, postoji i ljudski, socijalni.
“A on nam kaže da smo svi otupjeli i izgubili osnovne vrijednosti bezbjednosne kulture gdje je svima daleko dragocjenije da snimak podijele, da snimak pogledaju umjesto da, na primjer, pozovu policiju i kada se ukrste te dvije dimenzije onda dobijamo nešto što se zove izvršenje zločinačkog plana na koji niko nije reagovao”, kaže Obradović.
Smatra da na Balkanu nedostaje samosvijesti te da većina ljudi ima visoku toleranciju na nasilje.
“Ima onaj meme koji pokazuje da kad se jedan čovjek davi, svi ostali snimaju za društvene mreže. Ne prepoznajemo rane znakove upozoravanja i ovdje nije toliko problem u društvenoj mreži, koliko je problem o samim korisnicima”, smatra Obradović.
Nemoguće reagovati u trenutku dok se dešava
“Ubeđenja sam da nije bilo moguće u brzom vremenskom periodu reagovati i ukloniti taj sadržaj”, kaže za RSE Miloš Jovanović iz OpenLink grupe iz Beograda, agencije koja pruža usluge razvoja i edukacije u oblastima Informaciono-komunikacionih tehnologija.
“Vi aktivirate određenu opciju za prenos uživo video snimka, to se snima, prenosi itd. već u tom momentu ljudi u realnom vremenu vide šta vi radite. E sad, kad se završi snimanje, taj snimak ostane i u konkretnom slučaju bilo je potrebno nekom nekoliko minuta ili dva-tri sata da pogleda o čemu se radi i da to ukloni. Znači, to je ipak neka manuelna aktivnost koja morala biti da kažem, sprovedena, da bi se taj snimak uklonio”, kaže Jovanović.
Smatra da će proći još nekoliko godina da bi ovakve stvari mogle biti spriječene u realnom vremenu.
“Ovdje se postavlja pitanje, da kažem, korištenja društvenih mreža u takve svrhe, zato što je on imao publiku, imao je dosta ljudi koji će to vidjeti. Ali u tehnološkom smislu svako može ovo da uradi”, zaključuje Jovanović.
Izvor: Radio Slobodna Evropa
