Instagram je odlučio da pojača svoju borbu protiv trolova, uz pomoć veštačke inteligencije.
Korišćenje društvenih mreža dolazi sa neželjenim rizikom susretanja sa govorom mržnje i uvredljivim komentarima. Kompanije iza tih medija konstantno traže nove načine da se bore protiv govora mržnje i sada se Instagram okreće ka logičnom sledećem koraku: Veštačkoj inteligenciji.
Prošle godine, Instagram je ubacio filter ključnih reči koji vam je omogućavao da automatski uklonite određene uvredljive reči koje se mogu pojaviti na vašoj strani. Alat je uklanjao reči koje su često prijavljivane kao nepristojne i dozvoljavao vam da podesite određene ključne reči, ali borba protiv trolova zna biti iscrpljujuća, zato što konstantno pronalaze nove uvredljive reči i izraze.
“...trolovi su pronalazili načine da zaobiđu filtere od kako je internet nastao, koristeći pogrešno napisane psovke ili ponekad stvarajući potpuno nove.“
Ovaj novi filter pokušava da zaobiđe ove probleme, koristeći mašinsku inteligenciju. Instagram koristi AI da pokuša razumeti kontekst oko uvredljivog govora i da se reši zlostavljanja čak i kada ne aktivira određene ključne reči. Ovo bi trebalo da reši igru mačke i miša koja je prisutna u borbi protiv komentara mržnje, iako trenutno radi samo na engleskom jeziku.
TNW prenosi više detalja o ovom AI sistemu, koji se zove DeepText i načinu kako identifikuje uvredljiv govor. Na primer, razume da reč belo nije uvredljiva kao boja, ali da “bela nadmoć“ može biti uvredljiva mnogima.
Naravno definisanje govora mržnje će uvek biti mutna tema i postoje rizici od grešaka. Šta ako citirate takav govor sa kojim se ne slažete, u svrhu odgovora na primer?Da ne spominjemo reči koje imaju drugačija značenja u drugačijim situacijama.
Ali sistem bi trebao da postaje pametniji tokom vremena, kao što AI i biva. Ipak ako vam se ideja robotskog mozga koji odlučuje šta je uvredljivo a šta ne, ne dopada, onda imate opciju da ga isključite u sekciji za komentare na Instagram podešavanjima. Ova mreža takođe koristi DeepText da identifikuje spam, što je nešto oko čega možemo da se složimo da zaslužuje uklanjanje.