Saznajte šta je deepfake, kako funkcioniše, ali i konkretne savjete koji će vam pomoći da prepoznate da li je vještačka inteligencija umiješala svoje prste u ono što gledate.
Deepfake je termin koji se koristi za video, foto ili audio sadržaj koje je nastao uz pomoć vještačke inteligencije, a čiji je cilj imitacija stvarne osobu, situacije ili događaja.
Deepfake sadržaj može u potpunosti biti generisan od nule, a može biti i modifikacija postojećeg materijala. Iako se ova tehnologija često koristi u zabavne svrhe, sve je više primjera u kojima je njena osnovna namjera - obmana.
Zato je veoma važno biti potkovan znanjem koje može pomoći u prepoznavanju deepfake sadržaja.
Zašto deepfake sadržaj može biti problematičan
Kako deepfake sadržaj postaje sve uvjerljiviji, postaje sve teže razlikovati original od falsifikata. Ovo prijeti da uruši povjerenje u izvore informacija - od medija, preko društvenih mreža, pa sve do ličnih komunikacija.
Poseban rizik predstavljaju deepfake materijali koji šire dezinformacije u političke svrhe, kao i oni koji imitiraju javne ličnosti. Etika je posebno na udaru u slučajevima kada se stvarni ljudi prikazuju u kompromitujućem kontekstu, poput deepfake sadržaja za odrasle, bez njihove saglasnosti.
S druge strane, postoje i potencijalno korisne primene. Na primjer, aktivisti za ljudska prava mogu koristiti deepfake tehnologiju kako bi zaštitili identitet osoba koje svedoče o zločinima, dok filmski amateri mogu da prave vizuelne efekte bez velikog budžeta.
Kako nastaje deepfake sadržaj?
Postoje dvije glavne grupe metoda za kreiranje deepfake slika i videa: generativne suparničke mreže (GAN) i difuzioni modeli(diffusion models).
Generativne suparničke mreže (GAN)
GAN se sastoji iz dva dijela - generatora i diskriminatora. Generator pokušava da napravi što uverljiviju lažnu sliku ili video, dok diskriminator pokušava da prepozna da li je sadržaj stvaran ili lažan. Kroz stalno "nadmudrivanje", generator postaje sve bolji u varanju diskriminatora, a rezultat su veoma realistični sadržaji.
Difuzioni modeli
Difuzione mreže funkcionišu tako što uče da rekonstrušu sliku ili video koji je pre toga "zagađen" šumom. Ove mreže mogu da dopune delove slike koji nedostaju i da generišu uvjerljive sadržaje na osnovu tekstualnih upita. Alati kao što su Stable Diffusion i DALL-E koriste ovu metodu i postaju sve popularniji u deepfake zajednici, delom i zato što ih je lakše trenirati od GAN mreža.
Kako prepoznati deepfake sadržaj
Sa napretkom tehnologije, prepoznavanje deepfake sadržaja postaje sve teže. Ipak, i dalje postoje detalji koji mogu da vas upozore da nešto nije kako treba.
Masačusetski institut za tehnologiju (MIT) spoveo je istraživanje i otkrio niz konkretnih savjeta za prepoznavanje deepfake videa, pogotovo kada se radi o licima:
- Obratite pažnju na lice. Većina deepfake videa manipuliše upravo licem.
- Pogledajte obraze i čelo. Da li je koža previše glatka ili neprirodno naborana? Da li se starost kože slaže sa kosom i očima?
- Posmatrajte oči i obrve. Da li senke izgledaju realistično? AI često ne uspjeva da precizno reprodukuje fiziku svjetlosti.
- Proverite naočare. Da li postoji odsjaj? Da li se odsjaj menja kada se osoba pomjeri?
- Pogledajte bradu i brkove. Da li izgledaju prirodno? AI ponekad dodaje ili uklanja dlačice, ali to ne izgleda uvijek uverljivo.
- Obratite pažnju na mladeže. Da li djeluju stvarno ili su zalepljeni?
- Treptanje. Da li osoba trepće prirodno, previše često ili premalo?
- Govor i usne. Da li se pokreti usana poklapaju sa izgovorenim riječima?
S druge strane, Alan Turing institut takođe je podelio nekoliko savjeta koji mogu biti od velike koristi u prepoznavanju deepfake sadržaja:
- Za slike: Obratiti pažnju na nepravilnosti u boji i šumu, naročito kada su pojedini dijelovi lica oštriji ili mutniji od ostatka.
- Za video: Ukoliko postoji zvuk, obratiti pažnju na sinhronizaciju glasa i pokreta usana. Posmatrati da li izostaju spontani pokreti tijela i mikromimika.
Alternativne metode detekcije
Osim površne analize samog sadržaja, detekcija se može vršiti i preko kanala distribucije, tvrdi Alan Turing institut. Na primjer, deepfake sadržaji koji imaju malicioznu svrhu često se šire putem bot naloga ili trolova na društvenim mrežama. Praćenje njihove aktivnosti, lokacije i metapodataka može pomoći u identifikaciji problema čak i prije analize konkretnog fajla.
Da li možete da prepoznate deepfake sadržaj?
Ukoliko vjerujete da ste spremni da prepoznate deepfake sadržaj, posetite sajt Nortvestern univerziteta, koji je razvio interesantan kviz za proveru upravo te sposobnosti. Javite nam rezultate!
(MONDO)