AI nas uči pogrešno? BBC otkrio šokantnu istinu koju mnogi ignorišu

Novo istraživanje BBC-ja otkriva zabrinjavajuću istinu, više od polovine odgovora koje generišu popularni AI alati sadrži greške, izmijenjene citate ili potpuno netačne informacije.

Prema analizi koju je sproveo BBC, više od polovine odgovora koje generišu popularni AI alati sadrži ozbiljne probleme, uključujući netačne informacije, izmijenjene citate i pogrešno interpretirane činjenice.

BBC je testirao četiri vodeća AI sistema - ChatGPT, Microsoft Copilot, Google Gemini i Perplexity, tako što im je postavio 100 pitanja o aktuelnim vijestima i tražio da koriste BBC kao izvor.

Rezultati su zabrinjavajući:

1. čak 51% odgovora imalo je "značajne probleme"
2. oko 19% odgovora sadržalo je činjenične greške (pogrešni datumi, brojke i tvrdnje)
3. u 13% slučajeva citati su bili izmijenjeni ili potpuno izmišljeni

Drugim riječima, AI često zvuči uvjerljivo, ali to ne znači da je tačan.

Najveći problem, prema istraživanju, jeste tačnost informacija. AI modeli ponekad:

1. miješaju stare i nove informacije
2. pogrešno pripisuju izjave izvorima
3. dodaju kontekst koji ne postoji u originalnom tekstu

U pojedinim slučajevima, sistemi su čak iznosili tvrdnje koje se uopšte ne nalaze u originalnim BBC člancima.

BBC upozorava da je najveći rizik u tome što korisnici imaju tendenciju da vjeruju odgovorima kada AI navede pouzdan izvor poput poznatih medija. Drugim riječima, čak i kada je informacija pogrešna, činjenica da je "potkrijepljena" brendom kao što je BBC može dodatno da zavara korisnike.

Stručnjaci upozoravaju da bi ovakvi propusti mogli ozbiljno da naruše povjerenje u medije i dodatno zakomplikuju borbu protiv dezinformacija.

Iako AI alati postaju sve napredniji, ovo istraživanje pokazuje da i dalje imaju velike slabosti kada je u pitanju razumijevanje konteksta i tačno prenošenje informacija.

Vještačka inteligencija može biti koristan alat, ali ne i pouzdan izvor vijesti bez dodatne provjere.