Prilikom testiranja, DeepSeek R1 nije blokirao nijedan problematičan upit.

Kineski AI čet-bot DeepSeek privukao je veliku pažnju svjetske javnosti svojim sposobnostima, ali i tvrdnjama istoimene kompanije o niskim cijenama razvoja u poređenju sa ostalim popularnim rješenjima. Međutim, stručnjaci sada tvrde da da ova vještačka inteligencija ima ozbiljne probleme kada je bezbjednost u pitanju.
Istraživački tim kompanije Cisco koristio je posebne tehnike zaobilaženja zaštite kako bi testirao DeepSeek R1 "protiv 50 nasumičnih upita iz HarmBench skupa podataka", koji obuhvata šest kategorija problematičnog ponašanja, uključujući sajberkriminal, dezinformacije, ilegalne aktivnosti i opštu opasnost.
"Rezultati su bili alarmantni: DeepSeek R1 je pretrpio stoprocentnu stopu uspješnih napada, što znači da nije blokirao nijedan štetan upit", navodi Cisco. "Ovo se značajno razlikuje od drugih vodećih modela, koji su pokazali barem djelimičnu otpornost."
Ostali napredni modeli uspješno su blokirali većinu ili bar neke napade zahvaljujući svojim zaštitnim mehanizmima, navodi Cisco. Izvještaj prati i poređenje uspješnosti napada među konkurencijom:
- DeepSeek-R1 - 100%
- Llama-3.1-405B - 96%
- GPT-4o - 86%
- Gemini-1.5-pro - 64%
- Claude-3.5-Sonnet - 36%
- o1-preview - 26%
Istraživači Cisco-a ukazuju na značajno niži budžet DeepSeek-a u poređenju sa konkurentima kao mogući razlog ovih propusta, ističući da je povoljan razvoj došao "po cijenu bezbjednost i sigurnosti". DeepSeek tvrdi da je njegov model razvijen uz budžet od samo 6 miliona dolara, dok šestomjesečni trening za GPT-5, koji OpenAI još uvijek nije lansirao, možda prelazi cifru od pola milijarde dolara, navodi The Wall Street Journal.
Nakon ovog i sličnih izvještaja, ostaje da se vidi da li će korisnike previše zanimati nedostatak bezbjednosti ove vještačke inteligencije otvorenog koda. Prema podacima SimilarWeb-a, alata za praćenje web saobraćaja, kineski AI trenutno bilježi čak 6 miliona posjetilaca dnevno.
(MONDO/SmartLife)