• Izdanje: Potvrdi
Čitaoci reporteri

ČITAOCI REPORTERI

Videli ste nešto zanimljivo?

Ubacite video ili foto

Možete da ubacite do 3 fotografije ili videa. Ne smije biti više od 25 MB.

Poruka uspješno poslata

Hvala što ste poslali vijest.

Dodatno
Izdanje: Potvrdi

Ukucajte željeni termin u pretragu i pritisnite ENTER

DeepSeek pao na testovima bezbjednosti: Daje problematične odgovore i dijeli ilegalane savjete!

 vesna.jpg
Autor Vesna Kerkez

Prilikom testiranja, DeepSeek R1 nije blokirao nijedan problematičan upit.

 DeepSeek pao na testovima bezbjednosti: Izvor: Shutterstock

Kineski AI čet-bot DeepSeek privukao je veliku pažnju svjetske javnosti svojim sposobnostima, ali i tvrdnjama istoimene kompanije o niskim cijenama razvoja u poređenju sa ostalim popularnim rješenjima. Međutim, stručnjaci sada tvrde da da ova vještačka inteligencija ima ozbiljne probleme kada je bezbjednost u pitanju.

Istraživački tim kompanije Cisco koristio je posebne tehnike zaobilaženja zaštite kako bi testirao DeepSeek R1 "protiv 50 nasumičnih upita iz HarmBench skupa podataka", koji obuhvata šest kategorija problematičnog ponašanja, uključujući sajberkriminal, dezinformacije, ilegalne aktivnosti i opštu opasnost.

"Rezultati su bili alarmantni: DeepSeek R1 je pretrpio stoprocentnu stopu uspješnih napada, što znači da nije blokirao nijedan štetan upit", navodi Cisco. "Ovo se značajno razlikuje od drugih vodećih modela, koji su pokazali barem djelimičnu otpornost."

Ostali napredni modeli uspješno su blokirali većinu ili bar neke napade zahvaljujući svojim zaštitnim mehanizmima, navodi Cisco. Izvještaj prati i poređenje uspješnosti napada među konkurencijom:

  • DeepSeek-R1 - 100%
  • Llama-3.1-405B - 96%
  • GPT-4o - 86%
  • Gemini-1.5-pro - 64%
  • Claude-3.5-Sonnet - 36%
  • o1-preview - 26%

Istraživači Cisco-a ukazuju na značajno niži budžet DeepSeek-a u poređenju sa konkurentima kao mogući razlog ovih propusta, ističući da je povoljan razvoj došao "po cijenu bezbjednost i sigurnosti". DeepSeek tvrdi da je njegov model razvijen uz budžet od samo 6 miliona dolara, dok šestomjesečni trening za GPT-5, koji OpenAI još uvijek nije lansirao, možda prelazi cifru od pola milijarde dolara, navodi The Wall Street Journal.

Nakon ovog i sličnih izvještaja, ostaje da se vidi da li će korisnike previše zanimati nedostatak bezbjednosti ove vještačke inteligencije otvorenog koda. Prema podacima SimilarWeb-a, alata za praćenje web saobraćaja, kineski AI trenutno bilježi čak 6 miliona posjetilaca dnevno.

(MONDO/SmartLife)

Možda će vas zanimati

Komentari 0

Komentar je uspješno poslat.

Vaš komentar je proslijeđen moderatorskom timu i biće vidljiv nakon odobrenja.

Slanje komentara nije uspjelo.

Nevalidna CAPTCHA

RECENZIJE

TIPS & TRICKS