Džared Kaplan upozorava na rizike vještačke inteligencije koja se sama usavršava, naglašavajući potrebu za strožim nadzorom.
Niko zapravo ne zna šta će se dogoditi ako vještačka inteligencija dođe do tačke u kojoj počne u potpunosti sama sebe da trenira, upozorava Džared Kaplan, suosnivač i glavni naučni direktor kompanije Anthropic, koja razvija model Claude.
Kaplan, fizičar koji je prešao u svijet vještačke inteligencije i postao jedan od ključnih ljudi Silicijumske doline, izjavio je da bi prepuštanje sistema samom sebi moglo da izazove pravu "eksploziju inteligencije".
Ali to je, ističe, ujedno i najveći mogući rizik i vjerovatno najstrašniji potez koji čovječanstvo može da povuče. Prema njegovim procjenama, ta prelomna tačka mogla bi da nastupi između 2027. i 2030. godine, a najnapredniji sistemi već danas pomažu programerima u stvaranju novih modela, piše Business Insider.
Naučnik koji stoji iza temelja ChatGPT-a
Kaplan nije spoljni teoretičar ili paničar - on je čovjek koji je postavio matematičke temelje današnjeg buma vještačke inteligencije. Dok je radio u OpenAI-ju, vodio je istraživanje koje je dokazalo da veći modeli i više računarske snage daju dramatično bolje rezultate, a učestvovao je i u stvaranju modela GPT-3, na kom je nastao ChatGPT.
Zajedno sa kolegama napustio je OpenAI 2021. godine kako bi osnovao Anthropic, upravo zato što su smatrali da moraju da se pripreme za trenutak kada će čovječanstvo početi da prepušta kontrolu mašinama. Njegov posao je danas da osigura da razvoj ne ode u pogrešnom smjeru.
Njegova upozorenja sve češće odjekuju među samim inženjerima. Džejkob Kokson, istraživač koji je ovog mjeseca dao otkaz u Anthropic-u, javno je poručio da se vodeće tehnološke kompanije "kockaju s našim životima" jer dozvoljavaju da se modeli sami usavršavaju.
Strah od gubitka kontrole
Na oprez poziva i izvršni direktor kompanije Anthropic Dario Amodei, koji je nedavno upozorio da bi razvojne laboratorije morale da uspore tempo. Amodei ističe da vještačka inteligencija napreduje drastično brže prvenstveno zato što već sada sama pomaže u stvaranju sljedeće generacije sistema. Ako se to ne stavi pod strogi nadzor, upozorio je, tehnologija bi mogla da pregazi čovjekovu sposobnost razumijevanja i upravljanja tim procesima.
Iako su u stalnom poslovnom i tehnološkom sukobu, sa takvim crnim procjenama slažu se i šef OpenAI-ja Sem Altman i Ilon Mask. Obojica su u više navrata podržala teze da nekontrolisani razvoj vještačke inteligencije i stvaranje sistema koji samostalno donose odluke predstavljaju egzistencijalnu prijetnju po čovječanstvo, zbog čega traže strogu regulaciju i uvođenje sigurnosnih kočnica.
Inženjeri traže uvođenje "dugmeta za gašenje"
Rasprava je stigla i do američkih zakonodavaca u Vašingtonu, koji sve glasnije razmatraju donošenje novih zakona o bezbednosti. Bivši inženjeri iz kompanije navode da je važno da javnost i političari čuju stvarne stručnjake koji grade sisteme, a ne samo ljude iz odnosa sa javnošću.
Nekadašnji članovi tima ističu da pozivi čelnika kompanije na uvođenje mehanizma za gašenje sistema u slučaju opasnosti pokazuju koliko je situacija ozbiljna.
Kako za Biznis Insajder navodi jedan od bivših istraživača koji je radio sa Kaplanom, dopustiti vještačkoj inteligenciji da se automatski sama unapređuje suludo je kockanje, čak i ako tim procesom upravljaju najrazumniji ljudi na svijetu.
(Index/MONDO)