Jared Kaplan, suosnivač i glavni znanstveni direktor tvrtke Anthropic koja stoji iza modela Claude, upozorava kako zapravo nitko ne može predvidjeti što će se zbiti dođe li umjetna inteligencija do faze u kojoj se počne u cijelosti sama trenirati.
Upozorenje fizičara koji je postao ključan čovjek Silicijske doline
Kaplan, koji je iz fizike prešao u područje umjetne inteligencije i izrastao u jednu od najvažnijih figura Silicijske doline, rekao je da bi ostavljanje sustava samome sebi moglo pokrenuti pravu „eksploziju inteligencije“, prenosi Index.
Ipak, naglašava kako je to istodobno i najveći zamislivi rizik te vjerojatno najstrašniji korak koji čovječanstvo uopće može poduzeti. Po njegovoj procjeni, taj bi se prijelomni trenutak mogao dogoditi u razdoblju od 2027. do 2030. godine, dok najsuvremeniji sustavi već sada pomažu programerima pri izradi novih modela, navodi Business Insider.
Znanstvenik koji stoji iza temelja ChatGPT-ja
Kaplan nije neki vanjski teoretičar niti panikar – riječ je o čovjeku koji je postavio matematičke osnove današnjeg procvata umjetne inteligencije. Tijekom rada u OpenAI-ju vodio je istraživanje koje je pokazalo da veći modeli i veća računalna snaga donose dramatično bolje ishode, a bio je uključen i u razvoj modela GPT-3 iz kojega je izniknuo ChatGPT.
S kolegama je 2021. godine napustio OpenAI kako bi pokrenuo Anthropic, i to upravo zbog uvjerenja da se moraju spremiti za razdoblje u kojem će čovječanstvo počelo predavati nadzor strojevima. Danas mu je zadaća pobrinuti se da razvoj ne krene pogrešnim putem.
Njegova upozorenja sve učestalije nailaze na odjek među samim inženjerima. Jacob Coxon, istraživač koji je ovoga mjeseca napustio Anthropic, javno je izjavio kako se vodeće tehnološke kompanije „kockaju s našim životima“ time što dopuštaju da se modeli sami usavršavaju.
Na opreznost potiče i izvršni direktor Anthropica Dario Amodei, koji je nedavno upozorio kako bi razvojni laboratoriji trebali smanjiti tempo. Amodei ističe da umjetna inteligencija napreduje znatno brže prije svega zato što već sada sama sudjeluje u stvaranju iduće generacije sustava. Ne uspostavi li se strogi nadzor nad tim, upozorio je, tehnologija bi mogla nadići čovjekovu sposobnost da razumije te procese i njima upravlja.
Iako se nalaze u trajnom poslovnom i tehnološkom nadmetanju, s takvim se sumornim predviđanjima slažu i čelnik OpenAI-ja Sam Altman te Elon Musk. Njih su dvojica u nekoliko navrata poduprla stajališta da nekontroliran razvoj umjetne inteligencije i nastanak sustava koji samostalno donose odluke znače egzistencijalnu opasnost za čovječanstvo, pa stoga zahtijevaju strogu regulaciju i uvođenje sigurnosnih kočnica.
Inženjeri traže uvođenje „tipke za gašenje“
Rasprava je dosegnula i američke zakonodavce u Washingtonu, koji sve glasnije razmišljaju o usvajanju novih propisa o sigurnosti. Nekadašnji inženjeri tvrtke navode kako je bitno da javnost i političari saslušaju prave stručnjake koji izgrađuju te sustave, a ne samo osobe iz odnosa s javnošću.
Bivši članovi tima naglašavaju da pozivi čelnika kompanije na uvođenje mehanizma za gašenje sustava u slučaju opasnosti pokazuju koliko je stanje ozbiljno, prenosi Index.
Kako je za Business Insider rekao jedan od bivših istraživača koji je surađivao s Kaplanom, dopustiti umjetnoj inteligenciji da se automatski sama unapređuje ludo je kockanje, čak i ako tim postupkom upravljaju najrazumniji ljudi na svijetu.
