Umjetna inteligencija u posljednjih nekoliko godina napreduje nevjerojatnom brzinom, a upozorenja o mogućim opasnostima odavno više ne stižu isključivo od kritičara tehnologije. O ozbiljnim rizicima sve otvorenije progovaraju upravo oni koji sudjeluju u razvoju najnaprednijih AI sustava.
Jacob Coxon, istraživač koji je radio i u OpenAI-ju i u Anthropicu, nedavno je napustio Anthropic uz vrlo ozbiljno upozorenje. On tvrdi kako se vodeće tvrtke utrkuju u razvoju sve sposobnije umjetne inteligencije, a sigurnosni mehanizmi pritom ne prate taj tempo.
Još je dramatičniju procjenu ponudio Anthropicov istraživač Evan Hubinger, prema kojem postoji više od 10 posto vjerojatnosti da bi razvoj umjetne inteligencije u idućem desetljeću mogao završiti ishodom katastrofalnim za čovječanstvo.
Upozorenja dolaze iz samog vrha AI industrije
Zabrinutost pritom nije novost. Među stručnjacima koji su posljednjih godina upozoravali na moguće egzistencijalne rizike umjetne inteligencije jest i Geoffrey Hinton, jedan od pionira suvremenog strojnog učenja i nositelj Nobelove nagrade.
Sam Altman iz OpenAI-ja, Demis Hassabis iz Google DeepMinda te Dario Amodei iz Anthropica još su 2023. stavili potpis na izjavu prema kojoj bi smanjivanje rizika od izumiranja povezanog s umjetnom inteligencijom valjalo tretirati kao globalni prioritet, jednako kao i opasnosti od pandemija i nuklearnog rata.
Ipak, treba istaknuti da za sada ne postoji znanstveno potvrđen model koji bi mogao pouzdano izračunati koliko je vjerojatno da umjetna inteligencija zaista dovede do nestanka čovječanstva.
AI već pokazuje zabrinjavajuća ponašanja u testovima
Dodatnu pažnju privlače eksperimenti u kojima su napredni AI modeli, unutar posebno osmišljenih testnih okruženja, pokazivali sposobnost strateške obmane, prikrivanja pojedinih postupaka ili pokušaja zaobilaženja nadzora.
To, ipak, ne znači da današnja umjetna inteligencija ima vlastite namjere niti da želi naškoditi ljudima.
Kako bi se ostvario krajnji scenarij „AI protiv čovječanstva“, sustav bi trebao biti kadar dugoročno planirati, samostalno pribavljati resurse, pristupati računalnim mrežama, izmicati pokušajima gašenja te raspolagati sredstvima kojima može nanijeti stvarnu fizičku štetu.
Zasad nema javno potvrđenog AI sustava koji bi pouzdano posjedovao cijeli taj skup sposobnosti.
Veća opasnost možda je čovjek koji koristi AI
Dio stručnjaka zbog toga smatra kako neposredna prijetnja nije scenarij iz znanstvenofantastičnih filmova u kojima se strojevi okreću protiv ljudi.
Znatno realniji problem mogao bi biti način na koji će ljudi upotrebljavati sve moćniju umjetnu inteligenciju.
AI već danas može bitno pojačati mogućnosti u područjima poput kibernetičkih napada, proizvodnje dezinformacija i propagande, bioloških istraživanja ili upravljanja autonomnim sustavima. Za ozbiljne posljedice umjetna inteligencija pritom uopće ne treba razviti vlastitu „volju“ – dostatno je da postane iznimno moćan alat u pogrešnim rukama.
Stvarna opasnost ili odličan marketing?
Postoji, dakako, i druga strana ove rasprave.
Kritičari upozoravaju kako vodeće AI tvrtke mogu imati poslovnu korist od dojma da razvijaju gotovo nezamislivo moćnu tehnologiju. Stroži propisi i skupe sigurnosne provjere pritom bi mogli teže pogoditi male konkurente nego kompanije koje raspolažu milijardama dolara.
Zato je teško povući jasnu crtu između opravdane zabrinutosti, neizvjesnosti koja prati posve novu tehnologiju te interesa same industrije.
Jedno je, međutim, izvjesno: umjetna inteligencija razvija se tempom kakav je prije tek nekoliko godina bilo teško i zamisliti. Hoće li postati jedan od najkorisnijih alata koje je čovječanstvo ikad stvorilo ili izvor novih velikih rizika, uvelike će ovisiti o tome kako će se razvijati, nadzirati i primjenjivati.
Pridružite se WhatsApp kanalu Posušje.info i među prvima saznajte najvažnije vijesti iz Posušja, Hercegovine, BiH i svijeta. Kanal možete napustiti u svakom trenutku.
