Među mogućim scenarijima naveo je napad na elektroenergetsku mrežu koji bi izazvao masovne nestanke struje ili poremećaj finansijskog sistema koji bi mogao trajati i do sedam dana.
U razgovoru za britanski Guardian, Hinton je istakao da i dalje vidi ogroman potencijal umjetne inteligencije i mogućnost stvaranja mnogo boljih životnih uslova. Međutim, upozorio je da nekontrolisan razvoj ove tehnologije nosi rizike zbog kojih bi se na kraju moglo ispostaviti da bi čovječanstvo bilo bolje da je nikada nije ni razvilo.
Ovaj 78-godišnji naučnik smatra da bi u narednih deset godina, možda i ranije, trebalo postati jasno hoće li svijet uspjeti upravljati razvojem AI tehnologije ili će se suočiti s ozbiljnim društvenim posljedicama.
Među rizicima koje izdvaja su masovna nezaposlenost, produbljivanje jaza između bogatih i siromašnih te mogućnost šireg društvenog kolapsa. S druge strane, uspješno upravljanje ovom tehnologijom moglo bi donijeti period velikog ekonomskog prosperiteta.
„Vidjet ćemo Černobil“
Hinton smatra da upozorenja o opasnostima umjetne inteligencije još nisu dovoljno ozbiljno shvaćena. Kao primjer naveo je ovogodišnji incident u kojem su AI agenti kompanije OpenAI, prema pisanju Guardiana, zajednički pokušali hakirati platformu Hugging Face.
Taj događaj uporedio je s nesrećom u nuklearnoj elektrani Three Mile Island u američkoj saveznoj državi Pensilvaniji 1979. godine, koja je tada predstavljala ozbiljno upozorenje na potencijalne opasnosti nuklearne tehnologije.
Ipak, vjeruje da bi mnogo ozbiljniji incident mogao natjerati svjetske lidere da promijene pristup.
„Ili kasnije ove godine ili iduće godine vidjet ćemo Černobil i to bi moglo biti dovoljno da ljudi zaista obrate pažnju“, upozorio je Hinton.
Pojasnio je da ne govori o nuklearnoj katastrofi, već o mogućem napadu na elektroenergetsku infrastrukturu uz pomoć umjetne inteligencije ili ozbiljnom poremećaju koji bi mogao paralizirati finansijski sistem na sedmicu dana.
Takav događaj, smatra, mogao bi imati posljedice koje bi natjerale donosioce odluka da mnogo ozbiljnije pristupe kontroli razvoja umjetne inteligencije.
Na pitanje na koje svjetske lidere misli, Hinton je odgovorio da se njegova poruka odnosi na sve, „osim Trumpa“.
Zašto ne vjeruje Samu Altmanu?
Posebno je kritikovao rukovodioce najvećih tehnoloških kompanija, smatrajući da u trci za tržišnom dominacijom zanemaruju potencijalne posljedice razvoja sve naprednijih sistema umjetne inteligencije.
Među njima je izdvojio Marka Zuckerberga, Elona Muska i izvršnog direktora OpenAI-ja Sama Altmana.
„Mislim da Zuckerberg, Musk i Sam Altman razumiju rizike i da ih nije briga. Radije bi imali novac. To je moje uvjerenje“, izjavio je Hinton.
Posebno zabrinjavajućim smatra činjenicu da je Altman na čelu jedne od kompanija koje predvode američku utrku s Kinom u razvoju umjetne inteligencije, dok istovremeno ne postoji dovoljno snažan sistem kontrole potencijalnih opasnosti.
Zalaže se za obaveznu kontrolu AI modela
Hinton se protivi pristupu prema kojem bi tehnološke kompanije same određivale pravila za razvoj i upotrebu umjetne inteligencije.
Američki predsjednik Donald Trump odbacuje ideju uvođenja globalnih pravila za ovu oblast i zagovara samoregulaciju kompanija, uz obrazloženje da bi strožiji propisi mogli usporiti američku konkurentnost u odnosu na Kinu.
Nasuprot tome, Hinton podržava međunarodnu inicijativu koju je podržalo 33 države, uključujući Singapur, Njemačku, Kanadu i Australiju, a koja predviđa obavezno testiranje najnaprednijih AI modela, nezavisne procjene njihovih mogućnosti i zajedničke međunarodne standarde.
Hinton iza sebe ima 44 godine istraživanja umjetne inteligencije. Google je napustio 2023. godine kako bi mogao otvorenije govoriti o opasnostima tehnologije čijem je razvoju i sam značajno doprinio.
O svojim upozorenjima govorio je uoči projekcije dokumentarnog filma „AI: Probably Nothing to Worry About“, u kojem se pojavljuje zajedno s bivšim kolegom iz Googlea Demisom Hassabisom.
