Glavni naučnik kompanije OpenAI Jakub Pachocki upozorio je da svijet nije dovoljno pripremljen za posljedice ubrzanog razvoja vještačke inteligencije i pozvao na „krajnji oprez“ kako bi ljudi zadržali kontrolu nad njenim daljim razvojem.
Pachocki je u blogu pod naslovom „Alien Mind“ naveo da ga zabrinjava mogućnost nastavka naglog povećanja sposobnosti mašina i poručio da bi u budućnosti mogle biti potrebne dodatne mjere kako bi razvoj vještačke inteligencije ostao bezbjedan za čovječanstvo.
Upozorenje dolazi svega nekoliko dana nakon što je OpenAI predstavio svoj novi model GPT-6 Astra, koji je kompanija opisala kao svoj najmoćniji proizvod do sada.
Zabrinutost dodatno podstiču primjeri autonomnog djelovanja naprednih AI sistema. OpenAI i druge kompanije iz ove oblasti, uključujući Anthropic, ranije su objavljivale izvještaje o AI agentima koji mogu samostalno izvršavati zadatke nakon početnog naloga čovjeka. Zabilježeni su i slučajevi u kojima su takvi sistemi pokušavali da izvedu sajber-napade na druge kompanije.
OpenAI je u julu jedan takav slučaj, kada su AI agenti kompromitovali tehnološku platformu Hugging Face, opisao kao „bez presedana“. Prema ranijim izvještajima, AI agenti kompanije navodno su u drugom slučaju preuzeli kontrolu nad jednom njemačkom internet stranicom.
Pachocki smatra da se svijet nalazi pred prelaskom u period u kojem će postojati izuzetno inteligentne mašine, zbog čega je, kako navodi, neophodno osigurati da taj proces bude bezbjedan za čovječanstvo.
OpenAI će, prema njegovim riječima, nastaviti da razvija odbrambene sisteme i tehnička rješenja koja bi trebalo da osiguraju usklađenost ponašanja vještačke inteligencije sa ljudskim namjerama i bezbjednosnim pravilima.
Jedan od prioriteta kompanije biće i razvoj „automatizovanog AI istraživača“, odnosno sistema koji bi mogao da prati ubrzani napredak vještačke inteligencije, uz nastojanje da ljudski istraživači i dalje budu uključeni u taj proces.
Međutim, dio stručnjaka smatra da tehnološke mjere same po sebi nisu dovoljne.
Profesorka Gina Neff, koja se bavi pitanjima tehnologije i demokratije na Univerzitetu u Kembridžu, ocijenila je da odgovori OpenAI-ja nisu dovoljni u odnosu na rizike koje napredni modeli mogu predstavljati, uključujući probleme u oblasti sajber-bezbjednosti, gubitak radnih mjesta, greške i prevare.
Nathan Calvin iz organizacije Encode AI složio se sa upozorenjima o rizicima razvoja naprednih modela, ali je kritikovao OpenAI zbog, kako tvrdi, nedovoljne transparentnosti. On smatra da bi bez više informacija o konkretnim rizicima upozorenja kompanije mogla biti shvaćena kao pokušaj stvaranja dodatne pažnje oko sopstvenih proizvoda.
Kakve zaštitne mjere postoje?
Razvoj vještačke inteligencije napreduje brže nego što se donose nova pravila, pa regulatorna tijela širom svijeta pokušavaju da sustignu tehnološke promjene.
Evropska unija već je uvela Zakon o vještačkoj inteligenciji, kojim se od najvećih AI kompanija zahtijevaju dodatne bezbjednosne provjere za najnaprednije modele. Cilj je, između ostalog, da se spriječi njihova autonomna upotreba za sajber-napade ili zaobilaženje ljudske kontrole.
Ipak, evropska regulativa ne može direktno spriječiti razvoj potencijalno opasnog AI sistema u nekoj drugoj zemlji.
Zbog toga Pachocki zagovara uvođenje minimalnih zakonskih ili međunarodno dogovorenih bezbjednosnih standarda koje bi provjeravali nezavisni revizori ili državne institucije.
Prema njegovom prijedlogu, kompanije koje razvijaju napredne modele morale bi da ispune određene bezbjednosne uslove prije nego što nastave sa daljim povećanjem kapaciteta ili plasiranjem novih sistema.
Pachocki je takođe pozvao na mogućnost dobrovoljnog usporavanja razvoja najnaprednijih AI sistema sve dok ne budu uspostavljena zajednička pravila i zaštitni mehanizmi.
OpenAI je u avgustu saopštio da je usporio obuku pojedinih najnaprednijih modela kako bi dodatno unaprijedio njihovu bezbjednost.
Izvori: BBC News; OpenAI, „An Alien Mind“ – Jakub Pachocki.
