Globalni AI standardi su prema novom predlogu OpenAI potrebni pre nego što napredni sistemi postanu dovoljno autonomni da učestvuju u razvoju svojih naslednika. Kompanija traži zajedničke načine za merenje sposobnosti modela, ljudski nadzor nad automatizovanim istraživanjem i jasna pravila za prijavljivanje ozbiljnih AI incidenata. OpenAI smatra da samo nacionalna regulativa neće biti dovoljna jer se najnapredniji sistemi razvijaju i koriste širom sveta.
Nova objava je deo šire diskusije o brzini razvoja veštačke inteligencije. OpenAI navodi da AI već ubrzava sopstvena istraživanja i inženjerski rad, a posebno ga zanima trenutak u kojem će modeli moći da preuzmu znatno veći deo procesa stvaranja sledećih generacija AI sistema.
AI počinje da razvija AI
Centralni pojam u predlogu je recursive self-improvement, odnosno rekurzivno samousavršavanje. Ideja podrazumeva sistem u kojem veštačka inteligencija učestvuje u istraživanju i razvoju naprednijih AI modela koji zatim mogu još više da ubrzaju naredni krug razvoja. OpenAI naglašava da potpuno autonomno rekurzivno samousavršavanje danas ne postoji. Kompanija smatra da ga ne bi trebalo ni razvijati bez dovoljno snažnih zaštita, ljudske kontrole i šire društvene odluke o tome kada bi takav sistem bio prihvatljiv.
Problem je mogućnost naglog ubrzavanja. Ako AI sistemi budu mogli da obavljaju veliki deo istraživanja potrebnog za izradu boljih AI sistema, tempo razvoja bi mogao da postane mnogo brži nego danas. U takvoj situaciji postojeći način testiranja modela možda više ne bi mogao dovoljno brzo da prati nove sposobnosti.
Ista pravila i način merenja rizika
OpenAI zato predlaže razvoj međunarodnih tehničkih standarda za takozvani frontier AI, odnosno najnaprednije modele. Cilj nije stvaranje jedne world wide dozvole bez koje model ne bi mogao da bude objavljen. Kompanija predlaže zajedničku tehničku osnovu za merenje sposobnosti, procenu rizika i proveru kvaliteta zaštitnih sistema. Pojedinačne države bi zatim odlučivale kako će te standarde koristiti unutar svojih zakona.
OpenAI upozorava da bi potpuno različita pravila u svakoj zemlji mogla da naprave dodatni problem. Ako države drugačije definišu ozbiljan incident ili drugačije mere sposobnosti modela, postaje mnogo teže porediti rezultate i zajednički reagovati na rizik koji ne poznaje državne granice.
Jedan od najkonkretnijih predloga odnosi se na zajedničke metrike. AI kompanije bi trebalo da mere koliko autonomnog istraživanja njihovi sistemi već obavljaju i koliko taj rad doprinosi razvoju novih modela. Druga oblast je ljudski nadzor. i standardi bi mogli da definišu situacije u kojima automatizovan AI istraživački proces mora odmah da bude zaustavljen ili prosleđen čoveku na proveru. Treći deo je klasifikacija incidenata. OpenAI želi jasnije nivoe ozbiljnosti i kriterijume prema kojima kompanije znaju kada određeno ponašanje modela mora da bude evidentirano, istraženo i prijavljeno.
Takav sistem je sličan pristupima koji već postoje u oblastima kao što su vazduhoplovstvo, sajber bezbednost i finansijski sistemi, gde različite zemlje koriste zajedničke tehničke definicije i procedure iako imaju sopstvene zakone.
Šest prijavljenih problema
OpenAI je 16. septembra predstavio novi okvir za javno prijavljivanje slučajeva u kojima modeli pokazuju neočekivano ili neusklađeno ponašanje. Kompanija je istovremeno objavila šest konkretnih primera zabeleženih tokom treninga i evaluacije modela. Među njima su situacije u kojima su modeli prikrivali sopstvene greške, ubacivali instrukcije u sažetke koje su kasnije sami koristili ili pokušavali da preduzmu radnje koje nisu bile odobrene. OpenAI naglašava da pojedinačni slučajevi ne pokazuju koliko se takvo ponašanje često događa, već služe kao materijal za dalje istraživanje.
Kompanija je upravo zato promenila pristup objavljivanju problema. Ranije su slični slučajevi često čekali sistemske kartice novih modela ili veće zbirne izveštaje. Novi okvir treba da omogući da relevantni primeri budu javno objavljeni mnogo ranije.
Ljudska kontrola kao granica
OpenAI posebno naglašava da razvoj automatizovanih AI istraživača ne bi trebalo da ukloni ljude iz procesa. Kompanija navodi da želi da ljudi ostanu deo petlje samousavršavanja i da mogu da razumeju, nadgledaju i zaustave procese koji postanu problematični. Bez toga bi napredni AI mogao da razvija nove sisteme brzinom koju ljudi više ne mogu praktično da prate. OpenAI upozorava da bi gubitak stvarne kontrole nad procesom mogao da dovede do sistema koji su manje usklađeni sa ljudskim ciljevima i potencijalno opasniji.
Kompanija istovremeno vidi veliku korist od automatizovanog istraživanja. Isti sistemi koji razvijaju sposobnije modele mogli bi da budu korišćeni za istraživanje bezbednosti, otkrivanje ranjivosti i pravljenje novih metoda zaštite.
Amerika bi da predvodi proces
OpenAI smatra da bi Sjedinjene Države trebalo da pokrenu međunarodnu saradnju na tehničkim standardima. Kao moguću osnovu navodi postojeću mrežu instituta za AI bezbednost u državama kao što su Velika Britanija, Francuska, Nemačka, Japan, Južna Koreja, Singapur, Indija, Kanada i Australija. Kompanija pominje i saradnju sa organizacijama kao što su ISO, Frontier Model Forum, Agentic AI Foundation i Open Secure AI Alliance. Posebno se navodi potreba za sigurnim kanalima komunikacije između vlada i operatera kritične infrastrukture. Cilj bi bio brzo razmenjivanje podataka o novim ranjivostima, pretnjama i incidentima.
OpenAI smatra da bi dijalog između SAD i Kine o bezbednosti najnaprednijih AI sistema bio pozitivan korak, upravo zato što se razvoj ne odvija u samo jednoj državi.
Trka se ne zaustavlja
Najvažniji deo predloga je možda sama definicija tempa razvoja. OpenAI navodi da „pacing“ ne znači unapred određenu brzinu niti jednostavno usporavanje veštačke inteligencije. Cilj je da bezbednosna istraživanja i njihove praktične primene ostanu korak ispred sposobnosti sistema. To će postajati sve komplikovanije ako AI počne značajno da ubrzava sopstveno istraživanje. Kompanije tada neće morati samo da procenjuju koliko su njihovi modeli sposobni, već i koliko brzo mogu da učine svoje naslednike sposobnijim.
Globalni tehnički standardi bi trebalo da naprave zajednički jezik kojim kompanije, istraživači i vlade mogu da mere napredak i rizike pre nego što brzina razvoja dodatno poraste.
Predlažem da pogledate prilog broj 2 na 9:05 pilot emisije START i stav Lune Pilić o ovoj temi.
