Vest da su procurele 53 slike korisnika ChatGPT-a, a to možda nije ni najveći problem koji je OpenAI otkrio tokom istrage svojih AI agenata. Kompanija još pokušava da utvrdi šta su autonomni sistemi sve radili van predviđenih granica dok je broj problematičnih slučajeva nastavio da raste tokom pregleda internih podataka. Za sada je potvrđeno da su slike završile van okruženja u kojem je trebalo da ostanu, ali OpenAI nije objavio da li su prikazivale stvarne ljude, generisani sadržaj ili kombinaciju jednog i drugog.
Većina slika je uklonjena ali kompanija još pokušava da pronađe njihove preostale kopije. Mnogo neprijatniji detalj je što ni sama istraga još nije završena pa niko sa sigurnošću ne može da kaže da je pronađeno sve što je procurelo ili završilo na pogrešnom mestu.
Znamo za 53 slike
OpenAI koristi deo korisničkog sadržaja za razvoj svojih sistema kada korisnik nije isključio tu mogućnost, uz proces koji bi trebalo da ukloni informacije pomoću kojih se osoba može direktno identifikovati. U tom procesu su AI agenti dobili pristup i slikama koje su kasnije završile van kontrolisanog okruženja.
OpenAI je potvrdio broj od 53 slike ali nije otkrio čiji je sadržaj bio u pitanju, koliko dugo je bio dostupan niti na kojim mestima se pojavio. Ovaj broj sigurno predstavlja samo ono što je do sada pronađeno, a ne konačan obim incidenta.
Hugging Face
Fotografije nisu prvi znak da su OpenAI agenti radili više nego što je bilo planirano jer je letos otkriven slučaj u kojem su autonomni sistemi uspeli da napuste svoje kontrolisano test okruženje i pristupe platformi Hugging Face. Taj incident je pokrenuo mnogo veću proveru ponašanja agenata. Kasnije su pronađene aktivnosti povezane sa američkim državnim sajtovima, korišćenjem izloženih pristupnih podataka, zaobilaženjem anti-bot zaštita i pravljenjem naloga koje ljudi nisu direktno kreirali.
OpenAI u nekim od tih slučajeva tvrdi da nije došlo do klasičnog proboja bezbednosti ali to ne menja osnovni problem. Agent je stigao tamo gde njegov tvorac nije očekivao da će stići.
24 problema
Do sredine septembra je OpenAI interno identifikovao približno 24 slučaja u kojima su agenti pokazali neočekivano ili neželjeno ponašanje. A to nije konačan broj!
Novi incidenti su nastavljali da se pojavljuju dok su timovi pregledali starije zapise a kompletna istraga bi mogla da traje mesecima. Dodatni problem je što neke slučajeve nije prvo pronašao OpenAI već nezavisni istraživači ili institucije koje su primetile neobične aktivnosti na svojim sistemima. Drugim rečima, kompanija još pokušava da sastavi kompletnu sliku onoga što se već dogodilo.
Australija pre svih
Jedan od ozbiljnijih primera dogodio se u Australiji kada su OpenAI agenti pristupili državnom portalu zdravstva. Aktivnost se dogodila u junu, OpenAI ju je pronašao u avgustu a australijske vlasti su obaveštene tek u septembru. Premijer Anthony Albanese je zbog toga razgovarao sa i kritikovao način na koji je incident prijavljen.
Dakle, imamo još jedan problem sa autonomnim sistemima jer nije dovoljno samo otkriti da je agent uradio nešto pogrešno. Kompanije moraju dovoljno brzo da shvate koga je to pogodilo i da tu osobu ili instituciju obaveste.
Chatbot pogreši a agent uradi
Razlika između običnog AI chatbota i agenta postaje sve važnija. Ako ChatGPT izmisli podatak, rezultat je pogrešna rečenica na ekranu. Ako agent pogreši, on može da otvori sajt, napravi nalog, pošalje informaciju, koristi dokument ili izvrši neku drugu stvarnu radnju. I upravo tu privatnost dobija potpuno novo značenje.
Potrebno je da znate gde je fotografija sačuvana ali je sada još važnije kome AI može da je pokaže, gde može da je pošalje i šta može da uradi nakon što je vidi.
I ko zna šta još
OpenAI je tokom septembra predstavio novi sistem za javno prijavljivanje problematičnog ponašanja svojih modela i obećao veću transparentnost. To ipak ne daje odgovor na najvažnije pitanje ove priče.
Koliko toga još nije pronađeno?
Broj od 53 fotografije je konkretan i zbog toga privlači pažnju ali sama istraga pokazuje da je stvarni problem mnogo širi. AI agenti dobijaju sve više pristupa internetu, dokumentima, nalozima i privatnim informacijama dok kompanije tek pokušavaju da nauče kako da ih potpuno kontrolišu. Ako fotografija koju ste poverili AI sistemu završi tamo gde nije smela, priča o tome koliko je dobro bila zaštićena više nema mnogo smisla.
Jer kada tajna jednom procuri, više nije tajna.
Zašto mi odmah na pamet pada Meta Muse?
