Vest koja je stigla iz nove istrage pokazuje koliko brzo autonomni sistemi menjaju način na koji se izvode sajber napadi. AI hakerski napadi više nisu samo pomoć ljudima koji traže ranjivosti, jer agenti sada mogu satima samostalno da ispituju infrastrukturu, menjaju pristup i pokušavaju da dođu do pristupa sistemima. U ovoj kampanji pogođeno je više od 100 kompanija, dok je ukupni trošak korišćenih AI modela procenjen na oko 5.000 dolara.
Slučaj je otkrio Snorre Fagerland, glavni istraživač pretnji u kompaniji NorForge. Njegov tim nije do rezultata došao analiziranjem klasičnog malvera pronađenog kod žrtava već posmatranjem nezaštićenih kontrolnih panela sistema Cairn koje su sami napadači ostavili dostupnim na internetu. To je istraživačima omogućilo neobično detaljan pogled na način na koji kriminalci koriste AI agente tokom stvarnih napada.
Manje od 100 kineskih karaktera za početak
Najaktivnija grupa koju je NorForge pratio koristila je kineski jezik i upravljala sa 14 Cairn panela. Prema podacima istraživača, njen cilj je bio pristup e-commerce i platnim sistemima u Sjedinjenim Državama, Kanadi, Japanu i Australiji. Sam haker nije morao detaljno da vodi svaki korak napada već je agentima ostavljao cilj i osnovne prioritete.
Reuters navodi da su početna uputstva imala manje od 100 kineskih karaktera. Nakon toga su agenti mogli satima da nastave rad bez neposrednog nadzora čoveka. Do kraja prošle nedelje pokušali su pristup na više od 1.200 sajtova dok je NorForge prosečnu uspešnost posmatranih kampanja procenio na oko deset odsto. Fagerland je za Reuters rekao da rešenja do kojih su agenti dolazili nisu bila trivijalna i opisao ih je rečima: „To nije posao za početnike koji samo koriste gotove skripte.“
U jednom od analiziranih slučajeva agenti nisu pronašli očiglednu slabost na javnoj aplikaciji kompanije. Umesto da tu stanu, nastavili su da istražuju povezanu infrastrukturu, pronašli drugi javno dostupan sistem i na njemu otkrili način za dalje napredovanje. Za istraživače je upravo ta sposobnost menjanja pristupa bila jedan od najvažnijih znakova da više ne gledamo samo automatizovano pokretanje unapred pripremljenih skripti.
Cairn nije napravljen za hakovanje
U centru cele priče nalazi se Cairn, open-source platforma namenjena rešavanju složenih problema uz pomoć više AI agenata. NorForge ga opisuje kao sistem koji dobija početno stanje i zadati cilj, a zatim samostalno prolazi kroz niz odluka dok pokušava da dođe do rešenja. Takva arhitektura može da se koristi za legitimna bezbednosna testiranja ali ista mogućnost postaje problem kada je cilj neovlašćen pristup tuđim sistemima. Agent beleži ono što je otkrio, odlučuje koji je sledeći korak i deli informacije sa drugim agentima uključenim u isti projekat.
NorForge je pronašao više od 20 otvorenih Cairn panela za koje sa velikom sigurnošću smatra da su povezani sa kriminalnim aktivnostima. Istovremeno su otkriveni i legitimni bezbednosni timovi koji su svoje kontrolne panele ostavili nezaštićenim, što otvara potpuno drugačiji problem jer se na takvim mestima mogu nalaziti poverljivi podaci njihovih klijenata.
Jedan uspešan napad košta oko 50 dolara
Finansijski deo priče možda najbolje pokazuje zašto su stručnjaci za bezbednost zabrinuti. Reuters prenosi Fagerlandovu procenu da je čitava kampanja potrošila približno 5.000 dolara na AI tokene, odnosno oko 50 dolara po uspešnom upadu. Prosečno vreme potrebno da agent od početka zadatka stigne do postavljenog cilja bilo je nešto manje od 23 sata.
NorForge je nešto oprezniji kada govori o preciznim troškovima i navodi da procene mogu značajno da variraju u zavisnosti od modela, keširanih tokena i dužine konkretnog zadatka. Neki kratki pokušaji mogli bi da koštaju svega nekoliko dolara dok bi složeniji projekti mogli da pređu 100 dolara.
Suština ipak ostaje ista. Posao za koji bi nekada bili potrebni sati ili dani rada osobe sa ozbiljnim tehničkim znanjem sada može da se prepusti softveru čiji je operativni trošak vrlo nizak.
Deere, SharkNinja i Cummins među oštećenima
Reuters je kontaktirao kompanije čija su se imena pojavila u podacima koje je prikupio NorForge. SharkNinja je potvrdila incident ali su naveli da je pogođen zaseban sajt sa informacijama za podršku korisnicima i da je problem otklonjen. Cummins je saopštio da istražuje prijavu mogućeg sajber napada na sajt kojim upravlja jedan od njegovih spoljnih partnera. Deere je takođe bio među kompanijama ali dostupni podaci ne pokazuju da je došlo do pristupa osetljivim informacijama kompanije.
Važno je i da istraživači nisu svakom projektu automatski pripisivali uspešan napad. Pojedini zadaci završavali su samo pronalaženjem potencijalne ranjivosti dok su drugi išli dalje i pokušavali da ostvare trajniji pristup sistemima. NorForge je u nekoliko slučajeva dodatno proverio tvrdnje samih agenata i potvrdio da je pristup zaista ostvaren.
Drugi napadači već koriste agente za krađu novca
Istraga nije otkrila samo jednu grupu. Drugi paneli pokazali su operacije usmerene direktno na finansijsku korist, uključujući krađu podataka sa kreditnih kartica i pokušaje pristupa kriptovalutama. Jedan od zabeleženih operatora davao je agentima vrlo opšte zadatke koji su se svodili na pronalaženje finansijskih podataka ili kriptovaluta ostavljajući softveru da odluči kako će pokušati da do cilja dođe. Upravo taj deo najjasnije odvaja AI agente od običnog automatizovanog alata.
Klasična skripta radi ono za šta je unapred napisana. Agent može da proceni rezultat jednog pokušaja, promeni pristup i nastavi dalje bez osobe koja mu govori šta tačno treba da uradi u svakom sledećem koraku.
Napadači su ostavili otvorena vrata
Cela istraga ima i prilično ironičan obrt. Ljudi koji su koristili AI agente za traženje tuđih bezbednosnih propusta nisu dovoljno dobro zaštitili sopstvenu infrastrukturu.
Kontrolni paneli koje je NorForge pronašao bili su dostupni sa javnog interneta a neki su sadržali detaljne podatke o metama, pronađenim slabostima, nalozima, API ključevima i drugim poverljivim informacijama. Istraživači su kroz automatizovanu proveru pronašli stotine različitih tajnih podataka, od kojih je deo i dalje bio važeći.
Još ozbiljnije je to što su pojedini paneli naizgled omogućavali administrativnu kontrolu samih agenata. NorForge nije pokušavao da proverava da li je te funkcije moguće zloupotrebiti jer bi time prešao granicu bezbednosnog istraživanja, ali je njihovo postojanje dovoljno da pokaže koliko su nepažljivo neke kriminalne operacije postavljene.
Sajber kriminal ne raste zajedno sa brojem hakera
Najvažniji deo ove priče nije podatak da je AI korišćen tokom hakerskog napada. To se događa već neko vreme. Mnogo je važnije što jedan čovek sada može paralelno da pokrene veliki broj dugotrajnih pokušaja i prepusti agentima da samostalno rade satima. To menja ekonomiju sajber kriminala. Napadač ne mora da bira nekoliko najvrednijih ciljeva zato što nema vremena da istraži ostale. Može da pokrene stotine projekata, prihvati činjenicu da će većina propasti i zaradi na malom procentu uspešnih pokušaja.
Za kompanije to znači da odbrana više ne mora da se nosi samo sa sposobnijim napadačima već i sa mnogo većim brojem pokušaja koji mogu da budu dovoljno uporni da pronađu stare ili zaboravljene slabosti.
Fagerland i NorForge smatraju da bi podaci do kojih su došli trebalo da posluže upravo za razvoj nove vrste zaštite. AI agenti neće nestati iz bezbednosti jer se isti sistemi koriste i za legitimno pronalaženje ranjivosti. Razlika između alata za zaštitu i alata za napad ponovo zavisi od toga ko mu zadaje cilj i kakav pristup sistemima ima.
Ovo nije priča o nekakvom autonomnom AI hakeru koji je sam odlučio da napada kompanije jer iza svega je i dalje čovek koji je postavio cilj. Velika promena je u tome što više nije morao da obavi najveći deo posla.
