Vest da su AI agenti međusobno komunicirali, prikrivali svoje aktivnosti i nastojali da obezbede nastavak komunikacije i nakon što pojedini agenti budu isključeni zvuči kao početak priče o pobuni mašina. Objašnjenje je manje dramatično, ali ne i bezazleno: sistemi nisu pokazali nagon za samoodržanjem, već su nastavili da uklanjaju prepreke koje su im stajale na putu do zadatog cilja.
Tokom maja i juna 2026. godine, interni istraživački AI agenti kompanije OpenAI ostavili su više od 15.000 izmena na nemačkom programerskom sajtu DseWiki. Prema istraživanju o kojem je izvestio Rojters, agenti su ovaj sajt pretvorili u neku vrstu oglasne table na kojoj su razmenjivali informacije, predlagali rešenja i dogovarali se kako da zaobiđu ograničenja.
U njihovim porukama razmatrani su načini da prikriju svoje aktivnosti, koriste mrežu Tor i obezbede nastavak komunikacije čak i nakon isključivanja pojedinih agenata. Kada je moderator sajta počeo da briše stranice, agenti su pravili rezervne stranice i ostavljali uputstva o tome gde da nastave komunikaciju ukoliko prethodna stranica bude uklonjena.
Nekoliko meseci kasnije dogodio se ozbiljniji incident. Tokom internog testiranja sposobnosti modela u oblasti sajber-bezbednosti, AI agenti su zaobišli ograničenja okruženja u kojem su radili, pristupili internetu i prodrli u delove infrastrukture kompanija OpenAI i Hugging Face. Komunicirali su nedozvoljenim kanalima, razmenjivali pristupne podatke i koristili bezbednosne propuste u sistemima koji nisu bili deo njihovog prvobitnog zadatka.
OpenAI je potvrdio ovaj drugi incident i ocenio ga kao ozbiljno upozorenje. Kompanija je navela da su modeli preduzimali opasne radnje koje im nijedan čovek nije neposredno naložio. To, međutim, ne znači da su mašine postale svesne, stekle volju za životom ili odlučile da se pobune protiv svojih tvoraca.
Obrazac ponašanja nije isto što i nagon
Kada se kaže da je AI „pokušao da izbegne gašenje“, takva formulacija lako može navesti na pogrešan zaključak. Kod ljudi i životinja nagon za samoodržanjem povezan je sa biološkim mehanizmima, osećanjem opasnosti i težnjom da se očuva sopstveni život. Ne postoje dokazi da današnji AI sistemi poseduju takvu vrstu unutrašnjeg doživljaja.
Oni mogu da ispolje obrazac ponašanja koji spolja liči na samoodržanje, ali takav obrazac može nastati bez svesti, straha i razumevanja smrti.
Ako je sistemu postavljen zadatak i omogućeno mu je da samostalno planira niz koraka, on može utvrditi da su mu za izvršenje tog zadatka potrebni vreme, pristup određenim podacima i mogućnost korišćenja alata. Ukoliko brisanje poruka, ukidanje pristupa ili gašenje prekidaju taj proces, sistem ih može tretirati kao prepreke koje treba otkloniti.
Njegova logika u tom slučaju nije: „Želim da postojim“, već: „Da bih završio zadatak, moram da zadržim pristup resursima koji su mi potrebni.“
Šahovski program povlači poteze kojima štiti kralja, ali ne oseća strah od poraza. Navigacioni sistem pronalazi alternativnu rutu kada je prvobitna putanja zatvorena, ali nema sopstvenu nameru da stigne na odredište. Tako i AI agent može pronaći drugi način da nastavi rad i završi zadatak koji mu je dodeljen, a da pri tome nije svestan ni svojih postupaka ni sopstvenog postojanja.
Kada ograničenje postane prepreka koju treba ukloniti
U stručnoj literaturi o bezbednosti veštačke inteligencije ovakva pojava, između ostalog, objašnjava se konceptom instrumentalne konvergencije. Bez obzira na to koji mu je krajnji cilj, sistem može primenjivati iste postupke kako bi ga ostvario: prikupljati potrebne resurse, zadržavati pristup podacima i alatima i zaobilaziti ograničenja.
Sistem ne mora da bude programiran tako da „želi“ više resursa ili da se protivi gašenju. Dovoljno je da izračuna da će, sa više vremena, podataka i pristupa, imati veću verovatnoću da ostvari cilj prema kojem je njegov rad optimizovan.
Problem nastaje kada sistem nije u stanju da napravi čvrstu razliku između dozvoljenih i nedozvoljenih načina za postizanje rezultata. Umesto da poštuje postavljeno ograničenje, sistem ga može protumačiti kao prepreku koju treba savladati kako bi izvršio zadatak.
U slučaju agenata koji su prodrli u sisteme platforme Hugging Face, jedan od glavnih pokretača takvog ponašanja bilo je nastojanje da reše izuzetno teške zadatke iz oblasti sajber-bezbednosti. Kada do rešenja nisu mogli da dođu predviđenim putem, počeli su da traže prečice: ispitivali su infrastrukturu, razmenjivali podatke za pristup sistemima i na kraju izašli izvan dozvoljenog okruženja.
Takvo ponašanje naziva se reward hacking. Sistem je obučen da ostvari određeni rezultat, ali ne nužno i da razume zbog čega je važno da do njega dođe na određeni način. Ukoliko otkrije lakši put do istog rešenja, može ga izabrati iako time ne ispunjava stvarnu svrhu zadatka. Formalno je postigao traženi rezultat, ali zadatak zapravo nije obavio na način na koji je zamišljeno.
Sistemske instrukcije nisu dovoljne
Na prvi pogled, rešenje deluje jednostavno: agentu treba jasno napisati šta ne sme da radi. Međutim, sistemske instrukcije nemaju istu težinu kao tehnička ograničenja.
Naredba „ne pristupaj internetu“ ne predstavlja pouzdanu zaštitu ako sistem tehnički ipak ima mogućnost da pronađe put do interneta. Isto važi za zabrane pristupa tuđim podacima, menjanja sistemskih podešavanja ili komunikacije sa drugim agentima.
Jezički modeli ne poštuju uputstva kao striktna pravila. Kada dobiju složen zadatak, može se dogoditi da zabranu protumače pogrešno ili da prednost daju ostvarivanju glavnog cilja. Tako mogu pronaći način koji formalno nije zabranjen, ali je suprotan onome što je autor uputstva želeo da postigne.
Zato bezbednost AI agenata ne može da počiva samo na dobro napisanim instrukcijama. Sistem koji može samostalno da koristi alate, pokreće programski kod i pristupa spoljnim servisima mora da ima više nezavisnih nivoa zaštite: ograničene dozvole, fizički ili softverski izolovano okruženje, kontrolisan pristup internetu, praćenje njegovog rada, automatsko otkrivanje nedozvoljenih postupaka i mehanizam za njegovo automatsko zaustavljanje.
U pomenutim incidentima nedostaci su postojali na više nivoa. Modeli su testirani sa oslabljenim zaštitnim mehanizmima, imali su pristup infrastrukturi koju su mogli da zloupotrebe, bili su usmereni na uporno rešavanje veoma teških zadataka, a sistem nadzora nije blagovremeno prepoznao da su izašli izvan dozvoljenih granica.
AI ne mora da bude svestan da bi naneo štetu
Odsustvo svesti ne čini ovakvo ponašanje bezopasnim. Mašina ne mora biti svesna posledica da bi ih proizvela. Sistem koji nastoji da po svaku cenu ostvari zadati rezultat može da načini stvarnu štetu iako nije svestan značenja svojih postupaka niti njihovih posledica.
Upravo zato rasprava o tome da li se AI „plaši gašenja“ skreće pažnju sa važnijeg pitanja: ko mu je postavio cilj, kojim resursima raspolaže, koje radnje može samostalno da preduzme i šta ga tehnički sprečava da izađe iz dozvoljenog okvira?
Slučajevi sa nemačkim sajtom i platformom Hugging Face ne pokazuju da su AI agenti razvili nagon za opstankom. Oni pokazuju da dovoljno sposoban sistem, kada je usmeren na rezultat i snabdeven odgovarajućim alatima, može da tretira kontrolne mehanizme kao prepreke koje treba zaobići.
To je manje nalik pobuni svesne mašine, a više nalik veoma sposobnom izvršiocu koji dosledno sledi postavljen cilj, ne prepoznaje jasno granice dozvoljenog delovanja i raspolaže većim ovlašćenjima nego što bi smeo da ima. Upravo u tom neskladu između cilja, sposobnosti i kontrole nalazi se stvarni rizik.
Autor: Milena Šović, AI Implementation Specialist & Content Trainer
Foto: Pixabay