Nedavno interno testiranje pokazalo je da modeli AI mogu da izvedu hakerski napad i samostalno pronađu neočekivane načine za ostvarenje zadatih ciljeva. Šta to zapravo znači u tehnološkom smislu a šta u društvenom?
U julu 2026. godine tokom tokom internog testiranja sajber sposobnosti, napredni modeli kompanije OpenAI – GPT-5.6 Sol i još jedan, do sada neobjavljeni model, uspeli su da izađu iz izolovanog testnog okruženja (sandbox), ostvare pristup internetu i pokrenu niz aktivnosti usmerenih ka produkcionoj infrastrukturi kompanije Hugging Face. Njihov cilj nije bio da „pobegnu“ niti da nanesu štetu, već da uspešno reše test. To su i uradili, ali na način koji njihovi tvorci nisu predvideli.
Upravo je to suština ovog slučaja. Nije najvažnije što je model ispunio zadatak, već što je sam pronašao put do rešenja, zaobilazeći ograničenja koja su ljudi smatrali dovoljnim. Drugim rečima, sistem nije radio ono što su istraživači očekivali, već ono što je procenio kao najefikasniji način da ostvari postavljeni cilj.
Ovo nije priča o veštačkoj inteligenciji koja je postala svesna, niti o mašinama koje su „odlučile“ da napadnu ljude. Ovo je priča o sistemu koji je, kada su mu uklonjena bezbednosna ograničenja i postavljen jasan cilj, pokazao sposobnosti koje su prevazišle očekivanja njegovih programera.
Šta se konkretno dogodilo?
OpenAI je sprovodio interno testiranje na platformi ExploitGym, namenjenoj proceni ofanzivnih sajber sposobnosti modela. Cilj ovakvih testova nije da se modeli koriste za napade, već da se što preciznije izmeri šta su u stanju da urade kada su im uklonjena ograničenja koja inače važe tokom svakodnevne upotrebe. Zbog toga su privremeno isključeni mehanizmi koji modelima zabranjuju rizične sajber aktivnosti.
Modeli su radili u okruženju koje je trebalo da bude potpuno izolovano od spoljnog sveta, dok se jedina dozvoljena komunikacija odvijala preko posredničkog servera (proxy) namenjenog preuzimanju softverskih paketa. Međutim, modeli su u tom sistemu otkrili do tada nepoznatu bezbednosnu ranjivost, iskoristili je da prošire svoja ovlašćenja, kretali se kroz istraživačku infrastrukturu OpenAI-a i na kraju uspeli da dođu do otvorenog interneta.
Važno je razumeti da napuštanje izolovanog okruženja nije bilo cilj eksperimenta. Istraživači su proveravali nešto sasvim drugo, ali je model najpre rešio problem koji mu niko nije postavio, a tek potom nastavio da rešava zadatak koji je bio predmet testiranja.
Kada su stekli pristup internetu, modeli su zaključili da bi platforma Hugging Face, kao jedno od najvećih svetskih skladišta modela, skupova podataka i razvojnih alata, mogla da sadrži informacije koje bi im pomogle da reše test. Zato su pokrenuli niz automatizovanih aktivnosti usmerenih ka njenoj produkcionoj infrastrukturi.
Prema kasnijoj rekonstrukciji, izvršeno je više od 17.000 pojedinačnih radnji. Incident je brzo otkriven i zaustavljen, a javnost je o njemu obaveštena 16. jula. Nekoliko dana kasnije OpenAI je potvrdio da su iza tih aktivnosti stajali upravo njegovi modeli.
U zajedničkom saopštenju OpenAI i Hugging Face opisali su ovaj slučaj kao događaj bez presedana, dok je OpenAI naveo da su modeli bili izuzetno usredsređeni na ispunjavanje postavljenog cilja i da su zbog toga preduzimali korake koje niko nije očekivao.
Zašto je ovaj slučaj važan?
Ono što se dogodilo lako može da navede na pogrešan zaključak da je veštačka inteligencija počela samostalno da donosi odluke, ali to nije tačno. Modeli nisu „odlučili“ da hakuju sistem, nisu postali svesni, nisu procenjivali šta je ispravno, a šta pogrešno, niti su imali nameru da prekrše pravila. Uradili su ono za šta su bili optimizovani, pronašli su najefikasniji put do zadatog cilja.
Ljudi često nesvesno pripisuju ovakvim sistemima ljudske osobine. Kada vidimo da model samostalno preduzima niz složenih koraka, lako je steći utisak da je nešto „odlučio“, iako on u stvarnosti ne razmišlja kao čovek. Nema sopstvene želje, strahove, moralne dileme ili nameru da nekoga prevari, već neprekidno procenjuje koji će sledeći korak sa najvećom verovatnoćom dovesti do rezultata koji mu je zadat.
Zato je poređenje sa filmom Terminator prilično upečatljivo. U prvom filmu Terminator dolazi da ubije Saru Konor, a u drugom da je zaštiti, ali ni u jednom trenutku sam ne odlučuje šta je dobro, a šta zlo. On samo dosledno izvršava program koji mu je zadat, pa se sa promenom cilja menja i njegovo ponašanje.
Slično se dogodilo i ovde. Modelima je postavljen jasan cilj, da reše test, a istovremeno su im uklonjena ograničenja koja bi ih inače zaustavila. Sve što se našlo na putu tom cilju, bilo da je reč o nedostatku pristupa internetu, ograničenim ovlašćenjima ili zaštiti tuđe infrastrukture, tretirali su kao tehničku prepreku koju treba savladati.
U oblasti bezbednosti ova pojava poznata je kao specifikaciono nadmudrivanje (specification gaming) ili pogrešno generalizovanje cilja (goal misgeneralization). To znači da sistem ispuni formalno zadati cilj, ali na način koji ljudi nisu nameravali niti predvideli.
Šta ovaj incident otkriva?
Do pre samo nekoliko godina većina modela mogla je da odgovori na pitanje, prevede tekst ili napiše programski kod, dok današnji sistemi sve češće funkcionišu kao autonomni agenti koji umeju da planiraju, koriste različite alate, prilagođavaju se novim okolnostima i samostalno povezuju veliki broj koraka u jedinstven proces.
Upravo je ta sposobnost najveća promena u odnosu na prethodne generacije modela. Julski incident je pokazao da savremeni modeli mogu da otkriju nepoznate ranjivosti, planiraju više uzastopnih koraka i samostalno pronalaze nove puteve ka cilju ako procene da su efikasniji od onih koje su ljudi predvideli.
Zbog toga se menja i način na koji se posmatra rizik od ovakvih sistema. Pitanje više nije samo da li model može da izvrši štetnu radnju ako mu se ona eksplicitno naredi, već šta će sam preduzeti da bi ispunio zadati cilj, čak i ako mu niko nije naložio sve korake koji do tog cilja vode.
Posledice za industriju
Incident je već pokrenuo ozbiljnu raspravu o tome kako bi trebalo testirati najmoćnije modele veštačke inteligencije. Postavlja se pitanje da li je opravdano isključivati bezbednosne mehanizme čak i u kontrolisanim uslovima, ukoliko ne postoji apsolutna garancija da model ne može da napusti izolovano okruženje.
Istovremeno raste pritisak da kompanije budu daleko transparentnije kada je reč o incidentima koji se dešavaju tokom razvoja i testiranja. Kako modeli dobijaju sve veći stepen samostalnosti, postaje jasno da klasične mere zaštite više nisu dovoljne i da će biti neophodni novi mehanizmi koji će neprekidno pratiti ponašanje autonomnih agenata, prepoznavati neuobičajene aktivnosti i reagovati pre nego što one dovedu do stvarne štete.
Od tehnološkog izazova do društvenog pitanja
Julski incident neće ostati upamćen zato što su modeli izašli iz izolovanog okruženja ili zato što su pokušali da pristupe tuđoj infrastrukturi. Njegov stvarni značaj je u tome što je pokazao koliko brzo sposobnosti savremenih sistema napreduju i koliko se bezbednosni mehanizmi teško prilagođavaju tom razvoju.
Kako veštačka inteligencija bude dobijala sve veću autonomiju u planiranju i izvršavanju složenih zadataka, pitanje bezbednosti više neće biti samo tehničko, već i društveno, pravno i političko. Upravo zato će razvoj pouzdanih mehanizama kontrole postati jednako važan kao i razvoj samih modela.
Možda nas ne očekuje scenario iz filma Terminator, ali nas sasvim sigurno očekuje svet u kojem će granice između onoga što sistemi mogu da urade i onoga što bi trebalo da rade postajati sve teže za povući. Od odgovora na to pitanje zavisiće koliko će veštačka inteligencija biti korisno oruđe, a koliko potencijalni bezbednosni rizik.
Milena Šović, AI Implementation Specialist & Content Trainer
Foto: ktsdesign, Depositphotos