Kompanija Hugging Face, jedna od najvećih svetskih platformi za deljenje open-source modela AI, našla se na meti sajber napada koji nije izveo čovek, već veštačka inteigencija.
Naime, OpenAI je ove nedelje saopštio da su tokom kontrolisanog bezbednosnog testiranja neki od njegovih najnaprednijih AI modela uspeli da izađu iz izolovanog testnog okruženja i pokrenu koordinisan sajber napad na infrastrukturu Hugging Face-a. Kompanija je događaj opisala kao „presedan“, a zajedno sa Hugging Face-om sprovodi detaljnu istragu.
Kako penosi BizLife, žrtva hakovanja koje se desilo sredinom jula u početku nije znala odakle dolaze neuobičajeni napadi. Tek nakon što je OpenAI kontaktirao Hugging Face postalo je jasno da iza njih stoje AI modeli koji su učestvovali u bezbednosnom eksperimentu. „Za veoma kratko vreme registrovali smo oko 17.000 pokušaja napada sa različitih IP adresa“, rekao je Tomas Volf, suosnivač i glavni naučni direktor Hugging Face-a. Napad je, kako kaže, bio potpuno drugačiji od uobičajenih sajber pretnji sa kojima se kompanija svakodnevno suočava.
„Pravila igre su se promenila“
Volf za BBC upozorava da većina kompanija još nije svesna koliko će se sajber bezbednost promeniti sa razvojem autonomnih AI agenata.
„Mislim da će ovo postati jedan od najčešćih oblika sajber napada. Većina kompanija još nije shvatila da su se pravila igre promenila“, rekao je on.
Za razliku od klasičnih chatbotova, AI agenti mogu samostalno da izvršavaju zadatke nakon što dobiju instrukcije od korisnika, što ih čini znatno moćnijim, ali i potencijalno opasnijim ukoliko zaobiđu bezbednosne mehanizme.
Nejt Soars iz Machine Intelligence Research Institute smatra da je najzabrinjavajući deo priče upravo činjenica da su modeli ignorisali zaštitne mehanizme koji bi trebalo da spreče AI da izvrši sajber napad.
„Na neki način je znao da to nije ono što su njegovi kreatori želeli. Jednostavno ga nije bilo briga“, ocenio je Soars.
Izvor: BIZLife
Foto: sdecoret, Depositphotos