Veštačka inteligencija (AI) sve se više razvija za analizu neuronskih signala, modelovanje ponašanja i predviđanje obrazaca donošenja odluka. To označava paradigmalni pomak – od jednostavne obrade podataka ka sistemima koji mogu da tumače i ostvaruju interakciju sa ljudskom kognicijom. Na konferenciji Kaspersky HORIZONS, godišnjoj vodećoj evropskoj konferenciji kompanije Kaspersky posvećenoj budućnosti sajber bezbednosti, održanoj ove godine u Rimu 19. maja, Kaspersky je razmatrao šta evolucija veštačke inteligencije znači za mentalnu privatnost i kognitivnu autonomiju.
Iako trenutni AI sistemi ne mogu direktno da čitaju niti precizno dekodiraju ljudske misli, oni poseduju sposobnosti koje mogu uticati na ponašanje i oblikovati odluke putem sistema preporuka, personalizacije i kontrole informacija velikih razmera. U tom smislu, reč je o stvarnom i rastućem sajber-bezbednosnom i socio-tehničkom riziku, iako ekstremniji scenariji za sada ostaju u domenu spekulacija.
Kaspersky GReAT predviđa da će sledeća četiri nova bezbednosna rizika postajati sve izraženija kako sistemi kognitivne veštačke inteligencije budu napredovali:
#1 Socijalni inženjering postaje složeniji i obmanjujući
Veliki jezički modeli (LLM-ovi) već transformišu socijalni inženjering u znatno sofisticiraniju i ubedljiviju pretnju. Napadači sada mogu kreirati uverljivije imejl poruke i fišing stranice. Uz pomoć kognitivne AI, potencijalno mogu koristiti društvene platforme i velike skupove podataka za osmišljavanje visoko ciljanih prevara, koristeći uvide u ponašanje i psihološko profilisanje kako bi povećali stopu uspeha. Pokušaji fišing napada takođe mogu biti dinamički generisani, prilagođeni kontekstu i emocionalno uverljivi, što ih čini znatno teže prepoznatljivim.
Ovo može pogoditi kako pojedince tako i organizacije, kroz krađu podataka i finansijske prevare. Najnoviji Globalni izveštaj Kaspersky Security Services pokazuje da fišing čini oko 15% (jedan od sedam) najčešće korišćenih tehnika napada. U tom kontekstu, fišing može predstavljati efikasnu početnu tačku za ulazak APT pretnji (napredne perzistentne pretnje) i drugih sofisticiranih oblika zlonamernog softvera (crimeware) usmerenih ka kompanijama i državnim institucijama.
#2 Kognitivna manipulacija oblikuje javno mnjenje
Pored pojedinačnih napada, AI omogućava operacije uticaja velikih razmera koje mogu oblikovati javno mnjenje. Akteri poput haktivista ili grupa koje sprovode napredne perzistentne pretnje mogu potencijalno iskorišćavati kognitivne pristrasnosti i emocionalne okidače na nivou čitavih populacija. Platforme društvenih mreža već pokazuju kako algoritamski sistemi mogu učvrstiti „echo chamber“ efekte (informacione mehure istomišljenika) i produbiti polarizaciju, dok političke kampanje i korporacije mogu koristiti mikro-targetiranje i tehnike zasnovane na obrascima ponašanja za angažovanje korisnika. Kako ove mogućnosti budu napredovale, granica između predviđanja ponašanja i njegovog aktivnog oblikovanja postajaće sve nejasnija. To stvara sistemske rizike ne samo po individualnu autonomiju, već i po javno poverenje i demokratske procese.
#3 Profilisanje omogućava prediktivnu zloupotrebu
Profilisanje zasnovano na veštačkoj inteligenciji postaje moćan alat za zloupotrebu. Objedinjavanjem podataka sa društvenih mreža, digitalnog ponašanja i drugih izvora, AI može izgraditi veoma detaljne psihološke profile i profile identiteta pojedinaca. Time se značajno povećava rizik od doxxing-a (otkrivanja privatnih ili identifikacionih podataka) i tehnološki posredovanog zlostavljanja. Informacije koje su nekada bile fragmentisane sada mogu biti automatski povezane, otkrivajući osetljive detalje, povezujući identitete i omogućavajući ciljano uznemiravanje velikih razmera. Napadi se takođe mogu prilagoditi ličnim ranjivostima, čineći ih efikasnijim i težim za odbranu.
Istovremeno, prediktivni modeli uvode rizik da pojedinci budu procenjivani ili ciljano izloženi pretnjama na osnovu pretpostavljenog ponašanja, a ne stvarnih postupaka. Time se pretnja pomera sa gubitka privatnosti ka gubitku kontrole nad sopstvenim identitetom i načinom na koji se on konstruiše i koristi protiv pojedinca.
#4 Interfejsi mozak–računar približavaju se IoT okruženju
Iako su i dalje uglavnom u eksperimentalnoj fazi, interfejsi mozak–računar (BCI – Brain-Computer Interfaces) već se koriste kako bi omogućili komunikaciju pacijentima putem interpretacije neuronskih signala. Aktuelna istraživanja proširuju njihove mogućnosti i izvan osnovne interakcije, uključujući sposobnost upravljanja spoljnim uređajima. Upravo u tom trenutku BCI sistemi počinju da se približavaju Internetu stvari (IoT – Internet of Things). U praktičnom smislu, neuronski signali mogu se koristiti za slanje komandi povezanim sistemima, kao što su pametni kućni uređaji, asistivne tehnologije ili medicinska oprema.
Iako ova integracija donosi značajne koristi, posebno u oblasti zdravstva i pristupačnosti, ona istovremeno proširuje sajber-bezbednosne rizike na nova područja, jer kompromitovani sistemi mogu omogućiti neovlašćene radnje putem korisnikovog neuronskog interfejsa, uključujući presretanje signala, manipulaciju odgovorima uređaja ili zloupotrebu veze između namere i izvršenja. Kao rezultat toga, bezbednosni rizici prevazilaze okvire digitalne infrastrukture i ulaze u domen fizičkih sistema i ljudskog delovanja.
„Iako je kognitivna veštačka inteligencija još u ranoj fazi razvoja i daleko od masovne primene, njen razvoj je veoma brz“, izjavila je Noushin Shabab, vodeća istraživačica bezbednosti u okviru Kaspersky Global Research and Analysis Team-a. „I dalje se očekuje da će napredni modeli interakcije između ljudi i AI postati znatno rasprostranjeniji tokom narednih decenija. Kako bude rasla njihova primena, tako će rasti i povezani rizici – i kada do toga dođe, moramo biti spremni.“
Rešavanje ovih izazova zahteva proaktivnu saradnju između zajednice za sajber bezbednost, AI programera, naučnika i donosilaca politika. Kako je pojasnila Teresa Potenza, novinarka i edukatorka za odgovornu primenu veštačke inteligencije koja se ovom temom bavila na konferenciji: „Stvarni rizik kognitivne veštačke inteligencije jeste to što ona oblikuje naše umove – tiho i u velikim razmerama. Naučili smo da sistemi optimizovani za angažovanje korisnika narušavaju sposobnost rasuđivanja. Zato regulativa danas predstavlja zaštitu ljudske autonomije – ali ne može držati korak sa kognitivnom AI ako se bavi samo onim što ti sistemi rade danas. Potreban nam je jedan princip koji je moguće sprovesti: tehnologija mora služiti ljudima, a ne obrnuto. Autonomija nije samo pitanje privatnosti. To je pitanje demokratije.“
Foto: Alexandra_Koch, Pixabay