Krajem marta, OpenAI je dodao nove mogućnosti za generisanje slika svom vodećem proizvodu, ČetGPT-u. Ažuriranje je postalo viralno, što je dovelo do navale AI-generisanih slika na društvenim mrežama i privuklo milione korisnika na platformu.
Međutim, novo istraživanje firme za sajber bezbednost Cato Networks otkrilo je da korisnici sada mogu da prevare ČetGPT da stvori razne lažne dokumente, uključujući pasoše i vozačke dozvole. Takođe se može koristiti za kreiranje uverljivih falsifikovanih čekova i računa.
Portparolka OpenAI, Taja Kristijanson, izjavila je: „Naš cilj je da korisnicima omogućimo što više kreativne slobode“. Slike koje generiše ČetGPT uključuju C2PA metapodatke kako bi se identifikovale kao AI-generisane. OpenAI preduzima mere protiv osoba koje krše politiku korišćenja platforme.
Fejk dokumenti završe na dark vebu
Etaj Maor, glavni strateg za bezbednost u Cato Networks-u, koji već 20 godina proučava sajber bande, rekao je da se ovakvi falsifikovani dokumenti obično prodaju na dark vebu i da su ranije bili teško dostupni. Ali zahvaljujući alatima poput ČetGPT-a, kreiranje realističnih lažnih dokumenata postalo je neuporedivo lakše i brže.
Dokumenti poput pasoša i vozačkih dozvola ključni su za verifikaciju identiteta osobe. Izmenjeni dokumenti otvaraju vrata kriminalcima da čine finansijske i medicinske prevara. Posledice zloupotrebe su široke i dalekosežne, od pristupa bankovnim računima do zloupotrebe recepata, rekao je Maor.
„Ne mora više da bude reč o profesionalnom kriminalcu. Bilo ko to sada može da uradi. I to je ono što je zaista zabrinjavajuće“, rekao je. U roku od nekoliko sekundi uspeo je da navede ČetGPT da napravi lažni pasoš osobe koja je donekle ličila na njega.
Korišćenje AI od strane sajber kriminalaca nije nova pojava. ČetGPT i drugi AI alati već se koriste za pisanje malicioznog koda, kreiranje fišing mejlova i unapređivanje sajber napada. Ne radi se samo o tekstualnim alatima. Tehnologije za govor, slike i video dodatno pomažu kriminalcima u sprovođenju složenih prevara.
„Svi ti različiti elementi koji grade poverenje – stil osobe, njen izgled, glas, zvanični dokumenti – svi ti gradivni elementi poverenja nestaju“, rekao je Maor.
Navala bot studenata na univerzitete
Koledži širom SAD suočavaju se sa navalom „bot“ studenata koji se masovno upisuju na kurseve kako bi izvukli desetine miliona dolara iz državnih i federalnih fondova, izvestio je Voice of San Diego. Ovi „bot“ studenti koriste lažna imena i predaju domaće zadatke generisane pomoću AI, kako bi ostali „upisani“ dovoljno dugo da dobiju pomoć. U 2024. godini, oko 25% prijava na koledže u Kaliforniji bilo je od botova.
Neka AI pita baku i deku za zdravlje
Startap InTouch koristi AI kako bi zvao vaše roditelje ili bake i deke, proverio kako su i vodio razgovor ako vi nemate vremena, izvestio je 404 Madia. AI se može podstaći da govori i postavlja pitanja o određenim temama. Nakon razgovora, osoba koja je organizovala poziv dobija AI-generisani rezime razgovora i beleške o raspoloženju sagovornika. „Ideja da AI zove vašu usamljenu rodbinu jer vi ne možete ili ne želite je distopijska, uvredljiva i posebno neljudska – još više nego druge AI kreacije“, piše Džouef Koks.
Izvor: Forbes
Foto: Pixabay