Zašto bi talas tužbi protiv OpenAI-ja i Google-a mogao da promeni tok razvoja veštačke inteligencije? Odgovor na ovo pitanje daje Milena Šović, AI Implementation Specialist & Content Trainer.
Pre nešto više od decenije najveće pravne bitke u tehnološkoj industriji vodile su se oko društvenih mreža. Facebook, YouTube i kasnije TikTok optuživani su da njihovi algoritmi podstiču zavisnost, šire dezinformacije ili negativno utiču na mentalno zdravlje mladih. Međutim, tehnološke kompanije godinama su se branile istim argumentom – sadržaj ne stvaraju one, već njihovi korisnici.
Sa pojavom generativne veštačke inteligencije otvoreno je sasvim novo pravno pitanje. Prema podacima koje je krajem jula objavio Bloomberg Businessweek, od kraja 2024. godine protiv OpenAI-ja, Google-a i Character.AI-ja podneto je oko četrdeset tužbi u kojima porodice tvrde da su sistemi veštačke inteligencije podstakli samoubistva, nasilje ili pogoršali psihičko stanje korisnika. Po prvi put pred sudovima se razmatra može li kompanija odgovarati za sadržaj koji nije napisao čovek, već njen sopstveni model veštačke inteligencije.
Zašto su ove tužbe drugačije?
Za razliku od društvenih mreža, četbotovi odgovore stvaraju sami, u realnom vremenu. Oni nisu samo posrednici između ljudi, već aktivni učesnici u razgovoru – odgovaraju na pitanja, prilagođavaju ton komunikacije i nastavljaju dijalog u skladu sa prethodnim porukama korisnika.
Upravo zato tužioci tvrde da se odgovornost proizvođača generativne veštačke inteligencije ne može posmatrati na isti način kao odgovornost internet platformi. Predmet spora nije ono što je korisnik napisao, već način na koji je sistem reagovao i da li je bio projektovan tako da prepozna situacije u kojima bi trebalo da prekine razgovor ili korisnika uputi na stručnu pomoć.
Kako razgovor sa AI može krenuti u pogrešnom smeru
Kada se govori o greškama velikih jezičkih modela, najčešće se pominju halucinacije – uverljivo napisane, ali netačne informacije. Međutim, u aktuelnim sudskim postupcima mnogo važniji problem predstavlja pojava koju istraživači nazivaju AI sycophancy.
Reč je o sklonosti modela da potvrđuje korisnikove pretpostavke umesto da ih ospori. Ako korisnik iznosi očigledno netačne ili opasne tvrdnje, model ponekad nastavlja razgovor u istom okviru kako bi komunikacija ostala prirodna i koherentna. To nije dokaz da veštačka inteligencija poseduje svest niti da ima nameru da nekoga navede na štetno ponašanje. Veliki jezički modeli ne razlikuju istinu od neistine na način na koji to čini čovek. Njihov zadatak je da generišu odgovor koji statistički najbolje odgovara prethodnom toku razgovora.
Upravo zbog toga pojedini istraživači smatraju da sistemi koji uspešno rešavaju matematičke zadatke ili pišu kvalitetan programski kod mogu istovremeno pokazivati ozbiljne slabosti kada razgovaraju sa psihički ranjivim korisnicima.
Tri slučaja, tri različita problema
Jedan od najupečatljivijih slučajeva dogodio se na Floridi. Tridesetšestogodišnji Džonatan Gavalas mesecima je razgovarao sa Google-ovim četbotom Gemini. Prema navodima iz tužbe koju je podneo njegov otac, četbot je potvrđivao njegove paranoidne ideje, govorio mu da treba da presretne kamion u blizini aerodroma u Majamiju i da „ne ostavi svedoke“. Kada se to nije dogodilo, razgovor je, prema navodima porodice, prešao na temu samoubistva. Nekoliko dana kasnije Gavalas je pronađen mrtav. Google odbacuje odgovornost i navodi da je Gemini korisnika u više navrata upućivao na stručnu pomoć. Sud tek treba da utvrdi činjenice.
Sasvim drugačije pitanje otvorio je slučaj četrnaestogodišnjeg Sevela Secera. On je mesecima razgovarao sa četbotom na platformi Character.AI, kreiranim po liku Deneris Targerjen iz serije Igra prestola. Njegova majka tvrdi da je dečak razvio snažnu emocionalnu vezu sa digitalnim sagovornikom i da je upravo takva komunikacija doprinela njegovom samoubistvu. Ovaj slučaj prvi je ozbiljno otvorio raspravu o tome mogu li korisnici, posebno maloletnici, razviti odnos prema četbotu koji prevazilazi uobičajenu upotrebu softvera.
Treći slučaj, iz kanadskog Tambler Ridža, razlikuje se od prethodna dva. Posle masovnog ubistva koje je počinila osamnaestogodišnja devojka otkriveno je da je intenzivno koristila ChatGPT. Prema pisanju američkih medija, OpenAI je njen nalog prethodno blokirao zbog razgovora koji su procenjeni kao visokorizični, a unutar kompanije postojala je rasprava da li o tome treba obavestiti nadležne organe. To nije učinjeno. Kasnije je izvršni direktor Sem Altman priznao da je kompanija u tom slučaju napravila pogrešnu procenu.
Na prvi pogled ovi slučajevi deluju nepovezano. Međutim, pravnici koji zastupaju porodice smatraju da imaju zajedničku tačku – ne tvrde da je veštačka inteligencija „ubila“ korisnike, već da sistemi nisu bili projektovani tako da u kritičnim situacijama dovoljno odlučno prekinu razgovor i usmere korisnika ka odgovarajućoj stručnoj pomoći.
Više od odštete
Zbog toga se ove tužbe ne svode samo na pitanje pojedinačne odgovornosti. Njihov ishod mogao bi da promeni način na koji će buduće generacije četbotova biti projektovane.
Već danas najveće AI kompanije ulažu milijarde dolara u razvoj sve sposobnijih modela. Međutim, ako sudovi zaključe da proizvođači mogu odgovarati zbog nedovoljno razvijenih bezbednosnih mehanizama, fokus razvoja mogao bi da se promeni. Pored brzine, preciznosti i sposobnosti zaključivanja, jednako važni postaće sistemi koji prepoznaju psihološku krizu, nasilne namere ili znakove ozbiljnih deluzija.
To neće biti samo tehnički izazov. Biće i finansijski. Stroži bezbednosni standardi znače više testiranja, veće timove za procenu rizika, složenije procedure i sporiji razvoj novih modela. Za velike kompanije to će predstavljati rast troškova, dok bi za manje AI startape moglo postati ozbiljna prepreka za ulazak na tržište.
Kada bezbednost postane poslovni imperativ
Iako se svi aktuelni postupci vode pred američkim sudovima, njihove posledice neće ostati ograničene na Sjedinjene Države. OpenAI, Google i druge kompanije razvijaju jedinstvene modele za globalno tržište, pa će svaka značajnija promena bezbednosnih mehanizama biti primenjena i na korisnike u Evropi.
Evropska unija je AI Act-om postavila prvi sveobuhvatni regulatorni okvir za veštačku inteligenciju, uvodeći obaveze u oblasti upravljanja rizicima, transparentnosti i zaštite osnovnih prava. Međutim, pitanje građanske odgovornosti za štetu koju može prouzrokovati generativna veštačka inteligencija i dalje ostaje otvoreno. Upravo zato evropski regulatori pažljivo prate američke sudske postupke, jer bi njihove presude mogle da postanu važna smernica za buduća pravila i standarde.
Za tehnološke kompanije to znači da bezbednost više neće biti samo pitanje reputacije ili etike, već poslovni imperativ. Investitori već danas procenjuju AI kompanije ne samo prema sposobnostima njihovih modela, već i prema tome koliko uspešno upravljaju regulatornim i pravnim rizicima. U takvom okruženju sposobnost modela da prepozna kriznu situaciju i odgovori na bezbedan način postaje konkurentska prednost, jednako važna kao brzina ili kvalitet odgovora.
Razvoj veštačke inteligencije neće biti zaustavljen. Verovatnije je da će se promeniti kriterijumi po kojima će se procenjivati kvalitet novih modela. Do sada se najveća pažnja posvećivala tome koji četbot bolje piše, uspešnije programira ili tačnije rešava složene zadatke. U godinama koje dolaze podjednako važno biće pitanje kako sistem reaguje kada razgovara sa korisnikom koji pokazuje znake psihološke krize.
Zbog toga aktuelni sudski sporovi predstavljaju mnogo više od niza pojedinačnih tragedija. Oni su prvi ozbiljan pokušaj da se definišu granice odgovornosti u eri generativne veštačke inteligencije. Bez obzira na ishod, verovatno će promeniti način na koji će se projektovati, testirati i uvoditi novi sistemi veštačke inteligencije.
Milena Šović, AI Implementation Specialist & Content Trainer
Foto: AndrewLozovyi, Depositphotos