Australijski državljanin Dejvid Lan Tekrej (David Lan Thackray, 29) nalazi se u pritvoru zbog sumnje da je u prepisci sa četbotom Klod (Claude) pretio oružanim napadom na predškolsku ustanovu. Dok policija i tužilaštvo njegove poruke tretiraju kao konkretnu bezbednosnu pretnju, odbrana tvrdi da je reč o nesmotrenom izlivu besa čoveka narušenog zdravlja, koji je verovao da sa mašinom razgovara u četiri oka. Ishod postupka zavisiće od odluke suda u Novom Južnom Velsu, ali sam slučaj otvara ključno pitanje: kako su transkripti privatne prepiske dospeli u ruke policije?
Prema sudskim izveštajima koje prenose Sydney Morning Herald i portal Futurism, Tekrej se tereti za zloupotrebu telekomunikacione mreže radi upućivanja pretnji i izazivanja uznemirenosti u javnosti, nakon što je u porukama pomenuo pucnjavu u obližnjem vrtiću. Njegov advokat, Danilo Rajković, izjavio je pred sudom da optuženi nije planirao napad, već da je, u stanju rastrojstva, tražio način da iskaže sopstvene frustracije.
Tekrej je upućen na psihijatrijsko veštačenje, ali najveću pažnju u ovom slučaju privlači način na koji su podaci dospeli do istražnih organa. Transkripte je australijskim vlastima dostavio Interpol, što upućuje na mogućnost da ih je istražiteljima prosledila američka kompanija Anthropic, koja razvija ovaj jezički model.
Pitanje granica privatnosti u komunikaciji sa veštačkom inteligencijom ne tiče se samo optuženog, već i svakoga ko koristi ove tehnologije verujući da njegova komunikacija sa digitalnim servisom ostaje poverljiva.
Zaobilaženje međunarodnih pravnih procedura
U dosadašnjoj sudskoj praksi u Sjedinjenim Američkim Državama razgovori sa četbotovima korišćeni su kao dokazni materijal nakon što je krivično delo već bilo počinjeno. Poznat je slučaj sa Floride u kom su upiti osumnjičenog o tome kako sakriti telo i na kojoj temperaturi voda izaziva opekotine pomogli istražiteljima da sastave optužnicu za teško ubistvo. U takvim okolnostima policija je već vodila konkretnu istragu, raspolagala telom žrtve i, na osnovu sudskog naloga, zatražila digitalne tragove sa servera kompanije OpenAI.
Australijski slučaj postavlja stvari sasvim drugačije. Delo nije izvršeno, nije postojala redovna policijska istraga na terenu, a istražni postupak pokrenut je na osnovu sadržaja same prepiske sa četbotom. Tehnološka kompanija nije čekala sudski nalog, već je podatke iz privatne sesije prosledila kroz kanale međunarodne policijske saradnje.
Time je u praksi zaobiđen redovni višemesečni postupak pribavljanja dokaza iz inostranstva. Kada se korisnik nalazi van Sjedinjenih Američkih Država, a kompanija koja pruža uslugu posluje pod američkom jurisdikcijom, prekogranični pristup podacima može zahtevati primenu Sporazuma o međunarodnoj pravnoj pomoći (Mutual Legal Assistance Treaty – MLAT). Ovaj mehanizam podrazumeva formalnu proceduru u kojoj nadležni organi države koja traži podatke upućuju zahtev, a organi države od koje se pomoć traži postupaju u skladu sa svojim pravnim propisima. U zavisnosti od složenosti predmeta i nadležnih organa, postupak može trajati mesecima.
U Tekrejevom slučaju, međutim, Anthropic se, prema navodima o ovom događaju, pozvao na odredbe sopstvenih pravila o privatnosti i bezbednosti. U pravilima kompanije predviđeno je da se podaci organima gonjenja dostavljaju na osnovu odgovarajućeg pravnog zahteva, ali i da kompanija može, u izuzetnim okolnostima, samostalno prijaviti slučaj nadležnim organima ako proceni da postoji neposredna opasnost od fizičkog nasilja ili smrti. Takva procena može pokrenuti reakciju bez prethodnog sudskog naloga i bez obaveštavanja korisnika. Procena rizika koju sprovodi privatna kompanija na taj način može prethoditi redovnom postupku međunarodne pravne pomoći i znatno ubrzati uključivanje policije.
Pitanje korporativne procene rizika
Kada bezbednosni filteri označe neku poruku kao potencijalno opasnu, odluka da se o tome obaveste policijski organi može imati ozbiljne posledice. Zato je važno utvrditi koji se podaci u takvim situacijama zaista dostavljaju: da li je reč samo o pojedinačnoj rečenici izdvojenoj iz konteksta, celokupnoj prepisci sa korisničkog naloga ili i o pratećim podacima, poput IP adrese, podataka o uređaju i lokaciji sa koje se pristupa servisu.
U javno dostupnim sudskim spisima ti detalji za sada nisu razjašnjeni. Nije poznato da li je upozorenje pokrenuo automatizovani bezbednosni sistem ili je razgovor naknadno pregledao tim za moderaciju pre nego što su nadležni organi obavešteni preko Interpola. Korisniku je servis jednostavan za korišćenje, naročito kada pruža precizne odgovore na postavljena pitanja. Njegovi pozadinski mehanizmi – nadzor sadržaja prepiske, čuvanje podataka i rezervnih kopija, kao i pravila za njihovo ustupanje nadležnim organima, ostaju uglavnom nevidljivi sve dok ne postanu deo krivičnog postupka.
Zabluda o anonimnosti
Ovaj slučaj dovodi u pitanje uvrežene predstave o zaštiti identiteta i privatnosti na internetu. Mnogi korisnici veruju da upotreba virtuelnih privatnih mreža (VPN) ili privatnog režima pregledanja garantuje potpunu anonimnost. Međutim, VPN prikriva korisnikovu stvarnu IP adresu od odredišnog servisa, ali ne znači da je korisnik anoniman ako se prijavljuje na svoj nalog. Privatni režim pregledanja, s druge strane, prvenstveno ograničava lokalno čuvanje istorije pregledanja i drugih podataka na uređaju, ali ne sprečava automatski servis da beleži aktivnosti na svojim serverima. Rokovi čuvanja podataka zavise od konkretne usluge, njenih pravila i okolnosti pojedinačnog slučaja, uključujući eventualne bezbednosne ili pravne zahteve.
Tok postupka protiv Tekreja istovremeno upozorava na opasnost od brzopletih zaključaka podstaknutih pojednostavljenim naslovima o hapšenju zbog razgovora sa algoritmom. Kako navodi australijski list The Daily Telegraph, tužilaštvo se ne oslanja isključivo na poruke razmenjene sa četbotom. Optužba obuhvata i elektronsku poštu koju je Tekrej poslao kompaniji nakon što mu je nalog ugašen, što događaju daje znatno složeniji kontekst od pukog verbalnog pražnjenja pred ekranom.
Sud će morati da utvrdi gde prestaje nepromišljeno izražavanje frustracije u stanju psihičke uznemirenosti, a gde počinje namera da se počini krivično delo. Ipak, nezavisno od ishoda postupka, suština problema prevazilazi konkretan slučaj. Tehnološke kompanije nude četbotove kao poverljive sagovornike, digitalne asistente i savetnike, ali komunikacija sa njima nema isti pravni status kao razgovor zaštićen profesionalnom tajnom, kakva se, pod zakonom utvrđenim uslovima, primenjuje u odnosu između klijenta i advokata ili pacijenta i lekara. Korisnici zato ne bi trebalo da poistovećuju osećaj privatnosti tokom razgovora sa stvarnom pravnom zaštitom sadržaja prepiske.
Slučaj Tekreja otvara pitanje pod kojim uslovima poruke razmenjene sa četbotom mogu postati osnov za obaveštavanje policije i pokretanje krivičnog postupka, čak i pre nego što dođe do izvršenja najavljenog dela. Granica između preventivne bezbednosne reakcije i zaštite privatnosti tako postaje jedno od ključnih pitanja u regulisanju upotrebe veštačke inteligencije.
Izvor: Milena Šović, AI Implementation Specialist & Content Trainer | AI Strategist | Prompt Engineer | AI Educator
Foto: ktsdesign, Depositphotos