Tehnološkim kompanijama potrebno je sve više kvalitetnog materijala za razvoj veštačke inteligencije, ali jedan veliki izvor podataka do sada im je uglavnom bio nedostupan. Reč je o milijardama poruka koje svakodnevno razmenjujemo preko aplikacija, društvenih mreža i elektronske pošte, a koje nikada nisu bile namenjene javnosti.
Upravo se po tome privatne prepiske razlikuju od većine drugih tekstova. Kada pišemo knjigu, članak ili objavu na društvenoj mreži, svesni smo da se obraćamo široj publici. Privatno se dopisujemo drugačije. Pišemo kraće i neposrednije, koristimo žargon, skraćenice, dijalekte i strane reči i ne objašnjavamo ono što sagovornik već zna. Prepiska sa istom osobom može da traje godinama, pa se mnoge stvari podrazumevaju na osnovu onoga o čemu se ranije razgovaralo.
Da se takva komunikacija razlikuje od dijaloga napisanih za knjige i filmove potvrđuju i istraživanja. Modeli obučavani na autentičnim prepiskama mogu da usvajaju obrasce neformalnog jezika i komunikacije koja traje duže vreme, kao i određene karakteristike u načinu izražavanja pojedinaca. U jednom istraživanju, zasnovanom na razgovorima vođenim tokom tri nedelje, dodatna obuka na prepiskama određenog korisnika omogućila je modelu da vernije oponaša njegov način izražavanja.
To ne znači da su privatne poruke vrednije od svih drugih podataka. Naučni radovi pružaju stručna znanja, programski kod je važan za obuku modela u programiranju, dok knjige sadrže velike količine kvalitetnog i lektorisanog jezika. Privatne prepiske važne su iz drugog razloga: u njima se nalazi ono čega u knjigama i većini javno dostupnih tekstova ima znatno manje – spontana komunikacija između ljudi koja nije nastala pred očima javnosti.
Šta AI zaista uči iz privatnih prepiski
Dijalog postoji i u književnosti, ali ga je osmislio pisac. On određuje šta će junaci reći, šta će izostaviti i na koji način će njihov razgovor uklopiti u priču. Privatne prepiske, s druge strane, niko ne piše niti lektoriše za čitaoca. Ljudi u njima pišu onako kako govore u svakodnevnom životu, koriste skraćenice, žargon i dijalekt, a oni koji govore više jezika često ih koriste uporedo. Takve pojedinosti važne su za razvoj modela koji treba što vernije da oponaša svakodnevnu komunikaciju među ljudima.
Posebnu vrednost imaju prepiske koje traju duži vremenski period, nekoliko meseci ili čak godina. U tako dugoj komunikaciji može se zaista videti šta je svojstveno načinu izražavanja određene osobe: stil pisanja, koje reči i izraze najčešće koristi, kako formuliše poruke, koliko je neposredna ili formalna i kako se obraća prijatelju, članu porodice ili kolegi. Duža prepiska zato pruža mnogo potpuniju sliku o tome kako se određena osoba izražava u različitim situacijama i kako komunicira sa različitim ljudima.
Šta AI može da nauči iz razgovora sa korisnicima
Dok su privatne prepiske uglavnom nedostupne za obuku veštačke inteligencije, razgovori koje vodimo sa velikim jezičkim modelima (Large Language Models – LLM) pod određenim uslovima već mogu da se koriste u te svrhe.
OpenAI, na primer, navodi da razgovore koje korisnici vode sa ChatGPT-om može da koristi za unapređivanje svojih modela, osim ako korisnik isključi tu mogućnost u podešavanjima. Razgovori vođeni u režimu Temporary Chat ne koriste se za unapređivanje modela. Kada je reč o poslovnim nalozima, podrazumeva se da podaci iz ChatGPT Business i Enterprise naloga, kao ni podaci koji se obrađuju putem API-ja, ne smeju da se koriste za obuku ili unapređivanje modela, osim ako organizacija izričito ne pristane na njihovo deljenje u te svrhe.
Razgovori sa korisnicima su dragoceni za razvoj modela. Iz njih se vidi šta ljudi traže od AI sistema, kako postavljaju pitanja i formulišu zahteve, ali i kako reaguju kada dobijeni odgovor ne odgovara onome što su očekivali. Takve povratne informacije pomažu u daljem usavršavanju modela i prilagođavanju njihovih odgovora potrebama korisnika.
Međutim, takvi razgovori ne mogu u potpunosti da zamene privatnu komunikaciju između ljudi. Četbotu se najčešće obraćamo sa konkretnim razlogom – tražimo informaciju, postavljamo pitanje ili mu zadajemo neki zadatak. Samim tim, i način na koji mu se obraćamo prilagođen je toj svrsi.
Privatni razgovori nemaju takvu strukturu. Sa prijateljima i članovima porodice razgovaramo drugačije jer se veliki deo komunikacije zasniva na onome što već znamo jedni o drugima. Ne moramo svaki put da objašnjavamo na koga mislimo, šta se ranije dogodilo ili zbog čega nešto govorimo, jer sagovornik već poznaje širi kontekst. Što odnos duže traje, to je više zajedničkih iskustava i prethodnih razgovora na koje se nova prepiska nadovezuje.
Kada privatna prepiska postane dostupna veštačkoj inteligenciji
To što bi privatne prepiske mogle da budu korisne za razvoj veštačke inteligencije ne znači da kompanije imaju pravo da ih koriste. Meta, na primer, navodi da privatne poruke koje korisnici razmenjuju sa prijateljima i porodicom ne koristi za obučavanje svojih generativnih AI modela, osim kada neko iz razgovora odluči da deo prepiske podeli sa Meta AI.
Problem je u tome što u privatnoj prepisci nisu samo naši podaci, već i podaci ljudi sa kojima smo se dopisivali. Ukoliko bismo tehnološkoj kompaniji ustupili prepiske, time bismo joj učinili dostupnim i poruke drugih ljudi, zajedno sa fotografijama, podacima o zdravlju i finansijama, porodičnim prilikama i drugim informacijama za koje njihovi pošiljaoci nisu želeli da budu dostupne javnosti.
Pitanje postaje još složenije sa razvojem AI asistenata i agenata kojima korisnici omogućavaju pristup elektronskoj pošti, dokumentima, kalendarima i drugim nalozima. Ako AI asistentu dozvolimo da pregleda elektronsku poštu kako bi pronašao podatke o letu ili termin sastanka, time mu dajemo pristup sadržaju radi konkretnog zadatka. To, međutim, ne znači nužno i saglasnost da kompanija koja je razvila taj sistem isti sadržaj koristi za obučavanje budućih modela.
Pritom, u nečijoj višegodišnjoj arhivi nisu samo njegovi podaci već i poruke stotina ili hiljada drugih ljudi. Zbog toga će, kako AI bude dobijao pristup sve većem delu naših privatnih digitalnih arhiva, biti sve važnije gde se povlači granica između podataka koje sistem sme da koristi da bi obavio zadatak i podataka koje kompanija sme da koristi za dalji razvoj svojih modela.
Šta kaže zakon?
U Evropskoj uniji korišćenje privatnih razgovora za razvoj veštačke inteligencije moralo bi da bude usklađeno sa Opštom uredbom o zaštiti podataka (General Data Protection Regulation – GDPR). Poruka koju je neko poslao prijatelju nije napisana da bi jednog dana poslužila za obučavanje AI modela, pa bi korišćenje velikih arhiva prepiski otvorilo pitanje na osnovu čega kompanija sme da obrađuje te podatke i kakva prava imaju ostali ljudi koji se u razgovorima pojavljuju.
Evropski odbor za zaštitu podataka navodi da se zakonitost korišćenja ličnih podataka prilikom razvoja AI modela mora procenjivati od slučaja do slučaja. Između ostalog, potrebno je razmotriti na kom pravnom osnovu se podaci obrađuju i da li su zaista anonimizovani.
U Sjedinjenim Državama ne postoji jedinstven savezni zakon koji bi imao ulogu evropskog GDPR-a, ali privatne poruke zbog toga nisu bez zaštite. Kalifornijski propisi, na primer, sadržaj privatne elektronske pošte i tekstualnih poruka, kada kompanija kojoj su podaci dostupni nije njihov primalac, svrstavaju među osetljive lične podatke. Pretvaranje velikih privatnih arhiva u materijal za obučavanje veštačke inteligencije zato bi bilo pravno mnogo složenije od prikupljanja javno dostupnih stranica sa interneta.
Podaci koji (još uvek) nemaju cenu
Za sada nema naznaka da će privatne prepiske postati nova velika baza podataka za obučavanje veštačke inteligencije. Međutim, razvoj AI već je pokazao da podaci koji su do juče imali sasvim drugu namenu mogu preko noći dobiti novu vrednost.
Ako se isto dogodi i sa privatnim razgovorima, glavno pitanje neće biti da li su oni korisni za razvoj AI, već pod kojim uslovima kompanije smeju da ih koriste. Upravo bi se oko tog pitanja u budućnosti mogli sukobiti interesi tehnološke industrije i pravo na privatnost.
Autor: Milena Šović, AI Implementation Specialist & Content Trainer