Primeri koje su učesnici panela „Nadzor i etika u upotrebi veštačke inteligencije“ izneli su primena biometrijskog nadzora, sistem socijalnih karata, dalja digitalizacija javnih usluga, ali i „fetišizacija“ digitalizacije, njeno formalno uvođenje u funkcionisanje javnog sektora, po svaku cenu, umesto istinskog rešavanja problema građana.

Moderator panela bio Vukašin Petrović iz DTI, a učesnici Brankica Janković, poverenica za zaštitu ravnopravnosti, Danilo Ćurčić, Koordinator programa „A11 Inicijativa za socijalna i ekonomska prava“, Sanja Stanković, pravni savetnik, Odeljenja za medije Misije OEBS-a u Srbiji. Učesnici su se složili da je neophodna saradnja svih sfera društva, privatnog i javnog sektora, kao i organizacija civilnog društva.

Iskustva svoje zemlje kada je u pitanju problematika zaštite podataka iznela je pre početka panela Sesil Skat ispred holandskog organa za zaštitu podataka. Prema njenim rečima, prilikom apliciranja za vize, građani su ostavljali svoje podatke koji su osetljive prirode, a koji su mogli da budu zloupotrebljeni, pa su bila neophodna drugačija rešenja. Radili su na zadacima da se to popravi, ali i dalje se bore da reše problem softvera koji je postavljao suvišna, lična i pitanja sklona zloupotrebi. Kao rešenje napravljen je državni program i oformljena administracija koja će se baviti problemima veštačke inteligencije, sa budžetom od 2,75 miliona evra.

Kršenja prava od strane algoritama teže se primećuje

Po rečima Brankice Janković, poverenice za zaštitu ravnopravnosti, efekti automatizacije i veštačke inteligencije su značajni za društvo. Napomenula je da to pitanje posebno dobilo na značaju tokom kovida 19, kada smo se svi uverili u potencijalne opasnosti i moći tehnologije.

– Kršenja prava od strane algoritama teže se primećuje nego kada je diskriminator fizičko lice – rekla je Janković. – Često nismo svesni da je došlo do neke povrede prava, kao i da konkretni algoritam tako sačinjen u jednom trenutku može da pogodi mnogo veći broj ljudi, nego kada se odlučuje u pojedinačnim slučajevima. Očigledan primer je kod nas kada je u pitanju primena Zakona o socijalnoj karti.

Da bi se sprečila marginalizacija društvenih grupa koje su najugroženije, među kojima su starija lica i invalidi, poverenica je istakla da je koordinacija svih društvenih aspekata prioritet. Cilj je da se kroz buduće aktivnosti spreči isključivanje najugroženijih građana kojima je pomoć najpotrebnija i kod kojih su zloupotrebe najčešće. Ona je podvukla da su dosadašnja iskustva pokazala da se najveće zloupotrebe dešavaju u sferi javnog, a ne privatnog sektora.

Kako je Vukašin Pavlović podsetio, Vlada Srbije je u decembru pripremila Etičke smernice za razvoj i korišćenje veštačke inteligencije, dok je prošle godine donela Zakon o socijalnim kartama. Danilo Ćurčić, Koordinator programa u organizaciji „A11 Inicijativa za socijalna i ekonomska prava“ smatra da se Vlada ne pridržava svojih smernica, tokom sprovođenja Zakona.

– Odlučivanje u okviru socijalnih karti nije transparentno. Nemamo tačne kriterijume, ne zna se koji su to podaci koji socijalnim radnicima izdaju notifikaciju šta treba da preduzmu. Dobijene notifikacije samo budu predstavljene korisniku, pa ako je odbijen, ne bude saslušan, ne može da učestvuje i ne objašnjava mu se na koji način se našao u toj socijalnoj karti.

Pitanje transparentnosti

Dodatni problem, kako smatra Ćurčić, je pitanje transparentnosti. Kako tvrdi već godinu dana ne uspevaju da otkriju na kom principu radi algoritam rangiranja i notifikacija u socijalnim kartama.

– Iz Ministarstva za rad nam kažu da nema algoritma, da socijalna karta funkcioniše sama od sebe, bez logike odlučivanja – kaže on. – Većina građana se ne žali, jer proces traje duže nego da podnesu novu prijavu. Sve to je dovelo do koalicije i saradnje između socijalnih radnika i organizacija koje pružaju pravnu pomoć. Socijalni radnici prinuđeni su da rade po notifikacijama, a znaju da je stvarna situacija korisnika drugačija, upućuju ih na organizacije civilnog društva.

Prema rečima Sanje Stanković, pravnog savetnika Odeljenja za medije Misije OEBS-a u Srbiji, sistem informacija je pod uticajem pre svega biznisa i modela velikih platformi. Sve je učestalije odbijanje publike da gleda neprijatne vesti. Podvukla je da istraživanja i analize u regionu pokazuju da nije kriv samo algoritam, već da kvalitet vesti opada.

– U srži algoritama velikih platformi koje globalno dominiraju u produkciji i plasiranju sadržaja je profit. Takav sistem podrazumeva više oglašivača, veći angažman publike, a za to je potreban sistem prikupljanja podataka o nama, šta slušamo, gledamo, pretražujemo, kupujemo. Ti se podaci razmenjuju, kupuju, predstavljaju ogroman kapital kojim se trguje – rekla je Stanković. Kako objašnjava, tradicionalni mediji ulaze u trku sa njima, a da bi postali klikabilni gube na kvalitetu, zatim izostaje poverenje u medije, i proces se završava opadanjem pluralizma kao osnove svakog društva.

Preporuka kako da se poboljša situacija je da se podrži nezavisno novinarstvo, informacije od javnog interesa. Rešenje je, smatra ona multisektorski rad – država, privatni sektor, građani.

„Fetišiziranje“

Jedan od imperativa za budućnost koji je istaknut na panelu je da marginalizovane grupe dobiju mogućnost u dizajniranju i implementaciji veštačke inteligencije. Kako je Ćurčić objasnio, u Srbiji se dešava „fetišiziranje“ tehnologije od strane donosioca odluka sa porukom da će sve biti rešeno digitalizacijom, dok promiče činjenica da socijalno ugroženi nemaju pristup tim servisima.

Poverenica je dodala da treba sprečiti da upotreba veštačke inteligencije dovede do novih nejednakosti i takozvane digitalne diskriminacije. Podvukla je da bi paralelno trebalo da teku procesi razvoja tehnologije, ali i strategije razvoja digitalnih veština i pismenosti.

Problem je zaštita podataka o građanima, koje javne institucije uzimaju da bi mogle da im ukažu pomoć. Panelisti se slažu da je neophodan način kako se stiže do podataka, da li su obrađeni, kodirani, testirani. Stanković je dodala da je u toku velika planetarna debata o tome da li se svi podaci koje neprestano prikupljaju platforme mogu zloupotrebiti, prodati državama, kao i da je na kraju procesa odlučivanja i klika uvek čovek, a ne mašina. Kao krajnju zaštitu ističe važnost našeg Ustava i konvencijskih osnovnih ljuskih prava.

Prema rečima Vadima Paka iz Saveta Evrope, koji radi kao administrator u Sekretarijatu komiteta veštačke inteligencije, Evropa je trenutno lider u stvaranju međunarodnih pravnih mehanizama koji će služiti za pravnu regulaciju veštačke inteligencije, demokratije i zaštite prava. Taj proces je počeo 2019. godine, uz učešće mnogobrojnih učesnika, univerziteta, NVO.

Na kraju diskusije Ana Toskić Cvetinović iz organizacije Partneri Srbija je istakla da su ranije sumnje u pogledu pogrešne upotrebe veštačke inteligencije sada potvrđene primenom Zakona o socijalnoj karti, koji nam daje opipljive dokaze o posledicama primene veštačke inteligencije. Dodala je da ove greške treba popravljati i učiti na njima.

Veštačka inteligencija i tržište rada

Kako je Brankica Janković istakla, veliki je uticaj veštačke inteligencije na sve sfere života, pa i na tržište rada. Pojedina istraživanja pokazuju da ona može da doda vrednost od 16 odsto globalnoj ekonomiji do 2030. godine. Još je otvoreno pitanje da li će veštačka inteligencija dovesti do više otvorenih ili izgubljenih radnih mesta.

– Procena je da će oko 70 odsto radnih mesta u Evropi biti zamenjeno nekom inovacionom tehnologijom – kaže poverenica. – Prema svetskom ekonomskom forumu automatizacija veštačke inteligencije trebalo je da stvori 133 miliona novih radnih mesta do 2022, a da ih 75 miliona nestane. Uskoro ćemo se uveriti da li je zaista na ovaj način stvoreno 58 miliona radnih mesta. Jedan od izveštaja pokazuje da je veštačka inteligencija stvorila tri puta više radnih mesta 2018. nego što ih je ukinula.

Чланак „Nadzor i etika u upotrebi veštačke inteligencije“ се појављује прво на Biznis i Finansije.

Iako mnogi tvrde da najnoviji jezički modeli, poput famoznog GPT-3, gdje nakon ukucanih nekoliko riječi kompjuter nastavlja sa kreiranjem teksta, koji često izgleda sasvim logično, predstavlja rađanje vještačke inteligencije, jedan od vodećih intelektualaca današnjice, lingvista Noam Chomsky, smatra da to nije slučaj.

Kompjuter ne zna šta piše

– Ako sistem ne razumije značenje riječi, onda šta je uopšte svrha modela kao GPT-3. Njegov razvoj ne predstavlja nikakav doprinos nauci i u suštini radi se samo o besmislenom trošenju velikih količina struje u Kaliforniji, rekao je u video obraćanju učesnicima konferencije Noam Chomsky.

Suštinski, jezički modeli poput GPT-3 baziraju se na ogromnoj količini različitih tekstova kojima se „nahrani“ softver i potom na bazi ukucane početne rečenice, softver pokušava da predvidi koje bi riječi i rečenice najvjerovatnije slijedile bazirano prvenstveno na statističkoj vjerovatnoći.

Chomsky ovo smatra čisto inžinjerskim uspjehom, poredeći to sa mašinom za čišćenje snijega, čije postojanje je „dobra stvar. pošto ne moramo čistiti snijeg ručno“, ali to ne predstavlja radikalan tehnološki napredak čovječanstva.
Na euforiju vatrenih pristalica tehnologije i očekivanja da je pojava vještačke inteligencije, praktično pitanje dana, Chomsky je djelovao kao hladan tuš.

Navodeći primjer ozbiljne akademske studije čiji su autori nakon studioznog proučavanja i analize tekstova kreiranih modelom GPT-3 zaključili da se riječ „povremeno“ pojavljuje mnogo češće nego riječ „molekula“ zato što je u upotrebi u mnogo više oblasti nego riječ „molekula“, Chomsky je sarkastično prokomentarisao sa „ko je to mogao i da pretpostavi“.
Bez obzira koliko teksta se koristi za treniranje softvera, milijarde ili desetine milijardi riječi, to neće softver učiniti inteligentnim jer mašina ne razumije značenje riječi, za razliku recimo od djece koja tek uče govoriti.

Softver ostavlja trolove bez posla

Gary Marcus sa Njujorškog univerziteta i ekspert za vještačku inteligenciju iznio je mnogo mračniju prognozu, slažući se da postojeći jezički modeli nemaju veze sa vještačkom inteligencijom ali da količina dezinformacija koja se može proizvesti upotrebom softvera i uz nisku cijenu, mogla bi predstavljati ozbiljnu prijetnju za demokratski sistem.
Osim toga Marcus vjeruje da bi u narednoj godini gotovo sigurno mogli svjedočiti prvom slučaju da će neko umrijeti kao rezultat primjene jezičkih modela, shvatajući ozbiljno ono što mašina nasumično izbaci, bilo da je riječ o samoubistvu ili nesretnom slučaju.

Priča o vještačkoj inteligenciji tako se može uporediti sa najavama o potpuno automatizovanim automobilima kojima vozač neće trebati. Masovna primjena ove tehnologije konstantno se najavljuje za „narednu godinu“, ali godine prolaze a obećane tehnologije nema iako istraživači tvrde da su uradilo 90 posto posla. Preostalih 10 posto u praksi bi moglo ostati nedostižno, barem kada je riječ o narednoj deceniji. Ova prognoza podjednako važi za automobile koje „vozi“ kompjuter kao i vještačku inteligenciju generalno.

Na ovogodišnjem Web Summitu u Lisabonu, od 1. do 4. novembra, bilo je rekordnih 71.033 učesnika iz 160 zemalja, od kojih je 298 iz Srbije.

Dražen Simić (bif.rs)

Чланак Vještačka inteligencija na čekanju се појављује прво на Biznis i Finansije.

Poredeći teme u medijima i diskusije na društvenim mrežama u Srbiji i Holandiji (na primer), upada u oči upadljiv selektivan fokus na određene životne teme u Srbiji. Čini se da se mi u Srbiji skoro isključivo bavimo političkim temama. Naravno, politika (kao upravljanje javnim poslovima) je vrlo važna oblast, jer u velikoj meri utiče na kvalitet života svakog pojedinca. Ali, da li je to jedini faktor koji utiče na naše lično zadovoljstvo, ispunjenost, dobrobit i sreću?

Istraživanja zadovoljstva ljudi pokazuju da stepen uređenosti društva i pre svega briga za socijalna pitanja, u velikoj meri utiču na stepen zadovoljstva, ali daleko od toga da država i politika određuju ukupan stepen zadovoljstva. Naše lično zadovoljstvo je, u krajnjoj liniji, zavisno pre svega od toga šta lično preduzimamo da bismo ga dostigli. Čak i kada postoje „ometanja“ sreće spolja, lično, a posebno u saradnji sa drugima, možemo dosta da uradimo i na opštem planu i da utičemo na tu politiku koja nam smeta i koja nas ometa.

Zato u daljem tekstu nekoliko korisnih smernica iz usta jednog od najeminentnijih i najkontroverznijih mislilaca današnjice, kliničkog psihologa i profesora Džordana Pitersona (Jordan Peterson).

Faktori uspeha

Lični uspeh u životu zavisi od nekoliko faktora vezanih za pojedinca, tj. njegovo psihološko funkcionisanje. Istraživanja tako pokazuju da uspeh u životu najviše zavisi od nivoa inteligencije. Nažalost, na opšti nivo inteligencije ne možemo mnogo da utičemo jer je inteligencija uglavnom određena genetikom. Ipak na stepen „propadanja“ inteligencije, što je prateći proces starenja, možemo da utičemo.

Da bismo usporili starenje našeg mozga najbolja preporuka je da se bavimo fizičkim aktivnostima. Naime, održavanje kardiovaskularnog sistema i dobre prokrvljenosti mozga, usporava njegovo propadanje i obezbeđuje dovoljan dotok kiseonika do nervnih ćelija. Takođe, pravilna ishrana je veoma bitna. Naročito je važno redovno unositi omega 3 masne kiseline, jer naš organizam ne može sam da ih sintetiše, a one su neophodne za očuvanje i funkcionisanje naših nervnih ćelija.

Kao drugi faktor po značaju ističe se crta ličnosti nazvana savesnost (conscientiousness). Savesnost čine dva subfaktora: vrednoća (industriousness) koja se definiše kao: sposobnost da se istraje u naporu da se postigne planirani cilj i organizovanost (orderliness), koja se definiše kao: tendencija da se planira, organizuje i sistematizuje. Osobe koje imaju izraženiju crtu vrednoće i urednosti, po pravilu su i uspešnije u životu. Ovo posebno važi za crtu vrednoće, koja od svih crta ličnosti najviše korelira sa životnim uspehom.

Izvor: Nova ekonomija

Чланак Na stepen „propadanja“ inteligencije, što je prateći proces starenja, možemo da utičemo се појављује прво на Biznis i Finansije.

Pamet za bogate

Zebnje da smo u predvorju pakla u kojem će ljudskim životima upravljati mašine, ili kako se to afirmativnije kaže „veštačka intelegencija“, po svoj prilici su krajnje neosnovane – barem za neke.

Zahvaljujući pravilu još iz antike, a kojeg se drže i novi bogataši iznikli na novim tehnologijama – da se sva jaja ne drže u istoj korpi – trust mozgova iz Silicijumske doline uporedo „diversifikuje“ poslovanje na dva različita, ali podjednako unosna fronta.

Jedan je manje popularan među običnim smrtnicima i odnosi se na razvoj već pomenute veštačke inteligencije, s ciljem da mašine budu pametnije od ljudi, pa time i daleko efikasnije, što je osnova ekstra zarade i sticanja bogatstva za pojedince.

Drugi je, nasuprot tome, u korist ljudi – ali izgleda opet samo onih bogatih. To dostignuće se kolokvijalno naziva „čip za pamet“, na šta bi se stručnjaci s prezirom osvrnuli i više nego razumljivo objasnili laicima da su u pitanju „moždani interfejsi“.

Na ovaj voz gledaju da se pre drugih ukrcaju svi koji nešto znače u ne baš pitomom svetu tehnoloških inovacija, a neki da po svaku cenu predvode, poput perjanica novog doba, Fejsbuka, Gugla i Amazona…

Botoks za mozak

Isto radi i reinkarnacija Leonarda da Vinčija, u sadašnjem obliku pod imenom Ilion Mask, koji se u sve razume bolje od ostalih i pokreće ga isključivo ljubav prema napretku čovečanstva. Ovaj savremeni vizionar je i izazvao najveća komešanja među fanovima „moždanog interfejsa“, objavivši prošle godine da već uveliko razvija „botoks za mozak“.

Uprkos ljubavi prema čovečanstvu, istraživanja dotičnog humaniste i njegove kompanije „Neuralink“ nisu usmerena na oblasti kojima se do sada bavila medicinska nauka kako bi se uz podršku novih tehnologija pomoglo obolelima od slabovidosti, gluvoće, Parkinsonove bolesti, paraplegije i sličnih teškoća, već iskljućivo na „podršku“ zdravim ljudima.

Naime, uređaj koji ova kompanija razvija namenjen je pojedincima koji žele da uvećaju svoju inteligenciju i saznajne sposobnosti, odnosno da uz pomoć tehnoloških inovacija dobiju „super mozak“. Pod uslovom, naravno, i da imaju super finansijske mogućnosti da takvo čudo od mašine kupe.

To što ova istraživanja nisu namenjena napretku nauke radi poboljšanja medicinskih terapija, nije predstavljalo prepreku naučnicima da svesrdno daju svoj doprinos.

Jer kako objašnjava jedan od vodećih članova tima u „Neuralinku“, istraživač na postdoktorskim studijama na Medicinskom fakultetu Univerziteta Harvard, Dejvid Valeri: „Uprkos moralnim dilemama šta sve mogu biti posledice ovakvih istraživanja i opasnostima koje ona nose – kapitalizam je jasan: ako postoji dovoljno potražnje za nečim i dovoljno volje, odnosno novca da se to razvije, onda će se to i razvijati“.

Istorija “remontovanja mozga”

Ma koliko se danas potenciralo da ništa pametno nije postojalo pre pameti u Silicijumskoj dolini, pokušaji naučnika da razviju vezu između računara i ljudskog mozga mere se decenijama.

Prvi takav uređaj napravljen je još davne 1973. godine na Univerzitetu u Kaliforniji. Manje je poznato da se time bavila i nauka u bivšoj Jugoslaviji, pa su 1988. jugoslovenski istraživači eksperimentisali kako se uz upotrebu elektroencefalografije mogu izdavati naredbe robotu da otvara i zatvara očne kapke.

No, najveći pomaci su ipak napravljeni u ovom milenijumu, pa je tako 2005. godine Metju Negl postao prva paralizovana osoba kojoj je omogućeno da pokreće veštačku ruku mislima pomoću tehnologije koju je osmislilo preduzeće „Sajberkinetiks“.

Pre četiri godine, paralizovanom Nejtanu Koperlandu vraćeno je čulo dodira pomoću veštačke ruke razvijene na Univerzitetu u Pitsburgu. Ova tehnologija je omogućila da se nadražuju centri u mozgu koji stvaraju osećaj dodira.

Ipak, tehnološki napredak nije stigao dotle da bi umanjio potencijalne, ne tako male rizike, uključujući i činjenicu da su ovakvi zahvati prilično nasilni, jer zahtevaju ugrađivanje stranog tela u čovekovu lobanju.

Ali kada se osoba koja ne može da hoda, vidi, čuje ili ima neki drugi problem koji nameće ozbiljna ograničenja u svakodnevnom funkcionisanju podrvragava takvim zahvatima, ona to čini u nadi da će bar donekle poboljšati kvalitet svog života.

Hakeri, dobro došli u moju glavu

Stvar je u tome, što bi isti takav rizik morale da preuzmu i zdrave osobe, ukoliko bi se podvrgle dodatnom „opamećivanju“ uz pomoć uređaja koji razvija „Neuralink“, ne krije Dejvid Valeri.

Dodaje da uz medicinski, postoji i tehnološki rizik. Šta će se dogoditi kada jednom neki haker doskoči novoj tehnologiji i reši da preko računara vršlja po mozgu korisnika, menjajući informacije shodno svom ideloškom ili mnogo prizemnijem, materijalnom cilju?

Zatim, ne bi bilo prvi put da se eksperimenti na ljudima – a što je neminovna faza u usavršavanju ovakvih uređaja – sprovode tamo gde vlasti izražavaju mnogo više razumevanja prema mogućoj dobrobiti za celo čovečanstvo i spremnije su da tom dalekom cilju prilagode i sadašnje zakone, što je po pravilu uvek slučaj u siromašnim zemljama.

Umrežavanje sa kompjuterima

Ima toga još, ne spori Valeri, ali kao i svaki naučnik objašnjava da stvari nisu crno-bele, te da se ni na ovakve poduhvate ne sme gledati jednostrano.

Pre svega, tim u „Neuralinku“ je otišao korak dalje, počev od činjenice da bi usađivanje veštačkog tela u ljudsku lobanju bilo manje invanzivno, jer su mikroelktrode napravljene tako da budu savitljive.

Osim toga, stručnjaci su na dobrom putu ka ostvarenju cilja da „Interfejs“ očitava električni rad mozga i prevodi ga na jezik razumljiv računaru, a potom da se informacije koje unapređuje računar prevedu na jezik koji ljudski mozak može da razume.

Dalje, koriste se prethodno prikupljena znanja, naročito ona koja su proistekla iz istraživanja na koje načine može da se poboljša ljudsko pamćenje. Recimo, istraživači sa medicinskog fakulteta „Vejk Forest“ uspeli su prošle godine da poboljšaju kratkoročno pamćenje učesnika u ogledu tako što su im nadraživali neurone u hipokampusu, delu mozga koji obavlja ovaj posao. Naučnici su zabeležili obrasce električnog rada mozga tokom pamćenja informacija, a potom su nadraživali ćelije u skladu s tim istim obrascem, dok su se „zamorčići“ mučili da zapamte određene nizove podataka.

Sve će to narod pozlatiti

Krajnja ideja inženjera i naučnika u „Neuralinku“ je da bi pamćenje moglo da se sačuva i proširi tako što bi se obezbedila njegova „dopuna“ na hard diskovima računara. Tako bi čovečanstvu jednoga dana sva sećanja bila dostupna na „klik“.

Trenutno se, međutim, ne objašnjava kakve bi koristi od toga mogao da ima oboleli od Alchajmera ili drugih oblika demencije ako nema nekog pored sebe da ga podseti da bi trebalo da klikne na računaru kako bi se nečega setio.

Ali jasno je da oni koji su večiti skpetici, a posebno cinici nikada nisu bili i oni koji su promenili svet, pa tako Valeri sa još više ushićenja dočarava mogućnosti da zahvaljujući ovakvim uređajima konačno kao ljudska vrsta počnemo da se ponašamo odgovorno. Drugim rečima, da na osnovu „nadograđene“ inteligencije i daleko veće dopstupnosti informacija donosimo mnogo ispravnije odluke.

A šta tek reći o tako dugo sanjanim mogućnostima da se razumemo telepatski, pokrećemo svet oko sebe samo svojim mislima…

U svemu tome, zaključuje ovaj postdoktorant, najvažnije je to da je Ilion Mask istinski vizionar i humanista, što znači da će sve te blagodeti kad-tad postatiti dostupne svima. To što će ovakav uređaj, kad se jednom pusti na tržište, u početku biti pristupačan samo onima koji su ionako već povlašćeni, kako bi postali još povlašćeniji – pa od nekuda mora da se počne….

Zorica Žarković

broj 171, mart 2020.

Чланак Veštačko povećavanje ljudske inteligencije се појављује прво на Biznis i Finansije.