/ B&F Plus / Roboti i etika: Moralne mašine
BiF Analize Čitajte B&F online

Roboti i etika: Moralne mašine

This post has already been read 2252 times!

Kao što roboti postaju sve samostalniji, tako i društvo treba da razvija regulative za upravljanje njima. Zato se sada razvija nova grana nauke – etička robotika. 

U Kjubrikovom naučnofantastičnom klasiku “2001 Odiseja u Svemiru”, brodski računar HAL suočava se sa dilemom: njegova uputstva zahtevaju da se, pre svega, ispuni misija (istraživanje artefakta u blizini Jupitera), koja je tajna čak i brodskoj posadi. Kako bi ispunio ovaj zadatak za koji je isprogramiran, HAL ne preza čak ni od likvidacije pripadnika ljudske posade.

Kako roboti postaju sve samostalniji, pojam računarski upravljanih mašina susreće se sa etičkim odlukama, koje se iz područja naučne fantastike pomeraju u stvarni svet. Društvo treba da iznađe načine kako bi se današnjim robotima osiguralo da budu bolje opremljeni – tako bi i njihovo eventualno “moralno prosuđivanje” bilo bolje nego što ga je imao  HAL.

Bestijarijum robota 

Vojna tehnologija je, nije za čuđenje, na čelu ovog kretanja ka “samoodređivanju” mašina. Evolucija robotskih tehnologija već se bavi proizvodnjom izvanredno raznolikih vrsta. Mikrorobot „Peščana Buva” može da preskoči prozor ili dospe na krov, sve vreme beležeći kamerom. Kotrlja se sve dok, usled neke prepreke, ne oceni da je vreme za skok. Šestonoga robo buba-švaba “RiSe” penje se uz zidove. Psetoliki robot „LS3” (ovde možete videti kako hoda) prati čoveka po neravnom terenu, noseći mu teret težine do 180 kilograma. Robot veličine aktovke „SUGV” sposoban je da u gužvi identifikuje čoveka i sledi ga. Tu su majušne letelice – vozila čija težina nije veća od venčanog prstena – a ima i takvih koje mogu poneti i 2,7 tona bombi.

i-robots-1

Roboti se takođe šire i u svet nas, običnih građana: od pilotske kabine do operacionih sala. Putnički avion već je dugo u mogućnosti da se prizemlji bez pilota. Vozovi bez mašinovođa odavno su uobičajeni. “Volvo” je izbacio novi „V40” hečbek model kojim, u osnovi, robot u trenucima gustog saobraćaja preuzima kontrolu. Koči čim oseti da preti opasnost neizbežnog sudara ili kontakta, baš kao Ford „B-Max” minivan. Potpuno autonomna, robotski upravljana vozila širom sveta se intenzivno testiraju. Google uveliko razvija  automobile bez upravljanja od strane čoveka. Ovi “Guglmobili” su, krstareći Amerikom, već prešli preko 400 hiljada kilometara. Nevada je postala prva američka država koja je njihovo kretanje putevima i zakonski regulisala. Pre nekoliko dana je na ulicama Barselone Volvo demonstrirao čitav niz svojih autonomnih četvorotočkaša.

Kako postaju pametniji i sve rasprostranjeniji, autonomni sklopovi u savremenom svetu već su na sebe preuzeli odgovornost da u velikom broju slučajeva odlučuju šta učiniti i kakve aktivnosti preduzeti – i to baš u nepredvidivim situacijama, kada se radi o životu ili smrti. Samim tim, ovakve mašine preuzimaju, ili se barem od njih očekuje, izvesno “moralno prosuđivanje”. Oružanim sistemima trenutno upravljaju ljudski operatori. Ipak, kako raste sofisticiranost mašina tako će  uskoro biti moguće i da vojnici svoj rad  “u petlji” – jednostavnije manuelne operacije koje se često ponavljaju (loop operations) – ostave na samostalno upravljanje mašinama.

A čim se ovo bude dogodilo, pojaviće se i etičke dileme. Da li robotsko oružje sme da otvori vatru na kuću u kojoj se skriva željena meta, ali koja je, takođe, i utočište za nedužne civile? Ako automobil bez čovekovog upravljanja izbegne pešaka, da li to znači da će možda udariti u druga vozilla, čime bi bili ugroženi životi onih koje robot prevozi ali i onih drugih? Da li bi u kritičnim trenucima, opasnim po život mnogih, robot uključen akciju spašavanja trebalo da ugroženima saopšti istinu o tome što se događa – čak i po cenu rizika da prouzrokuje opštu paniku? Takva i slična pitanja i moguće realne situacije doveli su do nastanka područja “etike mašina”, čiji je cilj da se mašine osposobe za odgovarajuće odluke. Drugim rečima, da razlučuju dobro od zla, šta se sme i može reći a šta ne, kako donositi odluke koje će čuvati ljudske živote, po svaku cenu i u svakoj prilici.

Jedan od načina da se roboti nose sa ovim teškim pitanjima jeste da ih potpuno izbegavaju: tako što će se zabraniti autonomni borbeni roboti, ili što će se od automobila zahtevati, kao i dosad, puna pažnja ‘ljudskog vozača’, uvek i u svakoj situaciji. Cilj kampanje ‘Međunarodnog Odbora za nadzor robotskog naoružanja’ jeste formiranje protivteže, koja bi bila opozicija rastućoj upotrebi “pametnih mašina”. Međutim, autonomni roboti bili bi nam od mnogo veće koristi nego štete. Robot vojnik ne bi počinio silovanje, ne bi razjaren spalio selo, niti bi se u jeku borbe slomio usled donošenja stresnih i sudbonosnih odluka. Uzgred, najverovatnije da će ‘robomobili’ biti daleko sigurniji od običnih vozila, kao što su već sada autopiloti u avionima pouzdaniji od ljudske posade. Sebastijan Trun, pionir u ovom području, procenjuje da bi robotska vozila mogla spasti milion života godišnje.

Umesto što bi se mašinama ograničilo polje delovanja – i time smanjila glavobolja koju bi mašine mogle naneti čoveku – društvo zahuktalo razvija etičku robotiku. U Americi su već na tapetu pravna rešenja za moguće remećenje zakona od strane ‘robomobila’. Njihovo kretanje drumovima trenutno je u „sivoj pravnoj zoni”, pa je, samim tim, i tehnologija ispred zakonodavstva. Očigledno je da pravila i situacije na putevima često nisu nimalo laki za prosuđivanje ni nama, ljudima. U tom smislu, ova oblast delovanja i prosuđivanja u saobraćaju, koja je zahtevna i za nas, bila bi ne manje komplikovana i za robote na točkovima.

Najpoznatiji skup smernica Roboetike jesu “tri zakona robotike” koje je 1942. skovao Isak Asimov, profesor biohemije na Bostonskom Univerzitetu i čuveni pisac naučne fantastike. Ovim se Zakonima od robota zahteva da zaštite ljude, da slušaju njihove zapovesti i sačuvaju sami sebe – upravo tim redosledom prioriteta. Nažalost, ovi su zakoni od male koristi u stvarnom svetu. Od vojnih će se robota zahtevati da krše Prvi Zakon. Priče Asimova o dilemama ljudi i robota su zabavne, upravo jer su u njima istaknute neočekivane komplikacije, nastale pri pokušajima robota da slede svoja – naizgled razumna – pravila. Regulacija razvoja i korišćenja autonomnih robota zahtevaće daleko razrađeniji okvir delovanja. Neophodan je veći napredak u etičkom i pravnom shvatanju i poimanju delokruga robota, a on bi se ostvarivao za svaki od ovih Zakona pojedinačno.

Tri zakona za zakone robotike

Prvo, zakoni su potrebni kako bi se utvrdilo da li je dizajner, programer, proizvođač ili operator pogrešio ako aktivnosti samostalnog robota pođu naopako, ili ako npr robomobil ima saobraćajnu nezgodu. U cilju određivanja odgovornosti, autonomni sistemi moraju  da u sebi čuvaju sve detalje evidencije, tako da ti podaci naknadno mogu objasniti razloge koji stoje iza ‘odluka’ koje je robot doneo u kritičnom momentu. Sve ovo imaće implikacije na budući dizajn i osmišljavanje autonomnih robo-sistema: koncept kojim bi se, na primer, izuzelo korišćenje prethodno definisanih veštačkih neuronskih mreža. Tako bi se, njemu nasuprot,  dizajnirao sistem za donošenje odluka koji „uči” na primerima iz stvarnog života – umesto što bi bio ‘poslušan’, delujući na osnovu prethodno definisanih tj ‘nasetovanih’ pravila.

Drugo, tamo gde su etički sistemi ugrađeni u robote, prosuđivanje i odluke koje donose moraju biti prihvatljive i važeće za najveći broj ljudi. Tehnike eksperimentalne filozofije, kojima se proučava reagovanje ljudi na etičke dileme, trebalo bi da su u stanju da nam u ovom polju pomognu. I na kraju, i najvažnije, potrebna je daleko intenzivnija saradnja između konsultanata, inženjera, advokata i politčara, od kojih se zahteva da koncipiraju vrlo različite tipove pravila. Zajednički rad je od koristi kako konsultantima tako i inženjerima: pokušavajući da etiku primene na mašinama i “poduče ih”, i jedni i drugi mogu steći bolje razumevanje na svom terenu i u svojoj struci. A inženjeri moraju da uvere društvo kako ne preduzimaju bilo kakve “etičke prečice”.

Tehnologija je pogurala opšti napredak čovečanstva. Ipak, svakim bitnim novim izumom se pred isti taj napredak isprečavaju i nova, zabrinjavajuća pitanja. Autonomne mašine se ne razlikuju od nas, kada dođe do moralnih dilema koje muče i čoveka. Što se pre odgovori na nametnute aktuelne probleme vezane za moralno prosuđivanje/odluke koje bi mašine trebalo da donose – tim će čovečanstvo lakše i brže početi da uživa u blagodetima koje nam one, nesumnjivo, donose.

Milan Lukic
The Economist, jun 2012

Send Us A Message Here

Your email address will not be published. Required fields are marked *

Close