Profesorica Virginia Dignum sa švedskog Sveučilišta Umeå stručnjakinja je za područje relativno novo većini ljudi, iako sama u razgovoru za Lider tvrdi da je njezino područje proučavanja poznato već neko vrijeme. Naime, jedna od govornica na drugoj konferenciji o poslovnoj primjeni umjetne inteligencije ‘AI2Future‘, koja se u listopadu održala u Zagrebu, specijalizirala je etiku u području umjetne inteligencije. Pojam je tek u posljednje vrijeme, zbog rapidnog razvoja tehnologije, postao općeprihvaćena činjenica, no povezivanje etičke problematike s umjetnom inteligencijom još dobiva svoje prve obrise u javnom prostoru unatoč živoj aktivnosti akademske zajednice u tom pogledu.
>>>Umjetna inteligencija ugrađena u pametni telefon
Umjetna inteligencija nezaustavljivo prodire u svakodnevni život, pa se slijedom toga i prostor potrebnih razmatranja širi velikom brzinom. Premda su strojevi odavno nezaobilazni, sa stupanjem strojnog učenja na scenu stvari su se podosta zakomplicirale i ljudi već sada, usprkos relativno ograničenom rasponu te ‘inteligencije‘, moraju početi razmišljati kako će definirati svoj odnos prema strojevima u bliskoj budućnost te odgovoriti na neka važna pitanja vezana uz odgovornost i etiku. Profesorica Dignum objasnila je sudionicima razmišljanja znanstvenika o toj aktualnoj tematici, moguće izazove i probleme te mehanizme koje ćemo morati razviti u svrhu suživota sa sve ‘pametnijim‘ strojevima. Dio onoga što je na konferenciji rečeno otkrila je u ekskluzivnom razgovoru za Lider, uključujući kako strojeve ‘naučiti‘ željenim vrijednostima i koje bi to vrijednosti uopće trebale biti.
Čak i ako u budućnosti sustavi umjetne inteligencije razviju sposobnost odlučivanja, njihovu svrhu odredit će ljudi. Stoga smo odgovorni mi, a ne strojevi
Rasprava o budućnosti u kojoj su sve inteligentniji strojevi rašireni sve je življa, a mišljenja su duboko podijeljena. Dok se jedni brinu da bi u nekom trenutku ljudi mogli izgubiti kontrolu nad svojom kreacijom, drugi, poput profesorice Dignum, optimistični su i ne vjeruju da će ‘strojevi zavladati svijetom‘.
Vaše područje ekspertize prilično je nova pojava, barem za širu javnost. Možete li objasniti što je socijalna umjetna inteligencija i čime se točno bavite?
– Područje umjetne inteligencije zapravo je staro nekoliko desetljeća, a i istraživanja društvenih aspekata umjetne inteligencije postoje već neko vrijeme, posebice kada je riječ o interakciji i komunikaciji između sustava umjetne inteligencije, pogotovo robota, i ljudi. Zato je nova svijest da ovi sustavi utječu na naše živote na načine koje nismo očekivali i toga su sada znanstvenici svjesni, ali i organizacije, vlade i javnost.
>>>Parquery – domaća aplikacija za parkiranje koristi se u 20 zemalja svijeta
Moje istraživanje sa skupinom znanstvenika na Sveučilištu Umeå vezano je uz bolje razumijevanje društvenih implikacija umjetne inteligencije kako bi se moglo oblikovati te sustave u skladu s ljudskim vrijednostima. U tu svrhu razvijamo teorije, modele i alate za nadzor, odgovornost, verifikaciju i reviziju sustava umjetne inteligencije.
Kako se etika uklapa u sve to i koje probleme u tom smislu možemo očekivati u bliskoj budućnosti?
– Etika je uključena na nekoliko različitih načina. Etika u dizajnu bavi se osiguravanjem da razvojni procesi uzmu u obzir etičke i društvene implikacije umjetne inteligencije, koja se integrira i zamjenjuje tradicionalne sustave i društvene strukture. Etika po dizajnu bavi se integracijom sposobnosti etičkog rezoniranja kao dijela ponašanja umjetnih autonomnih sustava, a etika za dizajnere vezana je uz odgovornost i integritet ljudi koji su uključeni u proces, odnosno znanstvenika i proizvođača. Riječ je o kodeksima ponašanja, standardima i certfikacijskim mehanizmima.
Tko treba preuzeti odgovornost za moguće pogreške tih sustava i tko bi uopće trebao donositi odluke? Trebaju li strojevi sami odlučivati ili poštovati pravila koja su odredili ljudi?
– Važno je shvatiti da su sustavi umjetne inteligencije alati. Oni su stvari koje ljudi grade za određene svrhe. Čak i ako u budućnosti razviju sposobnost odlučivanja, njihovu će svrhu odrediti ljudi. Mi smo stoga odgovorni, ne strojevi. To znači da je vrlo važno odrediti slijed odgovornosti koji uključuje mnoge aktere i dionike od programera, preko proizvođača do donositelja odluka koji strojeve uvode u naše društvo.
Kako će ljudi naučiti strojeve etici kada ni sami nisu odlučili što je etično, a što nije? Etika je nerijetko pitanje interpretacije, kulture…?
– Uistinu je važno shvatiti da je etika uvijek kontekstualna i povezana s trenutkom. Ono što je u prošlosti bilo sasvim prihvatljivo, danas više nije, poput pušenja, pozicije žena, okrutnosti prema životinjama itd. Dakle, ne možemo strojeve naučiti etici jednokratno i misliti da je time problem riješen. Bit će potrebna stalna interakcija i dijalog, što je jedan od razloga zašto je iznimno važno da sustavi umjetne inteligencije mogu objasniti svoje rezoniranje.
>>>MIT osniva novi studij posvećen umjetnoj inteligenciji
Koliko su strojevi trenutačno pametni i koliko će pametni postati?
– Definicija pametnog klizni je koncept. Dapače, postoji stara izreka u području umjetne inteligencije koja definira umjetnu inteligenciju kao sve one stvari koje strojevi ne mogu raditi. Uzmite kalkulator kao primjer. Ne povezujete ga baš s umjetnom inteligencijom danas, ali do nedavno izračunati korijen broja dva smatralo se jako pametnim.
Strojevi već stoljećima preuzimaju zadatke od nas i umjetna inteligencija to će nastaviti raditi, ali nije riječ o oduzimanju poslova, nego obavljanju poslova za nas. Vidim umjetnu inteligenciju kao nešto što će dopuniti i poboljšati naše sposobnosti, a ne zamijeniti nas
Trenutačno umjetna inteligencija koju vidimo uglavnom može analizirati velike količine podatka i identificirati uzorke u tim podacima. Uglavnom je riječ o percepciji, ali postoje mnogi drugi aspekti inteligencije u kojima strojevi još nisu pretjerano dobri. Jedan primjer je kauzalnost, odnosno povezivanje uzroka i posljedice.
Hoće li umjetna inteligencija dosegnuti samosvijest i koji bi uopće bili kriteriji za određivanje toga?
– Mislim da postizanje samosvijesti nije samo po sebi vrlo zanimljivo pitanje. Važno je znati koje bi svrhe strojevi koje gradimo trebali biti svjesni. Sjetite se da umjetna inteligencija nije čarolija, nešto što nam se jednostavno dogodi. Nikako. Mi smo to stvorili, mi smo ti koji moraju razmišljati o svrsi onoga što radimo.
Možemo li pretpostaviti da će uza sve veći angažman strojeva u poslu razmišljanje javnosti postajati sve negativnije prema njima, što će izazvati nove probleme u odnosu prema umjetnoj inteligenciji i načinu na koji je reguliramo?
– Ne slažem se s time. Strojevi preuzimaju zadatke od nas već stoljećima i umjetna inteligencija to će nastaviti raditi, ali nije riječ o oduzimanju poslova, nego obavljanju poslova za nas. Vidim umjetnu inteligenciju kao nešto što će dopuniti i poboljšati naše sposobnosti, a ne zamijeniti nas. Uzmimo za primjer rad u velikim pomorskim lukama. To je nekoć bio težak posao koji je uključivao raznošenje kontejnera i paketa. Danas ljudi sjede u uredima i rabe joystick za upravljanje strojevima koji to rade umjesto ljudi. Iako ovdje nije riječ o umjetnoj inteligenciji, to je dobar primjer za ilustriranje poente. Dakle, umjetna inteligencija omogućit će nam bolje i manje opasne poslove. Ponavljam, naša je uloga kao društva razmisliti kako prilagoditi svoje živote strojevima.
Postoje li djelatnosti koje bi trebalo općenito zabraniti umjetnoj inteligenciji?
– Mi snosimo konačnu odgovornost.
>>>Amazonova umjetna inteligencija ugašena zbog spolne diskriminacije
Smatrate li da će umjetna inteligencija biti problem, kao što mnogi vjeruju? Mogu li strojevi jednog dana nadvladati ljude s obzirom na to da nije lako kontrolirati što će naučiti i kako će to protumačiti? Navodno su dva stroja u Facebooku razvila vlastiti jezik za međusobnu komunikaciju i zbog toga ih se moralo ugasiti jer ljudi nisu mogli razumjeti o čemu strojevi ‘govore‘.
– Ne, strojeve nije briga za preuzimanje svijeta. Zašto bi to učinili? Ta priča o Facebookovim robotima ispričana je vrlo pristrano – mi želimo vjerovati da su strojevi počeli međusobno razgovarati.
Kakva će pravila biti potrebna za reguliranje umjetne inteligencije kratkoročno gledano?
– Ona koja osiguravaju poštenje, otvorenost i odgovornost.