Iako ulaganja u AI padaju čak i u Americi, ipak je hype oko umjetne inteligencije još uvijek visok – obožavanje jednako kao i strah (prije svega za radna mjesta, ali i od mogućnosti da postane pametnijom od nas. Jedan od rijetkih stručnjaka koji upozorava na zlorabljenje njene primjene jest profesor i prvi čovjek Effectusa, Robert Kopal. Ne samo što podržava EU AI Akt nego se zalaže i za ‘reguliranje‘ korištenja tehnologije od prvih školskih koraka.
Sve je u nekome trenutku bila tehnologija, no kroz povijest se pokazalo da nikada nije bilo do tehnologije, uvijek je do ljudi…što onda reguliramo Aktom?
Tehnologija sama po sebi nije problem, ali primjena može biti. Tehnologiju ljudi mogu koristiti (use), ali i zloporabiti (misuse). U AIAAIC bazi, koja evidentira incidente u svezi AI etičke zloporabe, broj je incidenata porastao 26 puta od 2012. godine. Naravno, AI se i više koristi. AI doživljavam kao tehnologiju dvostruke namjene, može se koristiti u civilne i vojne svrhe. U jednome istraživanju, istim algoritmom koji je imao izvanredno dobru i važnu primjenu u otkrivanju molekula koje mogu doprinijeti u liječenju teških bolesti, izmijenjen je jedan parametar – toksičnost.
Taj je isti algoritam nakon toga u 6 sati generirao 40 tisuća najtoksičnijih molekula-otrova (pa i od VX-a). Sam Altman je više puta upozoravao i na AI rizike. Tako je nedavno izjavio kako ‘tvrtke trebaju promišljati kako sve čudne stvari mogu otići u pogrešnom smjeru‘. Dakle, EU AI Aktom regulira se AI primjena, a ne tehnologija, i to u skladu sa mogućim rizicima.
Neće li Akt dodatno smanjiti inovativnost i ulaganja europskih poduzeća koja u prereguliranom okruženju već dugo gube konkurentnost u odnosu npr. na SAD?
Neće. Gube konkurentnost? Pogledajmo podatke. Global Innovation Index 2022: od prvih 10 država, 7 su europske. IMD World Competitiveness Ranking 2023: od prvih 10 država, 5 su europske. The Global Talent Competitiveness Index 2023: Švicarska na prvome mjestu, a od prvih deset država, 7 su europske.
Stanford AI Index Report 2023: na globalnoj razini, prvi put u posljednjih deset godina, privatne su se investicije u AI smanjile, i to za 26,7 posto (2022/2021). A u SAD-u za 35,5 posto! EU AI Akt će povećati povjerenje u AI, a time i primjenu, što će se posljedično pozitivno odraziti na tržište. Čak je i fenomenalni Mustafa Suleyman, u sučeljavaju s Hararijem, rekao da je EI AI Akt primjer izvrsne AI regulative.
Koji su stvarni kapaciteti AI-ja, trenutno je ‘in‘ fokus na rješavanje ratnih sukoba uz pomoć umjetne inteligencije?
Sigurno može pomoći u generiranju scenarija, indikatora, može doprinijeti iznalaženju mogućeg rješenja. No, odlučiti? U svezi točnosti predviđanja, umjetna je inteligencija dobra kada je ‘jako sigurna da nešto jest‘ ili kada je ‘jako sigurna da nešto nije‘. No, upravo u području između te dvije krajnosti najčešće se događaju prave odluke i iznalaze prava rješenja.
Umijeće će biti naći/definirati prag oslanjanja na AI preporuke u odnosu na ljudski generirane preporuke. Najveće mogućnosti vidim u ispreplitanju tri područja, artificial intelligence vs. human intelligence vs. augmented intelligence. Tada bismo mogli poboljšati odlučivanje jer bismo znali ‘koga pitati‘. Inače, već dugo se u rješavanju konflikata koristi i BDM (Bueno de Mesquita) model koji je uspješno otklonio manjkavosti eksperata u predviđanjima.
Imenovani ste članom Povjerenstva za etičnu primjenu AI-ja u obrazovanju, dijelom i zato što ste prilično fokusirani na odnos AI-ja i škole/fakulteta. Što će Povjerenstvo značiti u obrazovnoj praksi?
Zahvaljujem CARNET-u na povjerenju. Zadaća je Povjerenstva izrada i redovito praćenje smjernica te savjetovanje i edukacija za etičnu primjenu digitalnih tehnologija i umjetne inteligencije u sustavu obrazovanja, ali i praćenje razvoja novih tehnologija te analiza njihovih potencijalnih utjecaja na obrazovni sustav.
Utjecaj je već sada velik, tim više što su djeca ‘zalijepljena‘ za tehnologiju. Treba li onda nešto mijenjati u pristupu osnovnoškolskom obrazovanju?
Pokušavam obrazovnu i opću javnost osvijestiti o izazovima i rizicima koje sa sobom donosi svijet tehnologije, podataka, informacijskih poremećaja, umjetne inteligencije, održivosti, demografije i starenja populacije, velikih međugeneracijskih razlika. Prema nekim podacima u Hrvatskoj je samo prošle godine više od 4 tisuće djece dobilo odgodu upisa u prvi razred zbog psihofizičke nezrelosti, loše grafomotorike, izostanka potrebnih govorno-jezičnih vještina, a čak 147 prvašića mora ponavljati razred. Je li moguće da digitalna demencija ipak uzima svoj danak?
Postajemo sve više ovisni o tehnologiji, a naše kognitivne sposobnosti slabe. Mnoga djeca nemaju potrebe pamtiti informacije jer znaju da ih u svakome trenutku mogu ‘zguglati‘. Važno je, naravno, pojačati i sadržaje koji doprinose razvoju digitalne pismenosti, ali prerano uvođenje digitalnih sadržaja može usporiti i potpuno onemogućiti razvoj velikog broja prijeko potrebnih vještina. Nastavne programe treba prilagoditi razvoju vještina i refleksivnog mišljenja, a ne temeljiti ih na pamćenju velikih količina činjenica i reproduktivnom mišljenju. Treba razvijati i socijalne vještine, snalažljivost, samoodrživost i empatiju. Svakako je važno povećati broj predmeta koji razvijaju kreativnost i kritičko mišljenje, a u višim razredima staviti veći naglasak na projektni pristup učenju.
Kako onda trebamo pristupiti priči o umjetnoj inteligenciji?
Vodeće udruge i pojedinci u Hrvatskoj, koji se na različite načine i u različitim svojstvima bave razvojem, poučavanjem ili promoviranjem umjetne inteligencije, zagovaraju pristup ‘namjernog nedefiniranja‘ pojma ‘umjetna inteligencija‘, jer se navodno oslanjaju na kineski i američki model koji ne žele zakonima postaviti čvrstu definiciju AI-ja. Inače, SAD je definirao pojam umjetne inteligencije (NATIONAL ARTIFICIAL INTELLIGENCE ACT OF 2020).
Kako možemo razgovarati o nečemu, a ne znamo o čemu razgovaramo? Neke od AI tema o kojima treba otvoreno razgovarati jesu AI definicija i regulativa, dvostruka primjena algoritma: točnost vs. pravednost; algoritmi: WMD – ‘oružja matematičkog uništenja‘... algoritmi ne predviđaju budućnost, oni uzrokuju budućnost; AI u obrazovanju; treba li zaustaviti/usporiti AI razvoj; AI i demokracija; AI i ratovanje, AI i oružje; AI i farmacija; AI vs. LLM; umjetna inteligencija vs. ljudska inteligencija; AI i tržište rada, AI, samoispunjujuće proročanstvo & tržište rada; kako da AI sustavi budu sigurni, transparentni, sljedivi, nediskriminirajući, etični, ekološki prihvatljivi; AI infodemija; kako riješiti ‘unlearning‘ AI izazov?; dohvaćanje podataka s interneta; kognitivna škrtost; performanse i točnost ChatGPT-a vs. vrijeme; sveobuhvatna procjena pouzdanosti GPT modela; LLM mudrost masa vs. društvo uma; primjeri pristranosti u AI generiranim slikama; UNESCO: strože etičke smjernice za AI; AI jezični jaz; znanstvenici istražuju AI modele za proučavanje ljudskog ponašanja; AI problem - danak za okoliš; kibernetička sigurnost i AI; Prompt Engineering, postavljanje odgovarajućih/pravih pitanja; "alignment" problem i dr.
A u ovoj globalno "superizbornoj" godini (i u godinama koje dolaze) poseban izazov jesu i biti će informacijski poremećaji i AI utjecaj.
Cijeli intervju pročitajte u novome digtalnom i tiskanom broju Lidera.