Privremeni dogovor o ključnim pravilima Europske unije koja reguliraju korištenje umjetne inteligencije, uključujući vladinu upotrebu umjetne inteligencije u biometrijskom nadzoru i kako regulirati sustave umjetne inteligencije poput ChatGPT-a, postignut je u petak navečer.
S političkim sporazumom, EU ide prema tome da postane prva velika svjetska sila koja će donijeti zakone koji reguliraju umjetnu inteligenciju. Dogovor između zemalja EU-a i članova Europskog parlamenta postignut je u petak nakon gotovo 15 sati pregovora koji su uslijedili nakon gotovo 24-satne rasprave prethodnog dana.
Dvije strane trebale bi dogovoriti pojedinosti u nadolazećim danima, što bi moglo promijeniti oblik konačnog zakona.
- Europa se pozicionirala kao pionir, shvaćajući važnost svoje uloge globalnog postavljača standarda. Ovo je, vjerujem, povijesni dan - rekao je europski povjerenik Thierry Breton na konferenciji za novinare.
Sporazum zahtijeva da temeljni modeli kao što su ChatGPT i sustavi umjetne inteligencije opće namjene (GPAI) budu u skladu s obvezama transparentnosti prije nego što se stave na tržište. To uključuje izradu tehničke dokumentacije, usklađivanje sa zakonom EU-a o autorskim pravima i širenje detaljnih sažetaka o sadržaju koji se koristi za obuku.
Visokoučinkoviti modeli temeljeni na osnovnim principima s visokim stupnjem rizika morat će provoditi evaluacije modela, procjenjivati i umanjivati sistemski rizik, provoditi kontradiktorno ispitivanje, izvještavati Europsku komisiju o ozbiljnim incidentima, osiguravati kibernetičku sigurnost i izvještavati o energetskoj učinkovitosti.
GPAI sa sistemskim rizikom mogu se oslanjati na kodekse prakse kako bi bili u skladu s novom regulativom.
Vlasti mogu koristiti biometrijski nadzor u stvarnom vremenu u javnim prostorima samo u slučajevima žrtava određenih zločina, prevencije stvarnih, sadašnjih ili predviđenih prijetnji, poput terorističkih napada, i potraga za osobama osumnjičenima za najteža kaznena djela.
Sporazum zabranjuje kognitivnu bihevioralnu manipulaciju, prikupljanje slika lica s interneta ili CCTV snimaka, sustave društvenog bodovanja i biometrijske kategorizacije za utvrđivanje političkih, vjerskih, filozofskih uvjerenja, seksualne orijentacije i rase.
Potrošači bi imali pravo podnijeti pritužbe i dobiti smislena objašnjenja, dok bi kazne za prekršaje bile u rasponu od 7,5 milijuna eura ili 1,5 posto prometa, do 35 milijuna eura ili 7 posto globalnog prometa.
Europska ambiciozna pravila umjetne inteligencije dolaze u trenutku kada tvrtke poput OpenAI-ja, u kojoj je Microsoft ulagač, nastavljaju otkrivati nove upotrebe svoje tehnologije, što izaziva i pohvale i zabrinutost. Googleov vlasnik Alphabet u četvrtak je lansirao novi model umjetne inteligencije, Gemini, koji će biti konkurent OpenAI-ju.
Zakon EU-a mogao bi postati primjer za druge vlade i alternativa mekanom pristupu Sjedinjenih Država i oštrijim pravilima Kine.