'Generativna umjetna inteligencija kao što je ChatGPT otvorila je razne mogućnosti za potrošače, ali postoji ozbiljna zabrinutost o tome kako bi ti sustavi mogli prevariti ljude, manipulirati i naštetiti im.

Također mogu biti korišteni za širenje dezinformacija, održavanje postojećih predrasuda koje pojačavaju diskriminaciju ili prijevaru', rekla je Ursula Pachl, zamjenica glavnog direktora BEUC-a.

Stoga su iz te organizacije pozvali nadležna tijela za sigurnost, podatke i zaštitu potrošača da odmah započnu istrage i da ne čekaju dokono da se dogode sve vrste štete potrošačima prije nego što poduzmu mjere.

'Ključno je da EU ovaj zakon učini što je moguće otpornijim kako bi zaštitila potrošače.

Svi sustavi umjetne inteligencije, uključujući generativnu umjetnu inteligenciju, trebaju javni nadzor, a javne vlasti moraju ponovno uspostaviti kontrolu nad njima.

Zakonodavci moraju zahtijevati da izlaz iz bilo kojeg sustava generativne umjetne inteligencije bude siguran, pošten i transparentan za potrošače', istaknula je Pachl.

BEUC, koji predstavlja potrošačke organizacije u 13 zemalja Unije, EU-u, objavio je poziv kako bi se poklopio s izvješćem jednog od svojih članova, Forbrukerrådeta iz Norveške.

Kako je navedeno u tom izvješću, umjetna inteligencija predstavlja štetu potrošačima i može izazvati brojne probleme.

Pristranost i drugi problemi

Rasprava oko umjetne inteligencije u Europi dosad se fokusirala na područja kao što su pravičan pristup uslugama, dezinformacije i konkurencija.

Problematičnim se smatra to što su pojedini programeri umjetne inteligencije, uključujući velike tehnološke tvrtke, onemogućili vanjski nadzor tih sustava, zbog čega je teško vidjeti kako podatke prikuplja ili kako algoritmi rade.

Također zabrinjava to što ti sustavi ne razlikuju dovoljno dobro točne i netočne informacije i mogu biti pristrani, kao i mogućnost stvaranja umjetne inteligencije koja bi namjerno obmanjivala ljude, odnosno za probijanje zaštitnih sustava koje su osmislili ljudi.

Prošlog tjedna šefica Unije za zaštitu tržišnog natjecanja Margarethe Vestager istaknula je kako pristranost može biti rizik vezan uz umjetnu inteligenciju kada se primjenjuje u kritičnim područjima poput financijskih usluga kao što su hipoteke i drugi zahtjevi za kredite.

Njezini su komentari uslijedili neposredno nakon što je Unija odobrila svoj službeni zakon o umjetnoj inteligenciji, koji privremeno dijeli aplikacije umjetne inteligencije u kategorije kao što su neprihvatljivi, visoki i ograničeni rizik, pokrivajući širok raspon parametara kako bi se odredilo u koju kategoriju spadaju.

Zakon o umjetnoj inteligenciji, kada bude implementiran, bit će prvi pokušaj u svijetu da se pokuša kodificirati neka vrsta razumijevanja i pravne provedbe oko toga kako se umjetna inteligencija koristi komercijalno i nekomercijalno.

Sljedeći korak u procesu je da Unija surađuje sa svojim pojedinačnim državama-članicama kako bi dogovorili kakav će konačni oblik imati zakon.

EU želi finalizirati ovaj proces do kraja ove godine, piše Tech Crunch.