MIRA MURATI

Direktorica odgovorna za ChatGPT upozorava: Umjetna inteligencija se može i zlorabiti

10.02.2023 u 14:32

Bionic
Reading

Tehnološka direktorica iz OpenAi-ja poziva sve da pomognu stvarati budućnost umjetne inteligencije, no naglašava da odgovornost za njezino korištenje i opasnost od zlouporabe sežu dalje od onog čime se njezina kompanija bavi

Mira Murati, glavna tehnologinja u OpenAI-ju, tip je osobe koje otvoreno priča o opasnostima umjetne inteligencije dok istovremeno zvuči kao da će sve na kraju biti ok, piše Time. Muratina pozicija stavlja je na čelo timova koji razvijaju Dall-E koji kreira slike pomoću tekstualnih uputa i ChatGPT-a, chatbota koji može odgovarati na složena pitanja (s mješovito točnim odgovorima).

Njihov alat je privukao pažnju javnosti nakon što je postao dostupan krajem studenog. Dok ga dio škola zabranjuje, Microsoft u njega investira milijarde dolara i integrira ga u svoju tražilicu Bing. 'Kao što je bilo kod prijašnjih revolucija, neki će se poslovi pojaviti dok će drugi nestati...', nonšalantno je komentirala Murati u razgovoru s Trevorom Noahom oko utjecaja umjetne inteligencije, 'no optimistična sam.'

ChatGPT je u siječnju po popularnosti prešišao bitcoin, a pažnja je dobro došla OpenAI-jevom biznisu. Ovaj startup iz San Francisca upošljava 375 zaposlenika te je vrijedan 30 milijardi dolara. Murati je u razgovoru za Time naglasila da kompanija nije očekivala ovakav odgovor publike te da su bili dosta nervozni oko ChatGPT-ovog dolaska na internet. OpenAI je vrlo znatiželjan oko potencijala softvera i područja u kojima će on biti koristan.

ChatGPT je, kaže Murati, neuralna mreža trenirana za predviđanje sljedeće riječi, a izazovi s kojima se susreće slični su onima kod ostalih LLM-ova - serviranja izmišljenih stvari kao činjenica.

ChatGPT se trenutno nalazi u stadiju recenziranja istraživanja, što znači da kompanija ne želi stopostotno stati iza odgovora koje program trenutno nudi, već njegovog potencijalnog revolucioniranja načina na koji učimo. 'Skupina od 30 ljudi koji uče u istoj učionici dolazi s raznim obrazovnim pozadinama, načinima učenja i recimo da svi uče isto gradivo. Uz stvari poput ChatGPT-a možete beskonačno razgovarati s modelom kako biste razumjeli koncept na način koji je centriran oko vaše razine razumijevanja. Program može, drugim riječima, jako pomoći po pitanju personaliziranog obrazovanja.'

Na pitanje o zabrinutosti lidera u tehnološkom polju o opasnostima umjetne inteligencije Murati je odgovorila: 'Nalazimo se u jedinstvenom trenu u kojem možemo aktivno oblikovati društvo, što znači da situacija može ići u oba smjera: tehnologija koja oblikuje nas i mi koji oblikujemo tehnologiju. Pred nama su brojni problemi koje treba riješiti, poput davanja instrukcije modelu da napravi ono što od njega tražite i kako osigurati da poštuje ljudsku namjeru i na koncu služi čovječanstvu.' Tu je i hrpa drugih pitanja oko utjecaja na društvo, kao i etičkih te filozofskih pitanja koja moramo uzeti u obzir. U razgovor, prema Murati, treba uvesti razne stavove i struke, poput filozofa, društvenih stručnjaka, umjetnika i ljudi koji se bave humanističkim znanostima.

Glavni etički i filozofski problem je, kaže Murati, to da se umjetna inteligencija može zlorabiti, što nas dovodi do pitanja kako ju regulirati na globalnoj razini. Na pitanje može li OpenAI preuzeti odgovornost za stvari koje nude svijetu te revoluciju do koje su doveli, Murati je naglasila da je njezina kompanija ipak mali tim ljudi te da bi u priču trebali ući regulatori i vlade. Drugim riječima, oni će proizvesti proizvod i zaraditi novac, a kako će ga drugi koristiti, nije do kraja u njihovoj domeni.

'Ovo je pravi trenutak da se svi priključe oblikovanju umjetne inteligencije za budućnost, s obzirom na utjecaj koji će te tehnologije imati', zaključuje direktorica iz OpenAI-ja.