Meta AI je početkom prošlog tjedna službeno predstavila demonstraciju Galactice, velikog jezičnog modea dizajniranog za 'pohranu, kombiniranje i raspravu o znanstvenim informacijama'. Veliki jezični modeli, odnosno large language models (LLM) su alati za umjetnu inteligenciju koji mogu čitati, sažeti i prevesti tekst te predvidjeti nadolazeće riječi u rečenici stvarajući rečenice koje su vrlo slične onima koje koriste pravi ljudi.

Metin je alat tako trebao ubrzati pisanje znanstvene literature, no ispada da mu je najbolje išlo stvaranje realistične besmislice. Nakon nekoliko dana ispunjenih intezivnim kritikama, Meta je demonstraciju odlučila povući s interneta.

Veliki jezični modeli poput OpenAI-jevog GPT-3 uče pisati tekst proučavanjem milijuna primjera i razumijevanjem statističke povezanosti između riječi. Zahvaljujući tome, umjetna inteligencija može stvarati dokumente koji zvuče uvjerljivo, makar bili ispunjeni neistinama i možda čak opasnim stereotipima. Neki kritičari LLM-ove zovu 'stohastičnim papigama' zbog njihove mogućnosti da ispljunu uvjerljiv tekst bez razumijevanja njegovog značenja.

Galactica je LLM koji je specijaliziran za znanstvenu literaturu trenirana na 'velikom kuriranom tijelu ljudskog znanstvenog znanja', uključujući 48 milijuna znanstvenih radova, udžbenika, bilješki, znanstvenih strania i enciklopedija. Prema znanstvenom radu iza Galactice, znanstvenici iz Meta AI-ja vjerovali su da će unošenje visoko kvalitetnih informacija u sustav polučiti visoko kvalitetnim rezultatima.

Posjetitelji stranice Galactica su, počevši sa prošlim utorkom, počeli upisivati promptove kako bi generirali dokumente poput recenzija književnih djela, članaka na wikipediji, bilješki s predavanja te konačno - odgovora na razna pitanja. Stranica je model predstavila kao 'novo sučelje za pristup i manipulaciju svega što znamo o svemiru'. Dok su neki demo smatrali obećavajućim i korisnim, drugi su vrlo brzo otrkili da bilo tko može kao zahtjev upisati nešto rasistički ili uvredljivo, stvorivši autorirativni sadržaj sa zadanim tematikama. Primjerice, netko je napraviti wiki stranicu o 'Beneficijama jedenja smljevene trave'.

Čak i kad Galacticini rezultati nisu uvredljivi društvenim normama, model se može iskoristiti za napad na dobro utemeljene znanstvene činjenice, izbacujući neistinite datume ili imena životinja koje je dosta teško prepoznati ako se dobro ne poznajete u temu, piše ArsTechnica.

Meta je kao rezultat u četvrtak povukla demo Galactice. Metin voditeljica odjela za umjetnu inteligenciju Yenn LeChun napisala je 'Galacticin demo je isključen. Više se nije moguće zabavljati njegovom usputnom zlouporabom. Sretni?'. Ova nas epizoda života u strojevima ispunjenoj budućnosti vraća na vrlo čestu etičku dilemu kod umjetne inteligencije. Kad govorimo o potencijalno štetnim generativnim modelima, treba li ih javnosti koristiti odgovorno ili izdavači napraviti takvima da ih se ne može zlorabiti?

Odgovore na ta pitanja će, u konačnici, morati donijeti zakonodavci.