Kad je Australija krajem prošle godine donijela zakon kojim se uvodi zabrana korištenja društvenih mreža za mlađe od 16 godina, bila je prva država u svijetu koja je to napravila. Sve ostale zemlje s posebnom su pozornosti pratile kako će to funkcionirati u praksi
U međuvremenu je slične zakone donijelo više od 25 zemalja diljem svijeta, s različitim prilagodbama i rješenjima.
No, čini se kako je temeljno istraživanje, zbog kojeg je zakon i donesen - lažno.
Kako pišu australski mediji, otkriveno je kako je izvješće, koje je naručila australska vlada, a koje je izrađeno kako bi se demonstrirala tehnička izvedivost ove zabrane, djelomično napisano korištenjem ChatGPT-a, sadrži najmanje šest izmišljenih akademskih citata, a organizacija koja ga je izradila lagala je da je u njegovom stvaranju koristila umjetnu inteligenciju.
vezane vijesti
Tijekom saslušanja u Senatu prošlog tjedna, postavljeno je bitno pitanje - temelji li se australsko zakonodavstvo na izmišljenim znanstvenim dokazima?
Udruga koja se našla na udaru, Age Check Certification Scheme (ACCS), dobila je 3,48 milijuna australskih dolara za testiranje tehnologija i izradu izvješća na temelju kojeg je izrađen australski zakon. No, istraga koju je proveo Guardian Australia otkrio je cijeli niz nelogičnosti i lažnih citata u tom izvješću.
Nakon što su u ACCS prvo zanijekali korištenje AI, ipak su priznali da se tragovi ChatGPT-a mogu pronaći u dva dijela u izvješću. No, uvjeravali su kako su svi podaci provjereni.
Profesor Christian Downie iz Australskog nacionalnog sveučilišta istaknuo je kako su lažne reference, bile one AI generirane ili ne, rizične jer mogu narušiti povjerenje javnosti i dovesti do donošenja krivih odluka.
'Mislili biste da vlada već razmišlja o tome i da će u ugovorima navesti penale kako bi obeshrabrila takvo ponašanje', istaknuo je Downie za Guardian Australia.
Skandal je time veći što australski Senat trenutno raspravlja o Zakonu o provedbi koji bi udvostručio maksimalnu kaznu za nepoštivanje odredbi o zabrani pristupa društvenim mrežama mlađima od 16 godina. Izvješće s odbora pred kojim je obavljeno saslušanje trebalo bi biti objavljeno 25. kolovoza.
U međuvremenu nastavljaju se rasprave o tome kako su izmišljeni citati završili u tehničkoj dokumentaciji australske vlade.
Stručnjaci upozoravaju kako veliki jezični modeli poput ChatGPT-a ne funkcioniraju tako da traže činjenice, već generiraju statistički vjerodostojan tekst na temelju obrazaca u svojim podacima za obuku. Upozoravaju kako je i stručnim recenzentima sve teže identificirati halucinirane citate u stručnim radovima, pa ne iznenađuje da je tako nešto promaknulo i onima koji nisu toliko stručni.
Fatima Payman, nezavisna senatorica smatra da bi vlada trebala, u najmanju ruku, zahtijevati ispriku i povratak sredstava koje je ACCS dobio za izradu izvješća.
