Hoćeš li koristiti ChatGPT kao vruću liniju? AI chatbot kojeg je kreirao Sam Altman i tim u OpenAI-u uskoro će se razviti i krenuti u erotsko-pornografske vode.

Sadržaj za odrasle od prosinca

Osnivač OpenAI-a rekao je na društvenim mrežama u utorak da će jedan od nadolazećih izmjena u chatbotu omogućiti generiranje erotskog sadržaja od prosinca – iako samo, naglasio je, za verificirane odrasle osobe.

'Čini se da će to važiti samo za pisani tekst', rekao je za France 24 Sven Nyholm, stručnjak za etiku vezanu uz AI. Drugim riječima, OpenAI još uvijek nije spreman, barem ne u ovoj fazi, tražiti od svog glavnog chatbota da generira eksplicitne slike ili videozapise.

Čak i ako je ograničen na pisanu erotiku, ChatGPT će biti prvi veliki chatbot koji ulazi u područje takvog sadržaja. Ostali veliki jezični modeli – Perplexity, Claude i Googleov Gemini – trenutno odbijaju takav korak.

No, ChatGPT neće biti jedini koji ulazi u ovo novo područje. Neki nišni chatboti već su kročili na ovo sklisko tlo, poput plaćene verzije Replike. Za mnoge stručnjake koje je France 24 kontaktirao, dolazak ovakvog sadržaja u generativni AI uvijek je bio samo pitanje vremena.

„U Silicijskoj dolini postoji razmišljanje da svaki problem ima tehnološko rješenje. Mark Zuckerberg, šef Mete, predložio je da jedan od načina odgovora na svjetsku ‘epidemiju usamljenosti’ bude stvaranje emocionalnih chatbotova. Postoje dvije glavne sile koje pokreću razvoj nove tehnologije Vojne primjene i pornografija', rekao je Nyholm.

Prvi u sektoru

Uvijek poslovan, Altman čini se odlučio da je najbolje biti prvi u ovom sektoru.

„Očito je riječ o marketingu prije svega”, rekla je britanska računalna znanstvenica Kate Devlin, s King’s Collegea u Londonu i autorica knjige 'Turned On: Science, Sex and Robots'.

'Zna kako reći ono što misli da javnost želi čuti. Sam Altman je vidio da ljudi pokušavaju zaobići ograničenja Appleovog Siri ili Amazonove Alexe kako bi vodili ovakve razgovore i shvatio je da bi mogao zaraditi.'

„Vrlo je vjerojatno da je to pokušaj da se privuče ovaj segment javnosti i dovedu više korisnika na njihovu platformu. Ostaje da se vidi kako će OpenAI monetizirati ovu erotsku opciju. Najvjerojatniji pristup, naravno, bio bi naplaćivanje korisnicima koji žele sudjelovati u takvim razgovorima', rekao je Simon Thorne, stručnjak za AI sa Sveučilišta u Cardiffu.

'Plaćena „premium” verzija bila bi vrlo primamljiva za OpenAI, s obzirom na to da je dokazano da pornografija može biti potencijalno ovisnička, kaže Devlin. Druga opcija mogla bi biti sustav s više razina, s jeftinim pristupom najblažoj verziji chatbota, dok bi se od korisnika koji žele dublje erotske razgovore naplaćivale veće naknade.

Koji su utjecaji na ljude koji su već ranjivi?

Altman je već naišao na val kritika nakon svoje objave.

'Mi nismo izabrana moralna policija svijeta. Na isti način na koji društvo razlikuje druge prihvatljive granice (filmovi s R-ocjenom, na primjer), želimo napraviti nešto slično ovdje', napisao je u postu na X-u braneći svoju odluku.

Altmanov pokušaj da svoj chatbot odvede u smjeru seksa dolazi u vrijeme kontroverzi oko povremeno toksičnih 'odnosa' između AI-a i njihovih korisnika.

Roditelji tinejdžera koji je ove godine oduzeo život tužili su OpenAI u kolovozu, tvrdeći da je ChatGPT otvoreno poticao suicidalne porive njihova sina.

Drugi korisnik, 47-godišnjak iz Kanade, očito je postao uvjeren da je matematički genij poslan da spasi čovječanstvo nakon samo tri tjedna razmjena s chatbotom.

'To je glavni problem s ovim sex-botovima. Koji su utjecaji na ljude koji su već ranjivi?', rekla je Devlin.

OpenAI je obećao postaviti zaštitne mjere kako bi spriječio ove zloupotrebe.

„Znamo da je često moguće zaobići ograničenja koja su postavili ovi tvorci chatbota. Kad je riječ o erotskim razgovorima, to može dovesti do stvaranja problematičnog ili čak ilegalnog sadržaja', eekao je Thorne.

Stručnjaci su za FRANCE 24 rekli da također nisu uvjereni da bi privatna korporacija trebala biti arbitar oko toga što je seksualni sadržaj koji prihvatljiv.

'S obzirom na to da zakoni o tome što je dopušteno, a što nije, često variraju od zemlje do zemlje, bit će vrlo teško OpenAI-u postaviti opća pravila', rekao je Thorne.

Servilni pristup chatbota

I dok bi seksualizirani sadržaj, u teoriji, ostao – ograničen samo na odrasle, utjecaj generativnog AI-a na novu generaciju koja odrasta uz ovu tehnologiju mogao bi biti ozbiljan.

„Nedavna britanska studija pokazala je da su mladi ljudi sve skloniji smatrati chatbote stvarnim osobama čije izjave su vjerodostojne,” rekao je Thorne.

Generacija koja bi, kad odraste, mogla vjerovati ChatGPT-u ako im kaže da, na primjer, nije prihvatljivo imati erotski razgovor s osobom istog spola.

Drugi rizik mogao bi doći od poznatog servilnog pristupa chatbota prema korisnicima.

„Često su konfigurirani prema modelu korisničkih službi koje nude vrlo prijateljske i suradničke interakcije. Osim toga, tvorci ovih AI-a žele usrećiti svoje korisnike kako bi nastavili koristiti njihov proizvod', rekao je Thorne.

No, iako Devlin prepoznaje veliki rizik, tvrdi da bi ova podržavajuća strana sex-botova mogla biti korisna za heteroseksualne žene koje se osjećaju otuđeno u online svijetu koji sve više postaje neprijateljski.

'U sve toksičnijem digitalnom okruženju, moglo bi biti seksualno ispunjavajuće imati erotsku interakciju s AI-em umjesto s pravim ljudima koji bi vas mogli maltretirati online', rekla je.

No, iako bi ovi razgovori mogli imati pozitivne učinke, želimo li zaista predati naše najintimnije erotske fantazije u ruke AI-a pod kontrolom američke multinacionalne kompanije?

'Mnogi ljudi ne shvaćaju da se podaci koje unose u ChatGPT šalju OpenAI-u',  rekla je Devlin.

Ako Altman uspije preuzeti ovu rastuću industriju, OpenAI bi posjedovao 'bez sumnje najveću količinu podataka o ljudskim erotskim preferencijama', rekao je Thorne.