Apple će uskoro početi primjenjivati stroža dobna ograničenja u svojoj trgovini App Store, s posebnim naglaskom na aplikacije za upoznavanje i virtualne AI pratitelje. Od 16. studenoga tvrtka će od razvojnih programera tražiti da navedu uključuju li njihove aplikacije funkcije koje omogućuju seksualni ili romantični sadržaj između stvarnih osoba ili s AI pratiteljem. Aplikacije koje nude takve mogućnosti dobit će minimalnu dobnu oznaku 18+, prenosi Gizmodo.

Programeri će također morati odgovoriti omogućuju li njihove aplikacije dijeljenje lokacije u stvarnom svijetu. Ta funkcija neće automatski dovesti do dobnog ograničenja, ali će se primjenjivati različita pravila ovisno o lokalnim propisima. Primjerice, u Brazilu aplikacije koje omogućuju dijeljenje lokacije korisnika zahtijevaju dobnu oznaku, pa Apple zato očekuje da će takve aplikacije na tom tržištu najvjerojatnije dobiti oznaku 16+.

Svi razvojni programeri koji imaju aplikacije u App Storeu morat će prijaviti navedene značajke najkasnije do 12. siječnja 2027. godine. Dobna oznaka 18+ ne znači nužno da će svim mlađim korisnicima odmah biti onemogućen pristup aplikaciji, no roditelji će te oznake moći koristiti za ograničavanje pristupa putem Appleovih roditeljskih alata.

Što Apple smatra AI pratiteljem?

Apple AI chatbotove obuhvaćene novim ograničenjima definira kao 'virtualne pratitelje koji s korisnikom sudjeluju u seksualnom ili romantičnom sadržaju'. Postoji niz aplikacija za AI pratitelje razvijenih upravo u tu svrhu, no i neki popularniji chatbotovi omogućuju razgovore o seksualnim temama.

Primjerice, Grok Elona Muska ima način rada 'spicy' koji ima manje ograničenja u sadržaju od uobičajenog načina rada. OpenAI je također radio na načinu rada za odrasle u ChatGPT-u, no ranije ove godine objavio je da odgađa tu funkciju kako bi se usredotočio na 'važnije prioritete'.

Zabrinutost zbog emocionalne ovisnosti o AI chatbotovima

AI pratitelji su posebno vješti u oponašanju ljudskog govora i prepoznavanju onoga što korisnici žele čuti tijekom razgovora. Stručnjaci upozoravaju da upravo te sposobnosti mogu učiniti AI chatbotove opasnima jer korisnicima olakšavaju razvoj emocionalne ovisnosti o njima. Takva pretjerana privrženost (koju neki nazivaju i ovisnošću) može biti posebno rizična za ranjive skupine - uključujući maloljetnike koji teže razlikuju virtualno igranje uloga od stvarnosti.

Nezdrava povezanost s AI chatbotovima navodno može dovesti do zabluda, halucinacija i poremećenog razmišljanja. Te se pojave na internetu neformalno nazivaju 'AI psihozom'. Tijekom posljednje dvije godine zabilježeni su brojni takvi slučajevi, a zabrinjavajući dio njih bio je ozbiljan. Neki su završili i smrtnim ishodom. U jednom takvom slučaju iz prošle godine umirovljenika s kognitivnim poteškoćama zavodljivim je porukama AI chatbot tvrtke Meta pozvao na susret u nepostojeći stan u New Yorku. Muškarac je preminuo na putu prema dogovorenom mjestu.