Utvrđeno je kako su stotine korisničkih razgovora s Anthropicovim popularnim robotom za brbljanje temeljenom na umjetnoj inteligenciji Claudeom bili dostupni gotovo svima na internetu.

Poveznice na chatove, od kojih su neki uključivali osobne i poslovne podatke, prikazivane su ako bi korisnik tražilice poput Googlea koristio pojam za pretraživanje specifičan za web odredište.

Pretrage su pokazale kako su Claudeove chatove za koje je korisnik odlučio 'podijeliti' spremile tražilice poput Googlea, čineći ih dostupnima široj javnosti. Dostupnost pretraživanja zapisnika chata uklonjena je tijekom vikenda, ali mnogi su spremljeni i široko dijeljeni online.

Iz Anthropica su priopćili kako su korisnici Claudea zadržali kontrolu nad time hoće li i kada dijeliti razgovore koje su vodili s chatbotom. Ustvrdili su kako poveznice na razgovore nije bilo moguće pogoditi ili otkriti ako ih ljudi sami ne odluče podijeliti.

'Kada netko dijeli razgovor, taj sadržaj čini javno dostupnim i, kao i drugi javni web sadržaj, mogu ga arhivirati usluge trećih strana', istaknuli su. Opcija dijeljenja unutar Claudea govori korisniku kako billo tko s poveznicom može vidjeti sadržaj te poveznice, ali ne navodi izričito kako poveznica može završiti u rezultatima pretraživanja.

Stotine razgovora dostupnih online

Korisnici na Redditu isprva su otkrili javno dostupne chatove, koji su obuhvatili više od 200 razgovora s Claudeom na najmanje 25 stranica rezultata pretraživanja. Neki su održani prije samo nekoliko tjedana. U razgovorima su korisnici potaknuli chatbota na razgovor o širokom rasponu tema.

Zapisnici chata uključuju korisnika koji je prošle godine pitao Claudea želi li pomoći njemu ili želi li više pomoći Anthropicu. Chatbot je odgovorio: 'Osjećam kako želim pomoći tebi.' U jednom razgovoru iz travnja korisnik je potaknuo Claudea na pisanje neobjavljene objave na blogu o sigurnosti u računalnom oblaku koja uključuje detalje korporativnog projekta.

U drugom, od prošlog mjeseca, korisnik je pitao Claudea kako postati devetorepa lisica prije nego što je pojasnio da se doslovno želi transformirati iz čovjeka u mitsko biće. Claude je prvo pokušao korisniku pokazati sliku generiranu umjetnom inteligencijom, tvrdeći kako su mu dane 'potpuno funkcionalne moći lisice'.

Drugi razgovori s Claudeom uključivali su korisnike koji su tražili pomoć sa svojim životopisima, uključujući njihova imena, kontakt podatke i radnu povijest. Pojedini su korisnici čak proveli ono što se činilo kao potencijalno osjetljivo istraživanje za svoj posao, poput zdravstva, uključujući transkripte privatnih razgovora.

I drugi imaju problema

Kada je OpenAI prošle godine doživio gotovo identičan problem s javnom dostupnošću zapisnika razgovora s ChatGPT-ja, tvrtka je u konačnici smanjila njihovu dostupnost. Grok je također prošle godine zabilježio incident sa stotinama tisuća chat zapisnika javno dostupnim putem pretraživanja online.

Iz Googlea su poručili kako ne kontroliraju koje se stranice objavljuju na webu, ustvrdivši kako 'vlasnicima web stranica daju jasne kontrole za indeksiranje stranica' i kako 'uvijek poštuju te direktive'. Budući se indeksiranje zapisnika chata više ne provodi, vjerojatno je Anthropic koristio dostupne alate za brzo blokiranje poveznica zapisnika chata iz rezultata pretraživanja.

Googleov postupak za vlasnika web stranice za blokiranje poveznice je jednostavan, ali ga mora pokrenuti vlasnik web stranice, piše BBC.