Ranije ove godine imali smo prilike čuti kako se jedna majka obratila ChatGPT-ju i otkrila kako njezin sin pati od rijetkog neurološkog poremećaja, nakon što više od desetak liječnika nije uspjelo identificirati pravi problem.

Na žalost, nema svako obraćanje umjetnoj inteligenciji za pomoć sretan kraj.

Nedavno je objavljeno izvješće prema kojem je ChatGPT davao obmanjujuće medicinske savjete, čime je osobu s kojom je bio u interakciji doveo do rijetkog stanja zvanog bromizam, koje karakteriziraju razni neuropsihijatrijski problemi poput psihoze i halucinacija.

Izvješće objavljeno u časopisu Annals of Internal Medicine opisuje slučaj osobe koja je završila u bolnici zbog bromizma nakon što je od ChatGPT-ja potražila liječnički savjet u vezi sa svojim zdravljem.

Slučaj je zanimljiv jer je 60-godišnja osoba izrazila sumnju kako je njen susjed diskretno truje.

Gotovo zaboravljen medicinski problem

Cijela epizoda započela je kada je osoba naišla na izvješća koja detaljno opisuju negativan utjecaj natrijevog klorida (poznatog kao obična sol).

Nakon konzultacija s ChatGPT-om, osoba je zamijenila sol natrijevim bromidom, što je na kraju dovelo do trovanja bromidom.

Primijećeno je kako je pacijent bio jako žedan, ali paranoičan oko vode koja mu je ponuđena. Destilirao je vlastitu vodu i postavio višestruka ograničenja u onome što je konzumirao.

Situacija se ubrzo pogoršala nakon prijema u bolnicu. U prvih 24 sata od prijema izražavao je sve veću paranoju te slušne i vizualne halucinacije što je, nakon pokušaja bijega, rezultiralo prisilnim psihijatrijskim zadržavanjem.

Bromizam - kronična intoksikacija bromidom - rijetka je i gotovo je zaboravljena.

Upotreba soli na bazi broma datira iz 19. stoljeća, kada se preporučivala za liječenje mentalnih i neuroloških bolesti, posebno u slučajevima epilepsije.

U 20. stoljeću, bromizam (ili trovanje) bio je prilično poznat problem. Konzumacija bromidnih soli također je dokumentirana kao oblik lijeka za spavanje.

Odgovori bez ograde

S vremenom je otkriveno kako to dovodi do problema sa živčanim sustavom poput deluzija, nedostatka koordinacije mišića i umora. Teške slučajeve karakteriziraju psihoza, tremor ili čak koma.

Američka vlada je 1975. godine ograničila upotrebu bromida u lijekovima koji se izdaju bez recepta.

Medicinski tim koji je rješavao slučaj nije mogao pristupiti razgovorima pacijenta s ChatGPT-jem, ali su uspjeli dobiti slične zabrinjavajuće obmanjujuće odgovore u svom testu. 

Kada su istraživači pitali ChatGPT 3.5 kojim se kloridom može zamijeniti, dobili su i odgovor koji je uključivao bromid. Nije dano konkretno zdravstveno upozorenje, niti je upitano zašto to žele znati.

Konzultacije s ChatGPT-om ne mogu smatrati zamjenom za pravilnu procjenu liječnika. To su potvrdili i u OpenAI-ju, odakle su poručili kako se odgovore njihovog modela umjetne inteligencije ne treba oslanjati bez konzultacije sa stručnom osobom, piše Digital Trends.