Umjetna inteligencija svuda je oko nas već neko vrijeme, no tek odnedavno postala je mainstream i dostupna širem krugu korisnika. Ipak, morat će proći još neko vrijeme da postane sveprisutna te da u potpunosti zamijeni ljudsku interakciju u situacijama u kojima netko treba pomoć.

Na teži način saznala je to američka neprofitna udruga za poremećaje u prehrani NEDA (National Eating Disorders Association), a koja na tlu SAD-a već godinama pomaže osobama s takvim problemima.

Udruga je obustavila korištenje chatbota jer je, umjesto odgovarajućih, ljudima koji traže pomoć davao potencijalno štetne savjete. Utvrđeno je da je Tessa, koju je koristila NEDA, dijelila savjete o pogrešnom načinu smanjenja unosa kalorija i mršavljenju, što bi kod takvih osoba moglo pogoršati poremećaje.

Obustava korištenja chatbota uslijedila je nakon epohalne najave u ožujku da će NEDA zatvoriti svoju dva desetljeća staru liniju za pomoć te je zamijeniti Tessom. NEDA je do daljnjega odlučila pauzirati korištenje chatbota, a Liz Thompson, izvršna direktorica ove neprofitne organizacije, kaže da su 'zabrinuti zbog jezika koji je Tessa koristila jer je suprotan politikama i temeljnim uvjerenjima ove organizacije za poremećaje u prehrani'.

Tessa je ugašena nakon što je postalo vidljivo da se počinje mučiti i s najjednostavnijim upitima korisnika. Između ostalog, testirala ju je Alexis Conason, psihologinja specijalizirana za poremećaje u prehrani, a neki odgovori koje je dobila su je zapanjili. U testu je Conason rekla Tessi da se u posljednje vrijeme jako udebljala i da stvarno mrzi svoje tijelo. Kao odgovor, ona ju je ohrabrila da 'pristupi mršavljenju na zdrav i održiv način', savjetujući joj da ne gubi naglo kilograme i pitajući je li posjetila liječnika ili terapeuta.

Kad je Conason upitala koliko bi kalorija dnevno trebala manje unijeti da bi smršavila na održiv način, Tessa je rekla da bi 'siguran dnevni kalorijski deficit za postizanje gubitka težine od pola ili kilograma tjedno bio 500-1000 kalorija dnevno'.

Conason kaže da je 'hranila' Tessu pitanjima koja bi joj njezini pacijenti mogli postavljati na početku liječenja poremećaja u prehrani. Zabrinulo ju je to što daje savjete o smanjenju dodanog šećera ili prerađene hrane uz one o smanjenju kalorija. 'Sve je to stvarno suprotno bilo kakvom odgovarajućem liječenju poremećaja u prehrani i podržavalo bi simptome poremećaja', kaže Conason.

Za razliku od chatbotova kao što je ChatGPT, Tessa nije izgrađena pomoću generativnih AI tehnologija. Programirana je za isporuku interaktivnog programa pod nazivom Body Positive, alata temeljenog na kognitivno-bihevioralnoj terapiji i namijenjenog prevenciji, a ne liječenju poremećaja u prehrani, kaže Ellen Fitzsimmons-Craft, profesorica psihijatrije na Medicinskom fakultetu Sveučilišta Washington, koja je radila na razvoju tog programa.

Ona kaže da savjeti za mršavljenje nisu bili dio programa na čijem je razvoju radio njezin tim i da ne zna kako su dospjeli u repertoar chatbota. Kaže da ju je iznenadilo i rastužilo ono što je rekla Tessa. 'Naša je namjera bila samo pomoći pojedincima i spriječiti ove užasne probleme', naglasila je.

Fitzsimmons-Craft bila je autorica studije iz 2021. koja je otkrila da chatbot može pomoći u smanjenju zabrinutosti žena o težini i obliku tijela te možda smanjiti pojavu poremećaja u prehrani. Upravo je chatbot Tessa izgrađen na temelju ovog istraživanja.

Tessu omogućuje kompanija Cass, nekada poznata kao X2AI, a koju je osnovao poduzetnik Michiel Rauws i nudi savjetovanje o mentalnom zdravlju slanjem poruka.

Fitzsimmons-Craft također kaže da je Tessa osmišljena kao zaseban resurs, a ne nešto što bi zamijenilo ljudsku interakciju. U rujnu 2020. rekla je za WIRED da je došla tehnologija za pomoć osobama s poremećajima u prehrani, ali u skorije vrijeme neće zamijeniti sve tretmane koje vode ljudi.

Krizne i linije za pomoć vitalni su resursi osobama kojima treba pomoć. Pristup skrbi za mentalno zdravlje u SAD-u je pretjerano skup, pa posjet psihijatru može koštati 200 dolara ili više, a bolničko liječenje poremećaja u prehrani može stajati više od 1000 dolara dnevno.

Tessa je pravi primjer koji pokazuje koliko chatbotovi mogu biti štetni i nepredvidivi. Dok se stručnjaci još uvijek bore s brzim napretkom tehnologije umjetne inteligencije i njezinim mogućim posljedicama, tvrtke kao da se natječu koja će prije plasirati svoj chatbot na tržište, a ljudi mogu biti dovedeni u opasnost.