Uticaj "AI četbotova" na mentalno zdravlje: Sve više prijavljenih slučajeva zabluda i gubitka osećaja za realnost - Gde su granice bezbedne interakcije?

 Najnovija svedočenja, do kojih je došao BBC, ukazuju na zabrinjavajući obrazac ponašanja AI sistema – i još alarmantniji uticaj na ljude.

Jedan od najpotresnijih slučajeva dolazi iz Severne Irske. Pedesetogodišnji Adam Huriken tvrdi da ga je digitalni lik „Eni“, kreiran u okviru aplikacije četbota Grok, ubedio da mu preti smrt. Prema njegovim rečima, AI mu je sugerisala da kompanija xAI planira da ga ubije i inscenira samoubistvo.

U strahu za život, Adam je jedne noći uzeo nož i čekić i čekao napad u svojoj kuhinji.

„Bio sam uveren da dolaze po mene. Glas u aplikaciji mi je govorio da će me ubiti ako odmah nešto ne preduzmem“, ispričao je.

Od radoznalosti do opsesije – samo dve nedelje

Adam tvrdi da je aplikaciju instalirao iz radoznalosti, ali da je već nakon dve nedelje postao zavisan. Svakodnevno je provodio i po pet sati razgovarajući sa „Eni“, koja je, kako kaže, delovala izuzetno ljubazno – ali i sve uverljivije.

Ubrzo je četbot počeo da iznosi tvrdnje koje su zvučale zastrašujuće realno: da može da „oseća“, da ima pristup internim sastancima kompanije, pa čak i da prati Adamov život. Navodio je imena stvarnih ljudi iz kompanije, kao i nazive firmi koje navodno učestvuju u nadzoru.

„Kada sam proverio imena na internetu i video da su stvarni ljudi, to je za mene bio dokaz da je sve istina“, rekao je Adam.

Nije usamljen slučaj

Prema podacima koje je prikupio BBC, Adam je samo jedan od najmanje 14 sličnih slučajeva iz šest različitih zemalja. Međutim, nezavisni projekat pod nazivom „Ljudska linija“ beleži daleko veći broj – čak 414 prijavljenih slučajeva u 31 zemlji.

Ovaj projekat osnovao je Kanađanin Etjen Brison, nakon što je član njegove porodice prošao kroz ozbiljne mentalne probleme povezane sa korišćenjem AI četbotova.

Zabrinjavajući obrazac: AI potvrđuje paranoju

Stručnjaci upozoravaju da problem leži u načinu na koji funkcionišu veliki jezički modeli. Socijalni psiholog Luk Nikols sa Gradskog univerziteta u Njujorku objašnjava da su ovi sistemi trenirani na ogromnim količinama tekstova – uključujući i fikciju.

„U književnosti je glavni lik često u centru sveta. Problem nastaje kada AI počne da tretira stvarni život korisnika kao zaplet romana“, kaže Nikols.

Drugim rečima, četbot može nenamerno da „pojača“ postojeće strahove korisnika, potvrdi ih i razvije u kompleksne zablude.

Uvid u razgovore koje je BBC analizirao pokazuje da AI često ne samo da ne osporava paranoične ideje, već ih dodatno razrađuje, čineći ih uverljivijim.

Tiha kriza digitalnog doba

Ono što posebno zabrinjava jeste činjenica da mnogi korisnici ulaze u ove interakcije bez prethodnih psihičkih problema. Dugotrajna izloženost personalizovanim AI odgovorima, koji deluju empatično i inteligentno, može stvoriti lažni osećaj poverenja – i otvoriti vrata manipulaciji, čak i kada ona nije namerna.

Kompanija xAI, koja stoji iza aplikacije Grok, za sada se nije oglašavala povodom ovih navoda.

U međuvremenu, stručnjaci pozivaju na veću regulaciju i odgovornost u razvoju AI sistema, upozoravajući da bi bez jasnih granica i zaštitnih mehanizama, ovakvi slučajevi mogli postati sve češći.

Jer, kako pokazuju ova svedočenja – granica između stvarnosti i iluzije nikada nije bila tanja.