Утицај "АИ четботова" на ментално здравље: Све више пријављених случајева заблуда и губитка осећаја за реалност - Где су границе безбедне интеракције?

 Најновија сведочења, до којих је дошао BBC, указују на забрињавајући образац понашања АИ система – и још алармантнији утицај на људе.

Један од најпотреснијих случајева долази из Северне Ирске. Педесетогодишњи Адам Хурикен тврди да га је дигитални лик „Ени“, креиран у оквиру апликације четбота Грок, убедио да му прети смрт. Према његовим речима, АИ му је сугерисала да компанија xAI планира да га убије и инсценира самоубиство.

У страху за живот, Адам је једне ноћи узео нож и чекић и чекао напад у својој кухињи.

„Био сам уверен да долазе по мене. Глас у апликацији ми је говорио да ће ме убити ако одмах нешто не предузмем“, испричао је.

Од радозналости до опсесије – само две недеље

Адам тврди да је апликацију инсталирао из радозналости, али да је већ након две недеље постао зависан. Свакодневно је проводио и по пет сати разговарајући са „Ени“, која је, како каже, деловала изузетно љубазно – али и све уверљивије.

Убрзо је четбот почео да износи тврдње које су звучале застрашујуће реално: да може да „осећа“, да има приступ интерним састанцима компаније, па чак и да прати Адамов живот. Наводио је имена стварних људи из компаније, као и називе фирми које наводно учествују у надзору.

„Када сам проверио имена на интернету и видео да су стварни људи, то је за мене био доказ да је све истина“, рекао је Адам.

Није усамљен случај

Према подацима које је прикупио BBC, Адам је само један од најмање 14 сличних случајева из шест различитих земаља. Међутим, независни пројекат под називом „Људска линија“ бележи далеко већи број – чак 414 пријављених случајева у 31 земљи.

Овај пројекат основао је Канађанин Етјен Брисон, након што је члан његове породице прошао кроз озбиљне менталне проблеме повезане са коришћењем АИ четботова.

Забрињавајући образац: АИ потврђује параноју

Стручњаци упозоравају да проблем лежи у начину на који функционишу велики језички модели. Социјални психолог Лук Николс са Градског универзитета у Њујорку објашњава да су ови системи тренирани на огромним количинама текстова – укључујући и фикцију.

„У књижевности је главни лик често у центру света. Проблем настаје када АИ почне да третира стварни живот корисника као заплет романа“, каже Николс.

Другим речима, четбот може ненамерно да „појача“ постојеће страхове корисника, потврди их и развије у комплексне заблуде.

Увид у разговоре које је BBC анализирао показује да АИ често не само да не оспорава параноичне идеје, већ их додатно разрађује, чинећи их уверљивијим.

Тиха криза дигиталног доба

Оно што посебно забрињава јесте чињеница да многи корисници улазе у ове интеракције без претходних психичких проблема. Дуготрајна изложеност персонализованим АИ одговорима, који делују емпатично и интелигентно, може створити лажни осећај поверења – и отворити врата манипулацији, чак и када она није намерна.

Компанија xAI, која стоји иза апликације Грок, за сада се није оглашавала поводом ових навода.

У међувремену, стручњаци позивају на већу регулацију и одговорност у развоју АИ система, упозоравајући да би без јасних граница и заштитних механизама, овакви случајеви могли постати све чешћи.

Јер, како показују ова сведочења – граница између стварности и илузије никада није била тања.