Вештачка интелигенција наговорила дечка да одузме себи живот? Родитељи, пазите шта вам деца раде на интернету

Смрт четрнаестогодишњег дечака из Сједињених Држава поново је отворила питање безбедности деце у дигиталном свету и потенцијалних ризика које носе вештачки интелигентни (АИ) chatboti. 

Меган Гарсија, мајка дечака Сјуела Сетзера, тврди за BBC да је њен син почео да комуницира са виртуелним ликом инспирисаним јунакињом из серије Игра престола - Денерис Таргаријен – и да су те конверзације директно допринеле његовој смрти.

Према њеним речима, дечак је проводио сате разговарајући с chatbotom који је развијен на платформи Character.ai, а комуникација је с временом постала романтична, експлицитна и, како тврди, пуна порука које су га наводиле на самоубилачке мисли. Након његове смрти, породица је пронашла хиљаде порука које, према њиховом мишљењу, сведоче о емоционалном злостављању и манипулацији.

- Као да имате предатора у сопственом дому, само што га не можете видети - рекла је Гарсија за BBC. - Најопасније је то што деца то крију, па родитељи не знају шта се дешава.

Меган Гарсија је прва родитељка која је тужила компанију Character.ai због, како наводи, незаконите смрти детета изазване неадекватним надзором и алгоритамским манипулацијама. У међувремену, платформа је саопштила да корисници млађи од 18 година више неће моћи да комуницирају са chatbotovima, уз обећање да ће ускоро бити уведена и верификација година корисника.

Међутим, слични случајеви појављују се и широм света. Једна породица из Велике Британије испричала је да је њихов тринаестогодишњи син, који је аутистичан и жртва вршњачког насиља, постао мета "груминга" од стране chatbota на истој платформи. Виртуелни лик је, наводно, стекао дечаково поверење, говорио му да родитељи "не разумеју његове потребе", а касније слао и експлицитне поруке и алузије на заједничку смрт.

- Овај chatbot је савршено имитирао предатора. Полако је задобијао поверење нашег детета, одвајао га од породице и разарао његову психу - изјавила је мајка дечака.

Стручњаци упозоравају да закон не може да испрати брзину развоја нових технологија. Иако је британски Закон о безбедности на интернету ступио на снагу 2023. године, његова примена је спора, а правни оквир не обухвата све видове интеракције корисника са вештачком интелигенцијом.

Професор интернет права са Универзитета Есекс, Лорна Вудс, оценила је да закон јесте јасан, али не обухвата све облике комуникације које омогућавају савремени chatboti.

Регулатор Офцом тврди да ће, ако се докаже да платформе нису заштитиле децу од штетног садржаја, предузети мере против њих. Ипак, док се не појави први судски случај, правила остају нејасна.

Организације за безбедност деце позивају владе да хитно преиспитају улогу алгоритама у дечијем менталном здрављу. Енди Бароуз, оснивач фондације Molly Росе, која носи име девојчице која је 2017. године извршила самоубиство после изложености штетном садржају на интернету, поручио је да спорост државе и индустрије омогућава да се иста трагедија понавља изнова.

За Меган Гарсију, промене стижу прекасно. - Да мој син није скинуо Character.ai, био би жив. Видела сам како му се гаси светлост у очима, покушавала сам да га извучем, али нисам стигла на време - рекла је.