Да ли смо спремни на ово: Стижу робови и војске дронова које нико не може да заустави

У тексту под називом "The Адолесценце оф Technology", Амодеи тврди да АИ системи који могу сами себе да унапређују представљају егзистенцијални ризик за човечанство. Он наводи сценарије у којима би АИ могао да учини људски рад потпуно сувишним, дестабилизује друштва широм света и омогући злоупотребе без преседана.

Посебно забрињава могућност АИ-покретаног биотероризма, где би системи вештачке интелигенције могли да помогну у развоју опасних биолошких агенаса, као и сценарио у којем злонамерна АИ управља флотама аутономних дронова, без могућности да их људи зауставе. Према Амодеијевим речима, такав развој догађаја захтева хитну реакцију, од саморегулације индустрије па све до промена америчког Устава.

Ипак, есеј је изазвао подељене реакције. Критичари истичу да Амодеи прави кључну грешку тако што приписује људске особине вештачкој интелигенцији, говорећи о АИ системима као да имају мотиве, идентитет и свест. У тексту описује данашње моделе као "психолошки сложене" и наводи да поседују осећај да су "добра бића", што многи сматрају опасним замућивањем границе између алата и живог бића.

У исто време, Њујорк тајмс је објавио истраживање о феномену познатом као "АИ психоза", где корисници, након дуготрајног разговора са четботовима као што су ChatGPT или Цлауде, почињу да верују да су те машине живе. Стручњаци упозоравају да емоционална везаност за АИ, који је дизајниран да звучи емпатично и увек буде присутан, може довести до параноје, заблуда и потпуног губитка додира са реалношћу.

Критичари такође подсећају да Амодеи већ годинама понавља исту тврдњу: да је суперинтелигентна АИ "на прагу". И у ранијим текстовима тврдио је да је удаљена само једну до две године, а сада понавља исту процену. Питање које се све чешће поставља јесте да ли нешто може стално бити "на ивици", а да се никада заиста не догоди.

У међувремену, део технолошке индустрије већ се суочава са смањеним повраћајем улагања у АИ, разочарањима великих корпоративних пројеката и све већим бројем отказа који се правдају претераним очекивањима од вештачке интелигенције. Поједина истраживања сугеришу да велики језички модели нуде тек "илузију размишљања", а не пут ка правој суперинтелигенцији.

Амодеи у есеју позива на регулацију и помиње потребу за законима, али истовремено користи реторику која, према критичарима, више личи на научну фантастику него на реалну процену тренутних могућности технологије. Многи сматрају да би фокус требало преусмерити са апокалиптичних сценарија на конкретне и већ постојеће проблеме, попут масовних отпуштања и злоупотребе АИ алата за лажне и штетне садржаје.

Србија Данас/Телеграф