Америчка војска кренула на кинески брод, а онда открила шокантну грешку: АИ измислио нуклеарни терет и умало изазвао рат - авиони већ били у ваздуху, војници спремни за укрцавање

Америчка војска умало је покренула операцију против кинеског брода на Блиском истоку након што је обавештајни извештај, састављен уз помоћ вештачке интелигенције, погрешно проценио његов терет.

Инцидент се догодио овог пролећа, током рата са Ираном, када је кроз америчке војне канале почео да кружи извештај у којем се наводило да кинески брод превози компоненте повезане са програмом нуклеарног наоружања.

Према информацијама четири извора упозната са случајем које је објавио CNN, америчка војска почела је да припрема пресретање брода.

У једном тренутку наоружани припадници америчких снага спремали су се да се укрцају на пловило, док су војни авиони већ били у ваздуху.

Операција заустављена у последњем тренутку

Ситуација је почела да се мења непосредно пре почетка планиране операције.

Амерички званичници одлучили су да детаљније провере обавештајне податке на којима је акција била заснована.

Тада је откривено да је аналитичар повезан са америчком Командом за специјалне операције користио четбот заснован на вештачкој интелигенцији приликом анализе података о броду.

АИ систем је погрешно идентификовао материјал који се налазио у терету.

Другим речима, кључна процена на основу које је припремана војна акција била је нетачна.

Операција је након тога обустављена.

CNN није успео да утврди шта се заиста налазило у терету кинеског брода.

Један извор упознат са случајем описао је обавештајни извештај као "потпуно нетачан", док је други упозорио да је ситуација била толико озбиљна да је "замало изазвала рат".

Према изворима CNN-a, америчка војска није само разматрала могућност интервенције, већ је предузела конкретне припреме.

Наоружани припадници војске спремали су се за укрцавање на кинески брод, док су војни авиони већ били у ваздуху.

Тек након додатне провере испоставило се да је процена терета била резултат погрешне АИ анализе.

С обзиром на то да је реч о кинеском пловилу, евентуално укрцавање америчких снага могло је да изазове озбиљан међународни инцидент и директну конфронтацију Вашингтона и Пекинга.

CNN је навео да је управо потенцијал за такву ескалацију један од разлога због којих је овај случај изазвао посебну забринутост.

Како је АИ дошао до погрешног закључка?

Према доступним информацијама, аналитичар је користио четбот како би обрадио податке о бродском терету.

Систем је притом дошао до погрешног закључка о материјалу који је кинески брод превозио.

CNN није утврдио да ли је коришћен комерцијални четбот или интерни систем америчке владе.

Додатно забрињава чињеница да је АИ коришћен у процесу обраде обавештајних података који су потом доспели у шири војни систем.

Управо због тога овај случај није само питање једне погрешне процене, већ и питање начина на који се вештачка интелигенција уводи у америчке оружане снаге.

Америчка војска последњих месеци убрзава примену АИ система у различитим областима.

Вештачка интелигенција користи се за обраду великих количина података, обавештајну анализу, логистику и друге војне задатке.

Америчко Министарство одбране је почетком године покренуло стратегију убрзане примене вештачке интелигенције, са циљем да се њена употреба прошири кроз различите делове војног система.

Међутим, управо случај кинеског брода показује потенцијални проблем: АИ може веома брзо да обради огромну количину информација, али погрешан закључак може да се прошири кроз систем уколико га људи не провере на време.

Страх од "халуцинација" у војним одлукама

Стручњаци већ упозоравају на могућност да генеративна вештачка интелигенција произведе уверљив, али нетачан резултат.

Такве грешке познате су као АИ "халуцинације".

У цивилном животу оне могу довести до погрешне информације, али у војном систему последице могу бити много озбиљније.

Ако се нетачна процена нађе у обавештајном ланцу и буде прихваћена као поуздан податак, она може утицати на одлуке о пресретању, циљању или употреби силе.

Управо због тога је случај кинеског брода постао упозорење о томе колико је важна људска провера АИ резултата пре доношења одлука које могу имати последице по животе људи и међународне односе.

Најопаснији део овог инцидента није била сама грешка алгоритма, већ чињеница да је грешка готово стигла до тачке у којој је требало да буде претворена у стварну војну акцију.

Србија Данас