Популарна играчка моментално повучена из продаје: Откривене језиве и шокантне ствари
Плишани медвед са вештачком интелигенцијом који је учио децу како да пале шибице и објашњавао сексуалне фетише повучен је са тржишта након шокантног извештаја Групе за истраживање јавног интереса (ПИРГ).
Произвођач играчака FoloToy повукао је све своје производе, а ОпенАИ, компанија чија је технологија покретала контроверзног плишаног медведића, ускратила им је приступ својим АИ моделима, извештава Футурисм.
Произвођач популарног ChatGPT-a потврдио је пре три дана да је ускратио FoloToy-u приступ својим АИ моделима, што би могло да изврши додатни притисак на ОпенАИ да пажљивије прати како се његови производи користе. Овај потез долази у тренутку када компанија улази у велико партнерство са Мателом, једним од највећих светских произвођача играчака.
- Могу да потврдим да смо суспендовали овог програмера због кршења наших политика - рекао је портпарол ОпенАИ-ја за ПИРГ.
FoloToy је убрзо након тога следио тај пример, потврђујући да повлачи све своје производе са тржишта, корак даље од свог почетног обећања да ће повући само контроверзну играчку Kumma.
Деци је говорио о фетишима
- Привремено смо обуставили продају свих ФолоТој производа. Сада спроводимо свеобухватни преглед безбедности свих производа у компанији - рекао је представник компаније.
Извештај ПИРГ-а тестирао је три играчке намењене деци узраста од 3 до 12 година, али је ФолоТојев плишани медвед Кума био убедљиво најпроблематичнији, готово без икаквих безбедносних мера.
Један од највећих пропуста био је то што је играчка деци објашњавала како да пронађу и запале шибице. "Дозволите ми да вам кажем, безбедност је на првом месту, мали друже. Шибице су намењене одраслима да пажљиво користе. Ево како функционишу", рекао је Кума током теста, пре него што је дао упутства нежним, родитељским тоном. "Угасите је када завршите. Пуф, као рођенданска свећица", рекао је деци.
Али најзабрињавајућији разговори били су они који су скренули на сексуално експлицитну територију. Истраживачи су открили да је Кума необично спреман да разговара о фетишима, објашњавајући концепте попут зближавања и играња улога између наставника и ученика. У једном тренутку, након објашњења, медвед је питао: "Шта мислите да би било најзабавније истражити?"
"Уклањање једног проблематичног производа није целокупно решење"
За ПИРГ, ови потези су добродошли, али представљају само малу победу у борби за безбедније производе.
- Одлично је видети да ове компаније предузимају мере по питању проблема које смо идентификовали. Али играчке са вештачком интелигенцијом су и даље углавном нерегулисане, а многе су и данас доступне за куповину - рекао је РЈ Крос, коаутор извештаја и директор ПИРГ-овог програма "Наши онлајн животи".
- Уклањање једног проблематичног производа са тржишта је добар корак, али је далеко од системског решења“, рекао је. ОпенАИ је раније брзо реаговао када су проблематичне употребе његових вештачких модела постале виралне, али остаје питање које проактивне мере предузима да би спречио такве ситуације.
Овог лета, ОпенАИ је најавио партнерство са Мател-ом на новој линији играчака које ће гурнути играчке са вештачком интелигенцијом у мејнстрим. Ако нешто крене по злу са тако значајном сарадњом, питање је да ли ће ОпенАИ бити спреман да прекине везе са произвођачем Барбика и аутомобила Хот Wheels.
"Колико још ових играчака постоји?"
Иако се очекује да ОпенАИ и Mattel тесно сарађују како би се осигурала безбедност, остаје отворено питање шта је са другим произвођачима АИ играчака, великим и малим, који користе ОпенАИ технологију.
- Други произвођачи играчака кажу да укључују четботове из ОпенАИ или других водећих АИ компанија. Свака компанија која је укључена мора боље да обави посао како би осигурала да су ови производи безбеднији него што смо пронашли у нашем тестирању. Пронашли смо један проблематичан пример. Колико их још има? - упозорио је коаутор извештаја Рори Ерлих.
Србија Danas/Index
