Зашто ТикТок блокира појмове као што су "геј", "нази", "гас"?

Кратки снимци на којима људи певају или плешу "прославили" су ТикТок. Кинеска друштвена мрежа је популарна широм света.

Данас се тамо могу видети кратки филмове о актуелним догађајима, политици или економији – а не само о плесним или кулинарским умећима.

Само у Немачкој око 50 одсто младих старих између 12-19 година редовно користи ову мрежу. У старосној групи 20-29 година користи је отприлике једна трећина.

Истраживање немачких јавних сервиса НДР, WDR и Тагесшау су открила да кинески концерн користи најмање двадесет речи уз помоћ којих аутоматски "филтрира" садржаје. Коментари у којима се налази барем један од тих појмова не појављују се испод неког клипа. Укупно је тестирано 70 речи или комбинација речи.

Блокирани појмови

Међу речима које ТикТок очито блокира су и ови појмови: "нази" (скаћено од "нацистички"), "робови", "гас", али и "LGBTQ" или "геј".

Немачки новинари су суочили портпаролку ТикТока с резултатима истраживања, а она је рекла да мрежа користи технологије које "проактивно траже коментаре који крше наша услове коришћења или код којих се ради о спему".

Но, признала је и грешке: "У овом случају су коментари који не крше наша правила коришћења платформе погрешно декларисани као потенцијално штетни."

ТикТок ће, додала је, наставити да "тренира" своје алгоритме. Осим тога ће се пробраним истраживачима већ током јесени омогућити приступ систему модерирања коментара, потврдио је концерн.

Без знања корисника

Током теста који су направили њемачки новинари, видео-платформа ни у једном тренутку својим корисницима није саопштила да њихов коментар није објављен и због чега. Уместо тога је апликација ТикТок оставила дојам да су коментари јавно доступни.

Та метода се стручно назива "shadow-banning". Корисници ТикТока у ствари мисле да су њихови коментари видљиви, иако нису.

ТикТок је саопштио да се испитује транспарентност коментара те да концерн разуме забринутост – посебно LGBTQ заједнице која је још увек изложена говору мржње и мобингу.

Ово није први пут да се јавно тематизује пракса уклањања коментара на ТикТоку. Већ у фебруару су истраживачки новинари немачких јавних сервиса открили да

се не објављују коментари у којима су појмови попут "queer" или "геј", односно "Аушвиц" или "националсоцијализам".

И тада је кинеска компанија признала одређене грешке и најавила да ће анализирати ствар.

И заиста се показало да се речи као што су "хомосексуално" или име кинеске тенисерке Пенг Шуи сад могу јавно користити у коментарима. Но, занимљиво је ипак да ТикТок и даље блокира неке појмове које је након истраживања у фебруару једно време било могуће користити – речи попут "LGBTQI", "геј" или "хетеросексуално".

"Проблематично" понашање ТикТока

"То је начелно проблематично", каже Кристијан Штекер, медијски стручњак на Високој школи за примењене науке у Хамбургу. Он каже да платформе попут ТикТока имају велику одговорност: "Тамо се одвија јавни дискурс, али све док не знамо како ТикТок модерира, с којим алаткама и с каквом радном снагом, то је онда проблем."

Штекер наводи да питање модерације коментара има везе и с трошковима. Софтвер или аутоматизовани филтери за речи су једноставно јефтинији, него да се запосли већи број људи који би модерирали коментаре.

Како су сада утврдили новинари, на удару алгоритма су и речи "кокаин", "канабис" или "крек", док пак "екстази" или "кристал мет" понекад пролазе филтер.

Но није се могло докучити како је филтер тачно програмиран. Јер, једну исту реч је исти корисник могао да објави испод неких видеа, док испод других није.

Појмови попут "климатска криза" и "климатске промене" у већини случајева нису били објављени. ТикТок очито користи филтере и за појмове везане за рат у Украјини – између осталога за речи "Украјина", "специјална операција", "борбени авиони", "међународно право" или "трупе".

Суптилно сортирање корисника

Каја Тим, професорка медијских наука на Универзитету у Бону, сматра да се ради о такозваном "агенда cutting" – односно, систематском сузбијање неких тема.

"Најпре то може изгледати суптилно када не дозвољавам неке једноставне кључне речи, али ако то функционише, онда се о тим темама више не дискутује", каже Тим. Она каже да је "веома проблематично" кад неки концерн на тај начин тренира или сортира своје кориснике.

ТикТок по сопственим наводима има више од милијарду корисника широм света. У Немачкој их је наводно око 20 милиона. Власник платформе је кинеска технолошка компанија ByteDance, чији је сувласник и кинеска држава.