Фејсбук први пут отворено о говору мржње у постовима

Фејсбук Image copyright Getty Images/Reuters
Натпис на слици У марту 2018. године 2,2 милијарде људи користило је Фејсбук барем једном месечно

Компанија Фејсбук каже да је обрисала или додала упозорење на 29 милиона објава које крше правила забране говора мржње, насиља, тероризма или голотиње, а који су објављени у прва три месеца 2018. године.

Ово је први пут да је Фејсбук објавио податке о напорима да успостави поштовање правила.

Компанија развија алате вештачке интелигенције који ће помоћи 15 хиљада радника који тренутно раде као модератори.

Извештаји показују да софтвери не могу да региструју одређене врсте насилног говора.

Алгоритми су успели да упозоре само на 38 одсто објава које су садржале говор мржње. То значи да је преосталих 62 одсто уклоњено захваљујући корисницима који су говор мржње пријавили.

Са друге стране, Фејсбук каже да су софтвери успели да региструју 99,5 одсто пропагандних објава Исламске државе, Ал-Kаиде и сличних група.

Подаци показују да су корисници у прва три месеца ове године били изложенији визуeлном насиљу и голотињи него у послeдња три месеца прошле године.

„Учимо и унапређујемо технологију", рекао је менаџер Гај Росен.

Све више насиља


Фејсбук је забрањени садржај груписао у неколико категорија:

  • Визуелно насиље
  • Голотиња
  • Спaм
  • Говор мржње
  • Лажни налози

Процењује се да је три до четири одсто налога лажно. Од јануара до марта ове године, 583 милиона лажних налога је избрисано.

Цифре показују да је све више визуелног насиља. Разлог томе је, сматрају у Фејсбуку, боља технологија која детектује насиље, али и ескалација конфликта у Сирији.

Од првог дана 2018. године до краја марта, уклоњено је 1,9 милиона објава које су садржале неку врсту екстремистичког садржаја, што је 73 одсто више него у претходном кварталу.

Ови подаци могли би да буду од користи владама Сједињених Америчких Држава и Велике Британије које су позвале Фејсбук да заустави ширење пропагандног материјала Исламске државе и сличних група.

„Фејсбук је кренуо у добром правцу. Потребно је да дефинишу шта јесте, а шта није забрањено", каже Бренди Нонек са Универзитета Калифорнијa.

Међутим, Нонек додаје да је Фејсбук тек на почетку и да компанија има „пуне руке посла".

Проблеми са говором мржње

Колико је посао који очекује Фејсбук сложен, најбоље показује проблем са говором мржње - категоријом коју је тешко контролисати аутоматски.

У прва три месеца ове године, Фејсбук је обрисао 2,5 милиона објава, што је 56 одсто више него у претходна три месеца.

Модератори су учествовали у брисању објава, али је чак и њима било тешко да одлуче шта спада под говор мржње, а шта не.

„Постоје нијансе и постоји контекст у коме је нешто речено, а то технологија још увек не препознаје", каже Алекс Шулц, директор сектора за анализу података у копманији Фејсбук.

Мршављење уз помоћ друштвених мрежа

Фејсбуков пролаз и улица Твитер збуњују људе у Оксфорду

„У тим случајевима, зависимо од људи који раде као модератори и они су ти који одлучују о томе шта остаје, а шта бришемо", каже.

Да би илустровао проблеме са којима се компанија суочава, Шулц је навео пример речи које би се могле схватати увредом када се користе у хомофобичним вербалним нападима, али имају сасвим другачије значење када их користе припадници ЛГБТ популације. Брисање свих објава које садрже исту реч није решење.

„Како знати да ли је неко геј или не? У мом случају је лако, ја сам отворено геј и то делим на свом профилу. Али то није случај са свима и ствара велики проблем", каже.

Случајни узорци

У покушају да открије шта је пропустила, компанија је покушала са случајним узорцима.

Узели су неодређени број објава које су прегледане на Фејсбуку и забележили колико пута су прекршена правила.

Резултати су забрињавајући.

Од десет хиљада објава, 27 садржи визуелно насиље. Како Фејсбук има 1,5 милијарди корисника, то значи да милиона објава које садрже неку врсту насиља нађе пут до корисника сваког дана.

Истом техником сазнали су да седам до девет објава у сваких десет хиљада садржи голотињу.

Објава које су садржале материјале у вези са тероризмом није било довољно да би се проучиле овом техником, каже Шулц.

Натпис на слици Активисткиња Доти Лукас није убеђена да се Фејсбук довољно труди

Доти Лукс, активисткиња из Сан Франциска, која је покренула кампању против Фејсбукових неуспелих покушаја да представе мањинске групе, каже да тежина задатка није изговор.

„Немам више разумевања за изговоре да је нешто тешко, звог тога што се не ради о нечему што је ново", каже.

Лукс није задовољна приоритетима Фејсбука.

„Имају времена за прављење апликација за упознавање и времена да нађу начин да повежу мој банковни рачун са профилом, а немају времена да виде ко су им корисници".

Лукс, која себе описује као геј јеврејку, каже да могућност да сами корисници пријаве говор мржње може бити злоупотребљена како би се ућуткали неистомишљеници.

„Остављате људима са лошим намерама шансу да се понашају лоше".

Модерна армија

Компанија Фејсбук и даље открива врло мало када је у питању армија модератора коју запошљава.

Кажу да су покушали да обезбеде да се случајевима који се односе на референце у вези са америчком културом баве модератори који разумеју дату културу и да исту формулу примењују и у другим земљама.

Лукс сматра да компанија ипак треба да буде отворенија.