Между конспирацията и модерацията

През последните седмици имаше вълнения в социалната мрежа около няколко струпали се изтривания на местни потребителски акаунти и публикации. Профилът на гражданския активист Манол Глишев например беше изтрит заедно с всичките му допълнителни акаунти, а публикация на също граждански активната Радина Ралчева с коментар за убийството на жена и дете в "Надежда" бе изтрита и впоследствие върната.

Така на преден план отново излезе темата за съществуването на организирани групи от "тролове" - за масово докладване на "неудобни" публикации и профили. Но свалянето им може да се дължи и на начина, по който работи Facebook.

"Извинението, което получих от Facebook, беше победа над организираното тролско войнство, което получава инструкции и тормози хора." Радина Ралчева

Конкретните случаи

При изтритата публикация на Радина Ралчева, която впоследствие беше препечатана в медии и публикувана от други профили, най-вероятно става дума за автоматично сваляне от изкуствен интелект. Проблемът е, че в статуса на Ралчева присъства думата "цигани". В случая тя не е използвана в негативен контекст, но при докладване изкуственият интелект на Facebook автоматично сваля подобни публикации, защото съдържат думи, които най-често се свързват с "език на омразата".

Ралчева "обжалва" пред Facebook, реален модератор преглежда публикацията и тя се връща в мрежата. В социалната мрежа тя коментира, че това най-вероятно е политическа поръчка за масови доклади. Въпреки че Ралчева е права, че за да бъде свалена една публикация, тя трябва да бъде докладвана, няма доказателства, че броят на докладите променя алгоритъма на изкуствения интелект, нито че нейната публикация е била докладвана организирано.



Случаят с Манол Глишев е малко по-сложен, доколкото езикът на неговите публикация е подчертано политически радикален. Предположението му, че става въпрос за организирано докладване по политически причини, също не може да бъде доказано. Според него най-силното доказателство е, че след изтриването на трите негови акаунта той е създал четвърти, който също е изтрит два часа по-късно.

"Моето лично схващане е, че това не е работа само на Facebook и не е само прилагане на машинни стандарти за "език на омразата". Манол Глишев

Обяснението може и да е друго

Накратко, Глишев има прекалено много снимки във Facebook, на които е отбелязан. Това значи, че мрежата автоматично може да разбере кои от новите профили са негови още по снимките. Така не е нужно да бъдат докладвани всички три акаунта – нужно е да бъде свален един, а другите два ще го последват, защото системата ги разпознава като клонинги. При създаването на четвъртия акаунт, който също е с негова снимка, системата го разпознава след два часа.

Това може лесно да бъде проверено от почти всеки потребител във Facebook. Ако имате достатъчно на брой отбелязани снимки в социалната мрежа, когато отворите ваша, профилната си например, и натиснете десен бутон, за да проверите информацията за изображението, ще видите не само описание на заобикалящата ви среда, но и собственото си име. Накратко, Facebook ви познава и разпознава – на това се крепи бизнесът на компанията.

Непрозрачният Facebook

Проблемът с модерирането на Facebook е глобален. Начинът, по който се управлява съдържанието в социалната мрежа, е, меко казано, непрозрачен. Всъщност Facebook има малко на брой модератори. При 2.3 млрд. потребители те не могат да свършат цялата работа в социалната мрежа. Затова компанията разчита на изкуствен интелект, който да следи за "лошо" съдържание. И макар алгоритъмът да е научен да следи и за обидни думи, както "цигани" в конкретния случай, Facebook залага на този модел основно заради споделянето на порнография, убийства и друго брутално съдържание, което се сваля автоматично.

За страните, в които се говори местен език със слабо световно разпространение, какъвто е и случая с България, компанията задължително има местен модераторски екип, който да преглежда съдържания от местните потребители.

Въпросите, които все още нямат отговор, са много. Кога една публикация се преглежда от реален модератор, а не от изкуствен интелект? Има ли тежест колко пъти ще бъде докладвана дадена публикация и може ли тя да бъде свалена само въз основа на достатъчно доклади, без тя да нарушава правилата?

В "лабораторна" обстановка в редакцията на "Капитал" извършихме следния експеримент: определени публикации и определен потребителски профил на журналист бяха масово докладвани в рамките на един час. Нито публикацията, нито профилът бяха свалени.

"Капитал" изпрати горните въпроси към Facebook, но не получи конкретен отговор на тях. Вместо това от социалната мрежа цитираха своите общи правила за ползване.

По време на изслушването си в американския Конгрес през март на въпрос, свързан също с модерацията на Facebook, изпълнителният директор Марк Зукърбърг коментира, че в бъдеще компанията ще залага все повече на изкуствен интелект, който трябва с времето да се научи да прави разлика между позитивен и негативен контекст. Членовете на комисията обаче не засегнаха темата с масираното докладване на съдържание и как социалната мрежа решава проблема с враждебните атаки на профили. А така може би си замина и най-добрата възможност да разберем как точно работи машината на Facebook.