През последните седмици имаше вълнения в социалната мрежа около няколко струпали се изтривания на местни потребителски акаунти и публикации. Профилът на гражданския активист Манол Глишев например беше изтрит заедно с всичките му допълнителни акаунти, а публикация на също граждански активната Радина Ралчева с коментар за убийството на жена и дете в "Надежда" бе изтрита и впоследствие върната.
Така на преден план отново излезе темата за съществуването на организирани групи от "тролове" - за масово докладване на "неудобни" публикации и профили. Но свалянето им може да се дължи и на начина, по който работи Facebook.
Радина Ралчева
Конкретните случаи
При изтритата публикация на Радина Ралчева, която впоследствие беше препечатана в медии и публикувана от други профили, най-вероятно става дума за автоматично сваляне от изкуствен интелект. Проблемът е, че в статуса на Ралчева присъства думата "цигани". В случая тя не е използвана в негативен контекст, но при докладване изкуственият интелект на Facebook автоматично сваля подобни публикации, защото съдържат думи, които най-често се свързват с "език на омразата".
Ралчева "обжалва" пред Facebook, реален модератор преглежда публикацията и тя се връща в мрежата. В социалната мрежа тя коментира, че това най-вероятно е политическа поръчка за масови доклади. Въпреки че Ралчева е права, че за да бъде свалена една публикация, тя трябва да бъде докладвана, няма доказателства, че броят на докладите променя алгоритъма на изкуствения интелект, нито че нейната публикация е била докладвана организирано.
Случаят с Манол Глишев е малко по-сложен, доколкото езикът на неговите публикация е подчертано политически радикален. Предположението му, че става въпрос за организирано докладване по политически причини, също не може да бъде доказано. Според него най-силното доказателство е, че след изтриването на трите негови акаунта той е създал четвърти, който също е изтрит два часа по-късно.
Манол Глишев
Обяснението може и да е друго
Накратко, Глишев има прекалено много снимки във Facebook, на които е отбелязан. Това значи, че мрежата автоматично може да разбере кои от новите профили са негови още по снимките. Така не е нужно да бъдат докладвани всички три акаунта – нужно е да бъде свален един, а другите два ще го последват, защото системата ги разпознава като клонинги. При създаването на четвъртия акаунт, който също е с негова снимка, системата го разпознава след два часа.
Това може лесно да бъде проверено от почти всеки потребител във Facebook. Ако имате достатъчно на брой отбелязани снимки в социалната мрежа, когато отворите ваша, профилната си например, и натиснете десен бутон, за да проверите информацията за изображението, ще видите не само описание на заобикалящата ви среда, но и собственото си име. Накратко, Facebook ви познава и разпознава – на това се крепи бизнесът на компанията.
Непрозрачният Facebook
Проблемът с модерирането на Facebook е глобален. Начинът, по който се управлява съдържанието в социалната мрежа, е, меко казано, непрозрачен. Всъщност Facebook има малко на брой модератори. При 2.3 млрд. потребители те не могат да свършат цялата работа в социалната мрежа. Затова компанията разчита на изкуствен интелект, който да следи за "лошо" съдържание. И макар алгоритъмът да е научен да следи и за обидни думи, както "цигани" в конкретния случай, Facebook залага на този модел основно заради споделянето на порнография, убийства и друго брутално съдържание, което се сваля автоматично.
За страните, в които се говори местен език със слабо световно разпространение, какъвто е и случая с България, компанията задължително има местен модераторски екип, който да преглежда съдържания от местните потребители.
Въпросите, които все още нямат отговор, са много. Кога една публикация се преглежда от реален модератор, а не от изкуствен интелект? Има ли тежест колко пъти ще бъде докладвана дадена публикация и може ли тя да бъде свалена само въз основа на достатъчно доклади, без тя да нарушава правилата?
В "лабораторна" обстановка в редакцията на "Капитал" извършихме следния експеримент: определени публикации и определен потребителски профил на журналист бяха масово докладвани в рамките на един час. Нито публикацията, нито профилът бяха свалени.
"Капитал" изпрати горните въпроси към Facebook, но не получи конкретен отговор на тях. Вместо това от социалната мрежа цитираха своите общи правила за ползване.
По време на изслушването си в американския Конгрес през март на въпрос, свързан също с модерацията на Facebook, изпълнителният директор Марк Зукърбърг коментира, че в бъдеще компанията ще залага все повече на изкуствен интелект, който трябва с времето да се научи да прави разлика между позитивен и негативен контекст. Членовете на комисията обаче не засегнаха темата с масираното докладване на съдържание и как социалната мрежа решава проблема с враждебните атаки на профили. А така може би си замина и най-добрата възможност да разберем как точно работи машината на Facebook.
През последните седмици имаше вълнения в социалната мрежа около няколко струпали се изтривания на местни потребителски акаунти и публикации. Профилът на гражданския активист Манол Глишев например беше изтрит заедно с всичките му допълнителни акаунти, а публикация на също граждански активната Радина Ралчева с коментар за убийството на жена и дете в "Надежда" бе изтрита и впоследствие върната.
Така на преден план отново излезе темата за съществуването на организирани групи от "тролове" - за масово докладване на "неудобни" публикации и профили. Но свалянето им може да се дължи и на начина, по който работи Facebook.
2 коментара
Приятно е, че сте писали по темата, но не мога да не отбележа, че не сте си донаписали домашното :)
Въпросът далеч не е само в изтритите акаунти, снимките или радикалния език. Въпросът е във факта, че и в момента тролските реакции са особено усърдни под постинги за убитата в Русе Виктория Маринова. Един от блоговете ми е синхронизиран със страница на мое име във Фейсбук и от коментарите отдолу може да се съди за невероятната степен на мобилизация на проправителствената фабрика за производство на фонов шум. "Биволъ" могат да потвърдят същото.
Отделно, интересно е, че докато мои два вече блокирани акаунта бяха дизейбълнати по времето, когато са били блокирани, то акаунтите, страниците и групите на мои приятели, модериращи и администриращи страницата на мое име, също биват системно докладвани и блокирани в момента. Това отново се отнася не само за мен, а и за други активни лица, като например адв. Хаджигенов.
Също, когато мои приятели докладват десетки пъти страници и групи с откровено неофашистко съдържание (чийто език е далеч по-шокиращ от моя), тези страници не биват сваляни. Напротив, след като докладваш такава страница, ти самият биваш предупреждаван и блокиран. Това навежда на мисли точно за аутсорсната версия на Фейсбук.
Така че материалът ви е стъпка в добра посока, но е крайно беззъб.
"В случая тя не е използвана в негативен контекст, но при докладване изкуственият интелект на Facebook автоматично сваля подобни публикации, защото съдържат думи, които най-често се свързват с "език на омразата".
За подобен коментар с подобен неутрален умисъл мой коментар бе изтрит тук съвсем умишлено.