С използването на сайта вие приемате, че използваме „бисквитки" за подобряване на преживяването, персонализиране на съдържанието и рекламите, и анализиране на трафика. Вижте нашата политика за бисквитките и декларацията за поверителност. ОK
Вход | Регистрация
2 8 ное 2018, 17:30, 2589 прочитания

Между конспирацията и модерацията

Изтрити профили и публикации във Facebook породиха въпроси относно модерацията на сайта. Обясненията може да са по-прости

  • LinkedIn
  • Twitter
  • Email
  • Качествената журналистика е въпрос на принципи, професионализъм, но и средства. Ако искате да подкрепите стандартите на "Капитал", може да го направите тук. Благодарим.

    Дарение
    Плащането се осъществява чрез ePay.bg

Още по темата

Китай е далеч от амбициите си да стане лидер в сферата на изкуствения интелект

Компаниите не могат да разработят нужните технологии и да осигурят доходност на инвеститорите

19 ное 2018

Facebook е използвала за защитник PR фирма, атакувала Сорос

Фондация "Отворено общество" обвини социалната мрежа в нарушение на демократичните принципи

18 ное 2018

Всички сме обидени

Мартин Роусън, карикатуристът на The Guardian за политкоректността, смелостта да осмива в епохата след Charlie Hebdo, за Брекзит и изложбата си в Габрово

9 ное 2018

Дигиталните варвари

Как информационните войни в интернет подкопават фундамента на свободното гражданско общество

8 ное 2018

Акциите на Twitter, Facebook и Google паднаха заради изслушването в Конгреса

Google отказа да се появи пред американските представители и си навлече гнева им

5 сеп 2018
През последните седмици имаше вълнения в социалната мрежа около няколко струпали се изтривания на местни потребителски акаунти и публикации. Профилът на гражданския активист Манол Глишев например беше изтрит заедно с всичките му допълнителни акаунти, а публикация на също граждански активната Радина Ралчева с коментар за убийството на жена и дете в "Надежда" бе изтрита и впоследствие върната.

Така на преден план отново излезе темата за съществуването на организирани групи от "тролове" - за масово докладване на "неудобни" публикации и профили. Но свалянето им може да се дължи и на начина, по който работи Facebook.


"Извинението, което получих от Facebook, беше победа над организираното тролско войнство, което получава инструкции и тормози хора."

Радина Ралчева



Конкретните случаи

При изтритата публикация на Радина Ралчева, която впоследствие беше препечатана в медии и публикувана от други профили, най-вероятно става дума за автоматично сваляне от изкуствен интелект. Проблемът е, че в статуса на Ралчева присъства думата "цигани". В случая тя не е използвана в негативен контекст, но при докладване изкуственият интелект на Facebook автоматично сваля подобни публикации, защото съдържат думи, които най-често се свързват с "език на омразата".

Ралчева "обжалва" пред Facebook, реален модератор преглежда публикацията и тя се връща в мрежата. В социалната мрежа тя коментира, че това най-вероятно е политическа поръчка за масови доклади. Въпреки че Ралчева е права, че за да бъде свалена една публикация, тя трябва да бъде докладвана, няма доказателства, че броят на докладите променя алгоритъма на изкуствения интелект, нито че нейната публикация е била докладвана организирано.



Случаят с Манол Глишев е малко по-сложен, доколкото езикът на неговите публикация е подчертано политически радикален. Предположението му, че става въпрос за организирано докладване по политически причини, също не може да бъде доказано. Според него най-силното доказателство е, че след изтриването на трите негови акаунта той е създал четвърти, който също е изтрит два часа по-късно.

"Моето лично схващане е, че това не е работа само на Facebook и не е само прилагане на машинни стандарти за "език на омразата".

Манол Глишев


Обяснението може и да е друго

Накратко, Глишев има прекалено много снимки във Facebook, на които е отбелязан. Това значи, че мрежата автоматично може да разбере кои от новите профили са негови още по снимките. Така не е нужно да бъдат докладвани всички три акаунта – нужно е да бъде свален един, а другите два ще го последват, защото системата ги разпознава като клонинги. При създаването на четвъртия акаунт, който също е с негова снимка, системата го разпознава след два часа.

Това може лесно да бъде проверено от почти всеки потребител във Facebook. Ако имате достатъчно на брой отбелязани снимки в социалната мрежа, когато отворите ваша, профилната си например, и натиснете десен бутон, за да проверите информацията за изображението, ще видите не само описание на заобикалящата ви среда, но и собственото си име. Накратко, Facebook ви познава и разпознава – на това се крепи бизнесът на компанията.

Непрозрачният Facebook

Проблемът с модерирането на Facebook е глобален. Начинът, по който се управлява съдържанието в социалната мрежа, е, меко казано, непрозрачен. Всъщност Facebook има малко на брой модератори. При 2.3 млрд. потребители те не могат да свършат цялата работа в социалната мрежа. Затова компанията разчита на изкуствен интелект, който да следи за "лошо" съдържание. И макар алгоритъмът да е научен да следи и за обидни думи, както "цигани" в конкретния случай, Facebook залага на този модел основно заради споделянето на порнография, убийства и друго брутално съдържание, което се сваля автоматично.

За страните, в които се говори местен език със слабо световно разпространение, какъвто е и случая с България, компанията задължително има местен модераторски екип, който да преглежда съдържания от местните потребители.

Въпросите, които все още нямат отговор, са много. Кога една публикация се преглежда от реален модератор, а не от изкуствен интелект? Има ли тежест колко пъти ще бъде докладвана дадена публикация и може ли тя да бъде свалена само въз основа на достатъчно доклади, без тя да нарушава правилата?

В "лабораторна" обстановка в редакцията на "Капитал" извършихме следния експеримент: определени публикации и определен потребителски профил на журналист бяха масово докладвани в рамките на един час. Нито публикацията, нито профилът бяха свалени.

"Капитал" изпрати горните въпроси към Facebook, но не получи конкретен отговор на тях. Вместо това от социалната мрежа цитираха своите общи правила за ползване.

По време на изслушването си в американския Конгрес през март на въпрос, свързан също с модерацията на Facebook, изпълнителният директор Марк Зукърбърг коментира, че в бъдеще компанията ще залага все повече на изкуствен интелект, който трябва с времето да се научи да прави разлика между позитивен и негативен контекст. Членовете на комисията обаче не засегнаха темата с масираното докладване на съдържание и как социалната мрежа решава проблема с враждебните атаки на профили. А така може би си замина и най-добрата възможност да разберем как точно работи машината на Facebook.
  • Facebook
  • Twitter
  • Зарче
  • Email
  • Ако този материал Ви е харесал или желаете да изразите съпричастност с конкретната тема или кауза, можете да ни подкрепите с малко финансово дарение.

    Дарение
    Плащането се осъществява чрез ePay.bg

Прочетете и това

Съоснователят на "Телерик" ще открие конференцията "Образование за бъдеще" Съоснователят на "Телерик" ще открие конференцията "Образование за бъдеще"

Светозар Георгиев ще зададе посоката на конференцията с първата лекция на 23 ноември

15 ное 2018, 2755 прочитания

Ректорът на варненския ТУ ще бъде отстранен заради плагиатство 3 Ректорът на варненския ТУ ще бъде отстранен заради плагиатство

Случаят е без аналог и според МОН трябва да послужи за пример в академичните среди

9 ное 2018, 3680 прочитания

24 часа 7 дни
 
Капитал

Абонирайте се и получавате повече

Капитал
  • Допълнителни издания
  • Остъпки за участие в събития
  • Ваучер за реклама
Още от "Общество" Затваряне
По следите на изгубеното време

Ако времето е пари, то българското училище е с тежък дълг към учениците

Защо Брюксел вдигна ръце от България

Основната причина за провала на мониторинга е, че ЕК просто нямаше достатъчно правомощия да наложи промените.

Проверките на банките: Отново под стрес

Влизането на България в единния европейски надзор ще мине през проверка от ЕЦБ на шест български банки

"Агрия груп" купува производител на слънчогледово олио

Базираната в Лясковец "Кехлибар" ще е първата компания за преработка на слънчоглед в портфейла на холдинга

"Съгласие" купи животозастрахователния портфейл на "Дженерали" (коригирана)

Сделката е сключена в началото на декември, след като италианската компания обяви, че в България ще се съсредоточи само върху общото застраховане

Звезда и половина

Историкът Уилям Юинг за ретроспективата на легендарния фотограф Арнолд Нюман в София

Ния от 9 до 5

Петата самостоятелна изложба на създателката на Water Tower Art Fest Ния Пушкарова е арт експеримент с отворено студио

K:Reader

Нов и модерен инструмент, който пренася в дигитална среда усещането от четенето на хартия.

Прочетете целия вестник или списание без да търсите отделните статии в сайта.
Капитал, брой 46

Капитал

Брой 46 // 17.11.2018 Прочетете
Капитал PRO, Кои са най-растящите IT компании, ще има лимити по "Гражданска отговорност", паркът на основателите на "Телерик" расте с нова сграда

Емисия

DAILY @7AM // 21.11.2018 Прочетете