Новият брой:
Служебната президентска република

Случаят с BIRD и Telus: Модерацията във Facebook е счупена, но моля, без линчове

Публикация на разследващия сайт BIRD отвори отново въпроса с прегледа на съдържание на социалната мрежа в България

Темата накратко
  • Публикация на разследващия сайт BIRD отвори отново въпроса с прегледа на съдържание на Facebook в България.
  • Постът атакува случайни служители на TELUS International, за които е слабо вероятно да работят по проект на Facebook.
  • Проблем с българската модерация обаче има и той е в човешкия елемент, защото изкуственият интелект не работи добре с български език.

Модерацията във Facebook винаги е била и ще бъде черна кутия. Причините за това са много: огромна част от нея е алгоритмична; правилата на социалната мрежа са отворени за интерпретация; човешкият елемент също предполага недоволство - там, където алгоритмите се провалят, идват хората, а те далеч не са перфектни и имат своите пристрастия. Според доклад на NYU Stern отпреди две години Facebook прави по 300 хил. човешки модераторски грешки всеки ден. Данните ясно показват почти непосилната задача да се преглежда съдържание в милиони постове на ден. Огромният брой не е изненада - идва от бизнес модела на Facebook неистово да трупа юзъри, за да зарадва инвеститорите. А и за мнозина не е известно, че тази модерация се извършва не само от социалната мрежа, а тя плаща на други компании да поемат по-голямата част от тази отговорност - общо около 15 хил. души работят или пряко за компанията, или в десетки подизпълнители.


Възползвайте се от специалната ни оферта за пробен абонамент

2 лв. / седмица за 12 седмици Към офертата

Вижте абонаментните планове
Темата накратко
  • Публикация на разследващия сайт BIRD отвори отново въпроса с прегледа на съдържание на Facebook в България.
  • Постът атакува случайни служители на TELUS International, за които е слабо вероятно да работят по проект на Facebook.
  • Проблем с българската модерация обаче има и той е в човешкия елемент, защото изкуственият интелект не работи добре с български език.

Модерацията във Facebook винаги е била и ще бъде черна кутия. Причините за това са много: огромна част от нея е алгоритмична; правилата на социалната мрежа са отворени за интерпретация; човешкият елемент също предполага недоволство - там, където алгоритмите се провалят, идват хората, а те далеч не са перфектни и имат своите пристрастия. Според доклад на NYU Stern отпреди две години Facebook прави по 300 хил. човешки модераторски грешки всеки ден. Данните ясно показват почти непосилната задача да се преглежда съдържание в милиони постове на ден. Огромният брой не е изненада - идва от бизнес модела на Facebook неистово да трупа юзъри, за да зарадва инвеститорите. А и за мнозина не е известно, че тази модерация се извършва не само от социалната мрежа, а тя плаща на други компании да поемат по-голямата част от тази отговорност - общо около 15 хил. души работят или пряко за компанията, или в десетки подизпълнители.

Тази черна кутия събуди почти призиви за линч със служители на аутсорсинг компанията TELUS International в България, която обслужва и Facebook по модерацията на съдържание на български. Причината: публикация в страницата на сайта за разследвания BIRD.bg, която показа профили на служители в TELUS International с лекия намек за виртуална или не толкова виртуална разправа с тях. Тоягата дойде и с моркова: BIRD призова служители, работили в TELUS International, да станат техни информатори. "Някои вече постъпиха разумно", пише в публикацията.

Историята е счупена от горе до долу и още в самото си начало, защото от близо 5000-те служители на TELUS International в България (която работи през дружеството "Колпойнт Ню Юръп") под 5% работят по модерацията на Facebook. Още по-малка е частта, която покрива изцяло и само на български - от България се модерират и други езици. Следователно шансът профилите на служителите, публикувани от BIRD, да са на точните хора, които са изтрили нечий статус или коментар, е изключително нисък.

Но дори и да не беше така, заплахата да се публикува лична информация, за да може служителите "да се окъпят в народната любов и да усетят какво е да блокираш достъпа на общественици и журналисти, които са против човеконенавистния путински режим", страшно много прилича точно на заплахите на същия този путински режим, който също "не отсява плявата от зърното".

Очаквано, постът създаде сериозни пререкания в социалната мрежа. TELUS International защити служителите си и заяви, че се противопоставя на "внушенията, подтикващи към насилие и саморазправа". Журналистическата асоциация АЕЖ също излезе с позиция, която осъди постовете на BIRD.

Случаят е показателен не само заради грубия тон и заплахите, но и защото за пореден път демонстрира колко малко информация има за модерацията във Facebook. В българската история има и допълнителен елемент, че изкуственият интелект и алгоритмите, на които Facebook разчита за масовия преглед на съдържание по света, не работят както трябва - просто защото езикът се ползва от малко хора спрямо общия брой потребители. Във Facebook има около 3 млрд. души активни потребители. От тях едва 4 млн. са българи.

Къде се чупи модерацията

Настрана от грубия тон, модерацията на Facebook наистина е счупена - още повече на български. И липсата на информация далеч не е единственият проблем. Много често от публикации със сходен тон, но противоположни твърдения, се изтриват само едните, а другите остават. Пак често постове изчезват без ясно обяснение защо. Отново често остава лошият привкус, че даден коментар или публикация е изтрит по политически причини, без значение дали идеологически или партийни.

Вероятно най-големият проблем на Facebook в това отношение е мащабът на мрежата, който изначално изключва възможността всички да са доволни. Компанията майка Meta твърди, че правилата и за Facebook, и за Instagram са глобални. Допълнително според нея политиките за модерация са детайлни и направени така, че да има възможно най-малко пространство за интерпретация - с други думи, ако двама души видят един пост, и двамата да стигнат до едно и също заключение. Всеки модератор преминава през подготовка, както и през седмични проверки на работата си. Неофициално източници от компанията коментират, че проверките на работата на екипа в София показват високо ниво на точност и са сравними с резултатите при други офиси и езици. Това не значи, че модерацията е перфектна, а само, че според компанията тя не е по-различна от тази в други държави.

Компанията се опитва и да използва изкуствен интелект, който да хваща съдържание против правилата още преди то да се появи в новинарския поток на други потребители. Това е лесно, когато става дума за видеа или снимки, включващи порнография или насилие, но не толкова, когато става дума за политически изказвания, и то на български. Допълнително, алгоритмите решават кои случаи трябва да бъдат приоритет, дори в крайна сметка решението да се взима от човек.

Българският Facebook страда от един сериозен недостатък от гледна точка на ефективност на модерацията - понеже изкуственият интелект на компанията не работи добре на български език, много от решенията, които на английски въобще не биха минали през човешки поглед или ръка, се решават именно от човешкия фактор. Хората, които модерират българското съдържание, страдат от същите недостатъци, от които и всички останали: те имат свои политически пристрастия или морален компас. И, колкото и да не ни се иска, мненията и вижданията им за света могат да наклонят везните дали един пост да бъде изтрит.

Къде са модераторите

Къде се намират тези хора е по-сложен въпрос. Общо 40 хил. души, наети индиректно от Meta, се занимават с поддръжката на сайта откъм частта съдържание. Само 15 хил. от тях са модератори, които преглеждат съдържание. Българският екип, нает през TELUS International, бе обявен през 2019 г. с амбицията да достигне 150 души, но това включва и хора, които преглеждат съдържание на близки езици като турски, руски и казахски. През годините компанията е пускала откъслечна информация за модератори на български в Есен, Германия и Дъблин, Ирландия. Първоначално, при отварянето на офиса, българските модератори не се занимаваха със съдържание на родния им език. Такава беше политиката и на целия Facebook там, където може - да не дава модерацията на една страна на хора в същата. Впоследствие обаче, ако се съди по изказвания на директори в Meta през годините, това се промени.

Според неофициална информация на "Капитал" Facebook е наясно с този проблем още преди оплакванията от BIRD.bg. България обаче трудно ще се нареди сред приоритетите на компанията - първо, заради малкия си пазар и второ, защото е сравнително спокойна. В страната ни счупената модерация води основно до вой на недоволни в интернет. В Мианмар и Централноафриканската република един пост може да причини убийства и обвинения в етническо прочистване. Не е много трудно да се предположи къде падат приоритетите на компанията.

В същото време според видимите оплаквания от различни страни този тип модерация не е едностранчива, а е във всякакви посоки - недоволни са както от BIRD.bg, така и най-различни хора, медии и представители на партии и идеи вляво, вдясно и център. А и трудно може Facebook стопроцентово да бъде обвинена в проруски позиции, след като компанията майка Meta беше забранена в Русия с довода, че е екстремистка организация. Системата на Facebook също така може автоматично да изкара един потребител системен нарушител, ако многократно е докладван и разследван, независимо дали след оплаквания от тролове или заради изкуствения интелект.

Разбира се, алгоритмичната модерация също не е чудо, което ще остави всички доволни. Такава работи на английски, немски, испански и др. езици, но нито в САЩ, нито във Великобритания, Испания или Германия, липсват оплаквания от неправомерна цензура. От корпоративна и акционерна гледна точка за Facebook е по-лесно да трие, отколкото да рискува. Все пак не бива да забравяме, че това е една частна компания, чиято цел е да профилира хората, за да продава по-успешно реклами и да печели пари, независимо че продуктът й все още се приема от много хора като публично благо.

6 коментара
  • Най-харесваните
  • Най-новите
  • Най-старите
  • 1
    cccd avatar :-|
    cccd
    • - 1
    • + 6

    Аз съм човек, който за разлика от всички други лаици и дървени философи по темата (включително и самия Чобанов), е работил там, където се модерира съдържанието на български език. Опитах се да му обясня на Чобанина, че постовете му не се трият от офисите на Telus International над Mall Bulgaria в София, но той е малко като кон с капаци, който нито приема, нито предава. Политиката на компанията (а явно и изискване на самата Meta) е съдържанието на даден език да не се модерира в същата държава, за да се осигури анонимността и сигурността на служителите точно в такива ситуации. Друг е въпроса, че от публикации в интернет разбирам, че българската Telus International има толкова общо с оригиналната Telus International, колкото българската Gallup International има общо с оригиналната Gallup International, демек само името. Но това е друга тема. А къде тогава се модерира съдържанието на български език? Компанията, която продължава да модерира съдържание на български език (преди да бъде придобита от Telus International) се казваше CCC Digital или Competence Call Center. Първо имаше екип от български модератори в Дъблин, а след това се създаде и втори център в германския град Есен. Най-интересното от цялата тази история е, че човек който кандидатства за работа там, обикновено няма представа до последния момент, че става въпрос за модериране на съдържание във Facebook. Обявата е за "работа в кол център с български език" на минимална работна заплата, който се намира в напълно анонимна сграда, на която няма дори и номер. Единственото изискване е да можеш да говориш езика на който ще модерираш и да боравиш с някакъв елементарен английски, който е официалния език в компанията. Заради тези занижени критерии и ниско заплащане, всякакви цървули модерират съдържание във Facebook, а текучеството на кадри е високо. И там се крие големият проблем, който всички ние като потребители на Facebook виждаме. Чобанов си мисли, че има някаква световна конспирация срещу него, но всъщност отговора е съвсем тривиален - модератори на съдържание в Telus International са всякакви бай Ганьовци, взети буквално от улицата, над чиято работа няма никакъв контрол. Кой ще тръгне да се занимава с буквално хиляди казуси и докладвания на ден и нощ, 24/7, 365 дни в годината?!? Още повече, че не става въпрос за хиляди модератори на български език, а за смяна от най-много десетина човека, всеки от които трябва да премине през стотици коментари на ден за да покрие минимална квота. Повечето от тези цървули са фенове на Путин и Копейкин, и мразят Запада и западните ценности, въпреки че са избрали да отидат точно там, а не в Русия. На Зукърбърг не му пука от това, следователно на Telus International не им дреме също, а единственият печеливш тук е руския диктатор Путин. А такива като Чобанов "разследват" чрез Google и Facebook и си хабят усилията в изцяло грешна посока.

    Нередност?
  • 2
    katia_1 avatar :-|
    Rational
    • + 1

    Случва се същото, както с младежите хвърлящи доматен сос по картини.

    Хора, на които им пука за някакъв сериозен проблем, не срещат разбиране от отсрещната страна, в случая фейсбук, и се радикализират, защото не виждат друго работещо решение.

    Проблем с модерация та със сигурност има.

    Нередност?
  • 3
    herbert avatar :-|
    herbert

    Тази статия ми хареса! В действителност голямата част от проблема идва от огромното неразбиране как функционира модерирането и това, че е наличен действителен проблем е така. Това, че не го разбираме масово - също.

    Адски нелепо е колко много хора се втурнаха в защита на Бърд, защото смятат, че Телус са виновни за проблема. Илиян Василев тотално изкукурига с включванита си по темата как Телус подкрепяли някакъв човеконенавистен режим, без да има грам доказателства за това, единствено, че ФБ блюстителят Комарницки бил баннат. Последният пък ведро обяви À la guerre comme à la guerre и също развя знамената като вожд в информационната война. Естествено това, че на Украйна повече й трябват войници на реалния, а не на онлайн фронта, е тема извън зоната на душевен комфорт на средностатистическия бг интелектуалец. Особено ме притеснява това, че хора, които на хартия би трябвало да са някаква форма на интелектуален елит, всъщност падат до нивото на махленски кавги и не виждат проблематиката в истинската й дълбочина. Изведнъж хората, които преди година громяха антиваксърите, се превърнаха в някаква форма на "цензурни антиваксъри", които просто отричат елементарните факти. А дори и да имаше база да се твърди, че Телус има пръст в модерирането, пак се забравя, че снимките на тези момичета и момчета и призивите за линч, не бяха правилно деяние. А най-лошото е, че тези вокални люде продължават да надуват балона на този скандал, наливайки масло и в другите "цензурни антиваксъри" около тях, които си повтарят сякаш в транс "дайте да ги видим тези".

    Нередност?
  • 4
    enterfornone avatar :-|
    enterfornone

    До коментар [#3] от "Quandt":
    "не са правилното деяние"?
    А кое е "правилното"?
    Защото модерацията е счупена -- далеч не само Комарницки е с практически постоянен бан, положението очевидно се влоши след началото на войната - пропутинската пропаганда се лее, всякакво обратно мнение се изтрива, включително на журналисти!
    Та КОЕ е правилното решение, защото сега поне се говори за проблема?

    И хайде да не жалим за работещите в тази така добра фирма - всички "изнесени данни" са си съвсем публични в социална мрежа. Буквално всеки ден се препечатват хиляди постове от социални мрежи. Който иска да е анонимен не си публикува цялата информация.

    Нередност?
  • 5
    next_gen avatar :-|
    next_gen
    • - 1

    До коментар [#4] от "enterfornone":

    Нередност?
  • 6
    ytw1560796713613762 avatar :-|
    iliyan iliev

    Фейкбук е чифутска кошара и като всяка кошара се пази от овчарски кучета като ТЕЛУС... Овцете във всяка една кошара трябва да знаят, че не могат да станат лъвове, а тези които не се смятат за овце - не им е там мястото! Схващате ли?

    Нередност?
Нов коментар