С използването на сайта вие приемате, че използваме „бисквитки" за подобряване на преживяването, персонализиране на съдържанието и рекламите, и анализиране на трафика. Вижте нашата политика за бисквитките и декларацията за поверителност. ОK
Вход | Регистрация
3 26 дек 2017, 14:58, 7795 прочитания

Дистопията Big Data

Автоматизирани алгоритми вече диктуват нашето бъдеще – и свобода

  • LinkedIn
  • Twitter
  • Email
  • Качествената журналистика е въпрос на принципи, професионализъм, но и средства. Ако искате да подкрепите стандартите на "Капитал", може да го направите тук. Благодарим.

    Дарение
    Плащането се осъществява чрез ePay.bg
Tози текст е част от специалното издание World Review на New York Times, издадено на български от "Капитал". Всички текстове по темата може да откриете тук.
В продължение на седем години аз не съществувах.

Докато бях в затвора, нямах никакви банкови извлечения, никакви сметки, никаква кредитна история. В нашия взаимосвързан свят на Big Data (големи масиви данни) аз бях нещо като покойник. След като бях освободена, тази липса на информация за мен създаде куп проблеми – от трудности с достъпа до банкови услуги до пречки с получаването на шофьорска книжка и наемането на апартамент.
Челси Манинг е активист за прозрачност на управлението и за правата на трансджендър хората, както и бивш анализатор на разузнавателна информация към американската армия. През 2013 г. тя е осъдена по закона за шпионаж за оповестяване на класифицирани документи за войните в Ирак и Афганистан. Присъдата й е намалена от президента Барак Обама през януари и тя е освободена през май.


През 2010 г. iPhone беше само на три години и мнозина още не виждаха смартфоните като незаменимите дигитални придатъци, каквито са днес. Седем години по-късно на практика всичко, което правим, води до това да изстискват от нас дигитална информация, което ни оставя на произвола на невидими алгоритми, заплашващи да погълнат свободата ни.


Течовете на информация може да изглеждат невинни в някои отношения. В края на краищата защо да се тревожим, ако нямаме какво да крием?

Всички подаваме данъчни декларации. Всички говорим по телефона. Всички изпращаме имейли. Данъчните регистри служат, за да ни държат честни. Съгласяваме се да споделяме местонахождението си, за да можем да проверяваме прогнозата за времето на смартфоните си. Регистрите за нашите обаждания, sms-и и физически придвижвания отиват някъде заедно с информацията за плащанията, които правим. Вероятно тези данни тайно се анализират, за да е сигурно, че не сме терористи – но ни уверяват, че това се прави единствено в интерес на националната сигурност.

Нашите лица и гласове биват записвани от камери за видеонаблюдение и други свързани с интернет сензори, част от които сега поставяме доброволно в домовете си. Всеки път, когато пускаме новинарска статия или страница в социална медиа, се излагаме на проследяващ код и така позволяваме на стотици незнайни устройства да следят нашите навици за пазаруване и сърфиране онлайн. Съгласяваме се на неразбираеми споразумения за "условия за ползване", които прикриват истинското естество и обхват на тези транзакции.



Според изследване от 2015 г. на Pew Research Center 91% от пълнолетните американци смятат, че са изгубили контрол върху начина, по който тяхната лична информация се събира и използва. Но всъщност са изгубили много повече, отколкото вероятно предполагат.

Истинската сила на масовото събиране на данни се крие в специално изработени алгоритми, способни да отсяват и идентифицират модели вътре в самите данни. Когато с времето се натрупа достатъчно информация, правителства и корпорации могат да използват или да злоупотребяват с тези модели, за да предричат бъдещо човешко поведение. Нашите данни конструират "житейски модел" от привидно невинни дигитални следи като преминаването от една на друга мобилна клетка, транзакции с кредитна карта и историята в интернет браузъра.

Последиците от това, че сме изложени на постоянно алгоритмично наблюдение, често са неясни. Например изкуственият интелект – терминът, с който Силициевата долина обобщава мислещи и учещи се алгоритми – е рекламиран от технологичните компании като път към високотехнологичните удобства на т.нар. интернет на нещата. Това включва дигитални домашни помощници, свързани уреди и автономни коли.

Същевременно алгоритмите вече анализират навиците в социалните медии, като определят кредитоспособността, решават кои кандидати за работа да бъдат поканени на интервю и преценяват дали обвиняемите трябва да бъдат освободени под гаранция. Други системи с "учещи се" машини използват автоматизиран лицев анализ, за да долавят и следят емоции, или претендират, че са способни да прогнозират дали някой ще стане престъпник само на базата на лицевите му черти.

Тези системи не оставят пространство за човечност, но определят ежедневието ни. Когато това лято започнах да изграждам наново живота си, открих по болезнен начин, че те нямат време за хора, които са изпаднали от матрицата – подобни нюанси им убягват. Аз обявих публично, че съм трансджендър, и започнах хормонална терапия още докато бях в затвора. Когато бях освободена обаче, не съществуваха никакви установими данни за мен като трансжена. Проверките за финансова история и минал опит автоматично предполагаха, че извършвам измама. Банковите ми сметки все още бяха на старото ми име, което законово вече не съществуваше. В продължение на месеци трябваше да разнасям обемиста папка, съдържаща старите ми документи за самоличност и копие на съдебната заповед за промяната на името ми. Дори и така чиновниците и банковите служители понякога поглеждаха несъответствието, свиваха рамене и с извинението "компютърът казва "не" ми отказваха достъп до сметките ми.

Този тип програмирано, осланящо се на машините мислене става особено опасно в ръцете на правителства и полицейски служби. В последните години нашите военни, правоохранителни и разузнавателни агенции се сляха по неочаквани начини. Те придобиват повече данни, отколкото биха могли изобщо да управляват, и рамо до рамо ги обработват енергично в количествено изразимия свят във внушителни сгради, обикновено без прозорци, наричани центрове за сливане.

Подобни нови отношения между силови структури вдъхват живот и създават условия за развитие на огромна полицейска държава. Напредналите алгоритми правят това възможно на безпрецедентно ниво. Относително дребни нарушения или "микропрестъпления" сега могат да бъдат агресивно преследвани. А с националните бази данни, споделяни между правителства и корпорации, тези дребни инциденти могат да те преследват вечно, дори ако информацията е некоректна или извадена от контекст.

Същевременно американските военни използват метаданни от безброй проведени разговори за атаки с дронове, като разчитат на иззвъняванията на мобилните телефони, за да проследяват и елиминират цели.

Фотограф: Andrew Testa/The New York Times

В литературата и попкултурата понятия като "престъпления на мисълта" и "предпрестъпления" идват от въображаемия фантастичен жанр. Те биват използвани, за да бъде спрян и наказан всеки, посочен от автоматизирани системи като потенциален престъпник или заплаха, дори ако още няма извършено престъпление. Но тази концепция от научната фантастика бързо се превръща в реалност. Прогностични полицейски алгоритми вече се използват за създаване на автоматични "горещи карти" на бъдещи престъпления и подобно на "ръчната" полицейска работа преди тях те преобладаващо се прицелват в бедни квартали, населени с малцинства.

Светът се превръща в нещо като зловещ и банален дистопичен роман. На повърхността нещата изглеждат същите, но не са. Без ясни граници за това как алгоритмите могат да употребяват – и да злоупотребяват със - събираните за нас данни потенциалната опасност те да контролират живота ни постоянно расте.

Нашите шофьорски книжки, нашите ключове, нашите дебитни и кредитни карти са важни части от живота ни. Дори профилите ни в социалните мрежи може скоро да се превърнат в ключови компоненти от това да бъдем напълно функционални членове на обществото. След като живеем в този свят, трябва да измислим как да запазим връзката си с обществото, без да се предаваме на автоматизирани процеси, които не можем нито да виждаме, нито да контролираме.

© 2017 Chelsea Manning. Distributed by The New York Times Syndicate.
  • Facebook
  • Twitter
  • Зарче
  • Email
  • Ако този материал Ви е харесал или желаете да изразите съпричастност с конкретната тема или кауза, можете да ни подкрепите с малко финансово дарение.

    Дарение
    Плащането се осъществява чрез ePay.bg

Прочетете и това

Мигрантската криза е тест за нашата колективна съвест Мигрантската криза е тест за нашата колективна съвест

Над 68 млн. души са били принудени да напуснат родните си места. Трябва да направим повече, за да им помогнем

31 дек 2018, 2435 прочитания

Смъртта на демокрацията в Хонконг 4 Смъртта на демокрацията в Хонконг

Само отделяне от Китай може да осигури демократичното бъдеще, което ни беше обещано

31 дек 2018, 3731 прочитания

24 часа 7 дни
 
Капитал

Абонирайте се и получавате повече

Капитал
  • Допълнителни издания
  • Остъпки за участие в събития
  • Ваучер за реклама
Още от "World Review" Затваряне
Мечтаем да живеем в свободна Венецуела

Не е твърде късно да спасим нашата демокрация.

Рециклиране за напреднали

Ъпсайклингът е креативност, съчетана с грижа за природата

Замлъкването на "Хоризонт"

Скандалът с опита за отстраняване на журналистката Силвия Великова оголи истината за медийната ситуация в България

Летящите линейки, които властта не дава на хората

Частните хеликоптери работиха на загуба пет години. Сега е ред на държавата

Тайният живот на "затворените" сметища

Градските депа за боклуци, които на документи са закрити, се ползват незаконно, което освен до пожари може да доведе до санкции от ЕС

Форма, идея и протест

Андрей Врабчев предизвиква отношението ни към настоящето и миналото с проектите си в публичното пространство

Ново място - Cafe 1920

Традиционната българска кухня с модерен прочит