Дистопията Big Data
Абонирайте се за Капитал

Всеки петък икономически анализ и коментар на текущите събития от седмицата.
Съдържанието е организирано в три области, за които Капитал е полезен:

K1 Средата (политическа, макроикономическа регулаторна правна)
K2 Бизнесът (пазари, продукти, конкуренция, мениджмънт)
K3 Моят капитал (лични финанси, свободно време, образование, извън бизнеса).

Абонирайте се за Капитал

Дистопията Big Data

Данни, които споделяме като част от всекидневието ни, се събират в огромни масиви и са съхранявани от правителства и компании. Масивни сгради, разпръснати по света, съществуват единствено за да осигуряват място за сървърите, които съхраняват и обработват информацията

Дистопията Big Data

Автоматизирани алгоритми вече диктуват нашето бъдеще – и свобода

8242 прочитания

Данни, които споделяме като част от всекидневието ни, се събират в огромни масиви и са съхранявани от правителства и компании. Масивни сгради, разпръснати по света, съществуват единствено за да осигуряват място за сървърите, които съхраняват и обработват информацията

© Kim Steele for The New York Times


Tози текст е част от специалното издание World Review на New York Times, издадено на български от "Капитал". Всички текстове по темата може да откриете тук.

В продължение на седем години аз не съществувах.

Докато бях в затвора, нямах никакви банкови извлечения, никакви сметки, никаква кредитна история. В нашия взаимосвързан свят на Big Data (големи масиви данни) аз бях нещо като покойник. След като бях освободена, тази липса на информация за мен създаде куп проблеми – от трудности с достъпа до банкови услуги до пречки с получаването на шофьорска книжка и наемането на апартамент.

Челси Манинг е активист за прозрачност на управлението и за правата на трансджендър хората, както и бивш анализатор на разузнавателна информация към американската армия. През 2013 г. тя е осъдена по закона за шпионаж за оповестяване на класифицирани документи за войните в Ирак и Афганистан. Присъдата й е намалена от президента Барак Обама през януари и тя е освободена през май.

През 2010 г. iPhone беше само на три години и мнозина още не виждаха смартфоните като незаменимите дигитални придатъци, каквито са днес. Седем години по-късно на практика всичко, което правим, води до това да изстискват от нас дигитална информация, което ни оставя на произвола на невидими алгоритми, заплашващи да погълнат свободата ни.

Течовете на информация може да изглеждат невинни в някои отношения. В края на краищата защо да се тревожим, ако нямаме какво да крием?

Всички подаваме данъчни декларации. Всички говорим по телефона. Всички изпращаме имейли. Данъчните регистри служат, за да ни държат честни. Съгласяваме се да споделяме местонахождението си, за да можем да проверяваме прогнозата за времето на смартфоните си. Регистрите за нашите обаждания, sms-и и физически придвижвания отиват някъде заедно с информацията за плащанията, които правим. Вероятно тези данни тайно се анализират, за да е сигурно, че не сме терористи – но ни уверяват, че това се прави единствено в интерес на националната сигурност.

Нашите лица и гласове биват записвани от камери за видеонаблюдение и други свързани с интернет сензори, част от които сега поставяме доброволно в домовете си. Всеки път, когато пускаме новинарска статия или страница в социална медиа, се излагаме на проследяващ код и така позволяваме на стотици незнайни устройства да следят нашите навици за пазаруване и сърфиране онлайн. Съгласяваме се на неразбираеми споразумения за "условия за ползване", които прикриват истинското естество и обхват на тези транзакции.

Според изследване от 2015 г. на Pew Research Center 91% от пълнолетните американци смятат, че са изгубили контрол върху начина, по който тяхната лична информация се събира и използва. Но всъщност са изгубили много повече, отколкото вероятно предполагат.

Истинската сила на масовото събиране на данни се крие в специално изработени алгоритми, способни да отсяват и идентифицират модели вътре в самите данни. Когато с времето се натрупа достатъчно информация, правителства и корпорации могат да използват или да злоупотребяват с тези модели, за да предричат бъдещо човешко поведение. Нашите данни конструират "житейски модел" от привидно невинни дигитални следи като преминаването от една на друга мобилна клетка, транзакции с кредитна карта и историята в интернет браузъра.

Последиците от това, че сме изложени на постоянно алгоритмично наблюдение, често са неясни. Например изкуственият интелект – терминът, с който Силициевата долина обобщава мислещи и учещи се алгоритми – е рекламиран от технологичните компании като път към високотехнологичните удобства на т.нар. интернет на нещата. Това включва дигитални домашни помощници, свързани уреди и автономни коли.

Същевременно алгоритмите вече анализират навиците в социалните медии, като определят кредитоспособността, решават кои кандидати за работа да бъдат поканени на интервю и преценяват дали обвиняемите трябва да бъдат освободени под гаранция. Други системи с "учещи се" машини използват автоматизиран лицев анализ, за да долавят и следят емоции, или претендират, че са способни да прогнозират дали някой ще стане престъпник само на базата на лицевите му черти.

Тези системи не оставят пространство за човечност, но определят ежедневието ни. Когато това лято започнах да изграждам наново живота си, открих по болезнен начин, че те нямат време за хора, които са изпаднали от матрицата – подобни нюанси им убягват. Аз обявих публично, че съм трансджендър, и започнах хормонална терапия още докато бях в затвора. Когато бях освободена обаче, не съществуваха никакви установими данни за мен като трансжена. Проверките за финансова история и минал опит автоматично предполагаха, че извършвам измама. Банковите ми сметки все още бяха на старото ми име, което законово вече не съществуваше. В продължение на месеци трябваше да разнасям обемиста папка, съдържаща старите ми документи за самоличност и копие на съдебната заповед за промяната на името ми. Дори и така чиновниците и банковите служители понякога поглеждаха несъответствието, свиваха рамене и с извинението "компютърът казва "не" ми отказваха достъп до сметките ми.

Този тип програмирано, осланящо се на машините мислене става особено опасно в ръцете на правителства и полицейски служби. В последните години нашите военни, правоохранителни и разузнавателни агенции се сляха по неочаквани начини. Те придобиват повече данни, отколкото биха могли изобщо да управляват, и рамо до рамо ги обработват енергично в количествено изразимия свят във внушителни сгради, обикновено без прозорци, наричани центрове за сливане.

Подобни нови отношения между силови структури вдъхват живот и създават условия за развитие на огромна полицейска държава. Напредналите алгоритми правят това възможно на безпрецедентно ниво. Относително дребни нарушения или "микропрестъпления" сега могат да бъдат агресивно преследвани. А с националните бази данни, споделяни между правителства и корпорации, тези дребни инциденти могат да те преследват вечно, дори ако информацията е некоректна или извадена от контекст.

Същевременно американските военни използват метаданни от безброй проведени разговори за атаки с дронове, като разчитат на иззвъняванията на мобилните телефони, за да проследяват и елиминират цели.

Фотограф: Andrew Testa/The New York Times

В литературата и попкултурата понятия като "престъпления на мисълта" и "предпрестъпления" идват от въображаемия фантастичен жанр. Те биват използвани, за да бъде спрян и наказан всеки, посочен от автоматизирани системи като потенциален престъпник или заплаха, дори ако още няма извършено престъпление. Но тази концепция от научната фантастика бързо се превръща в реалност. Прогностични полицейски алгоритми вече се използват за създаване на автоматични "горещи карти" на бъдещи престъпления и подобно на "ръчната" полицейска работа преди тях те преобладаващо се прицелват в бедни квартали, населени с малцинства.

Светът се превръща в нещо като зловещ и банален дистопичен роман. На повърхността нещата изглеждат същите, но не са. Без ясни граници за това как алгоритмите могат да употребяват – и да злоупотребяват със - събираните за нас данни потенциалната опасност те да контролират живота ни постоянно расте.

Нашите шофьорски книжки, нашите ключове, нашите дебитни и кредитни карти са важни части от живота ни. Дори профилите ни в социалните мрежи може скоро да се превърнат в ключови компоненти от това да бъдем напълно функционални членове на обществото. След като живеем в този свят, трябва да измислим как да запазим връзката си с обществото, без да се предаваме на автоматизирани процеси, които не можем нито да виждаме, нито да контролираме.

© 2017 Chelsea Manning. Distributed by The New York Times Syndicate.

Tози текст е част от специалното издание World Review на New York Times, издадено на български от "Капитал". Всички текстове по темата може да откриете тук.

В продължение на седем години аз не съществувах.


Благодарим ви, че четете Капитал!

Вие използвате поверителен режим на интернет браузъра си. За да прочетете статията, трябва да влезете в профила си.
Влезте в профила си
Всеки потребител може да чете до 10 статии месечно без да има абонамент за Капитал.
Вижте абонаментните планове

3 коментара
  • 1
    leo_k avatar :-|
    Лео

    "През 2010 г. ... мнозина още не виждаха смартфоните като незаменимите дигитални придатъци"
    То и днес мнозина продължават да нямат нужда от дигитални придатъци, въпреки, че банките и социалните мрежи ни убеждават в обратното. Но следващото поколение неусетно ще израсте подчинено на технологиите и загубило личната си свобода.

  • 2
    monique avatar :-|
    monique

    "Нямам какво да крия" е най-опасната мисъл. Особено що се отнася до правомощията на полиция и съдебни органи. Така незабелязано минават закони, че всеки може да слуша и чете всичко за всеки с или без основание. Вече е късно, а повечето хора дори не виждат проблема. Който си мисли, че е защитен и има фейсбук, пробвайте следния линк https://applymagicsauce.com/. Ще се учудите с каква точност ще ви анализира. И това е само на база харесвания. Веднъж разрешили да се ползва микрофонът от дадено приложение давате зелена светлина на всички, които купуват данните от него. Прост експеримент говорете за йога и после вижте как ще се променят рекламите, които фейсбук ви показва. После като нямате какво да криете ще ви се показват само скъпите билети за самолет, защото някой е анализирал, че ще ходите на дадено място.

  • 3
    dahawk avatar :-|
    dahawk

    До коментар [#2] от "monique":

    Стана ми интересно и направих теста, като се логнах през фейсбук. Общо взето много неточно, като някои от точките за анализ ми бяха наистина смешни (като това, че харесвам баскетбол ме прави консервативен...).
    Като цяло съм съгласен с мнението ти, но този тест поне при мен и жена ми беше тотално грешен.


Нов коментар

За да публикувате коментари,
трябва да сте регистриран потребител.


Вход

Още от Капитал

С използването на сайта вие приемате, че използваме „бисквитки" за подобряване на преживяването, персонализиране на съдържанието и рекламите, и анализиране на трафика. Вижте нашата политика за бисквитките и декларацията за поверителност. OK