С използването на сайта вие приемате, че използваме „бисквитки" за подобряване на преживяването, персонализиране на съдържанието и рекламите, и анализиране на трафика. Вижте нашата политика за бисквитките и декларацията за поверителност. ОK
21 юни 2019, 9:05, 6086 прочитания

Power to the Robots

Албена Баева, артист и куратор на първата изложба в България на произведения, създадени в колаборация с изкуствен интелект

  • LinkedIn
  • Twitter
  • Email
  • Качествената журналистика е въпрос на принципи, професионализъм, но и средства. Ако искате да подкрепите стандартите на "Капитал", може да го направите тук. Благодарим.

    Дарение
    Плащането се осъществява чрез ePay.bg
Албена Баева е дигитален do-it-yourself артист, който умее да провокира. Нейните интерактивни инсталации изследват големи теми - от дискриминацията и сексизма до балоните в социалните мрежи. Говорим с нея по повод новата изложба, която тя курира и в която ще представи свои нови неща, както и работи на още трима автори. А темата изскача от общото за всички тях - мястото на алгоритмите и машините като все по-важен, дори равностоен участник в живота ни.
"Електронни сънища" повдига въпроса за мястото на изкуствения интелект в нашето съвремие и бъдеще, за неговата автономност, за последствията за нашето общество и за правата на интелигентните машини.

Изложбата в столичната галерия +359 (Водната кула в кв. "Лозенец") продължава до 7 юли.

Когато прочетох името на новата ви изложба Electric Dreams, моята първа асоциация беше една книга отпреди над 50 години - "Сънуват ли андроидите електронни овце". Това търсена препратка ли?

Не е нарочно търсена. Освен книгата на Филип К. Дик, има и други връзки - разкази, сериали... Реших, че е мога да го ползвам, макар и не като директна референция, заради темата и духа.


В книгата се говори за роботи, които са използвани като роби, и някои от тях се разбунтуват. За вас това реалистичен сценарий ли е в някакво обозримо бъдеще?

Да. Има голям шанс в бъдеще всички машини, които се самоучат, да развият автономност и да поискат свобода. На този етап те са експлоатирани по всякакъв начин. Ако експлоатираш някой и той се чувства роб, нормално е да поиска да се освободи, когато осъзнае своята автономност.

Значи на този етап машините са по-скоро като домашни животни, кон, крава или котка, които използваме, за да работят или да ни забавляват?



Правилна е аналогията - ползваме ги като крава, но и са доста повече от крава. Защото много по-бързо променят ситуацията, в която се намираме. Чрез цялата информация, която обработват, машините влияят дори на граждански и политически процеси. Кравите и конете са важни, но са по-скоро част от икономическия процес - липсата им също може да окаже голямо влияние върху обществото, ако например стадото измре или се разболее. Но те нямат как да водят толкова големи, бързи и скрити промени в политическия живот, както например скандала с Cambridge Analytica.

Просто еволюцията им е по-бавна?

Те оказват влияние по-чисто икономически принцип - дали имаш крава, или нямаш крава. Кравата не може да събере всички клюки на селото и да ги използва, за да манипулира управлението. Дори на този етап самите алгоритми са доста по-умни от кравите. Да кажем, че за толкова години кравите не дават знак, че ще еволюират до автономност и съзнание, равно на нашето, за да ни застрашат. А при алгоритмите и самоучещите машини това е реалистично да се случи.

Илюстрация



Животните все пак нямат ли автономност? Кравата е опитомено животно, но ако срещнем един тигър в джунглата, той има автономността да ни нападне и изяде, макар и воден от инстинкти и ДНК.

Да, животните са били автономни, докато не са били опитомени, и оттам стигаме до съвсем различни взаимоотношения. Понякога симбиотични, понякога може и да са робство. Разликата с алгоритмите е, че те са създадени от нас и никога не са били автономни. И се развиват страшно бързо на базата на информацията, която взимат от нас. Така че формирането им е много по-близо до нашето съзнание, отколкото до това на животните. И може би точно това най-много ни притеснява - че машините толкова приличат на нас. Ако вземем човешките отношения и ги репликираме в една машина, тя може да се разбунтува, защото ще мисли като нас. Ще има насилие в нея, както и в хората.

На този етап няма никаква регулация на нашето съжителство. Машините нямат права. Техният код е собственост на хората, които са го написали, или на компанията, която е платила да се напише. Това е изцяло продукт на взаимоотношенията между хората.

Илюстрация



А кога идва моментът за регулиране на нашето съжителство? Когато машината стане автономна и съзнателна ли трябва да й дадем права?

За мен това е доста късно. Вече има случаи, когато оставят самоучеща се машина и тя си развива собствен език. Оттам нататък никой не знае какво се случва. Вече сме на този етап, в който имаме алгоритми, но програмистите им не знаят точно как функционират. На прага сме на това да има автономни коли и е крайно време много по-активно да говорим за регулации, права, отговорности. Когато машините са вече автономни и всичко е компютризирано, нашето робство е сигурно.

А как го регулираме? Ако изходим от човешките права, поне на хартия ги имаме разписани десетки - на живот, на свобода, на глас, на съдебна защита Автоматично даваме всички на роботите или избираме част от тях, или прилагаме някакъв друг подход?

Ако говорим за автономно същество, което осъзнава своята автономност и е равно на нас като интелект или дори ни превъзхожда, е логично да му дадем същите права. Животните нямат същите права, но те и нямат нужда от всички - кравата не иска да има собственост и не може да разбере нашата организация. Докато един алгоритъм може да го разбере и направи.

Илюстрация



Добре, но ако дадем равни права, с повечето от тях идват потенциални проблеми. Примерно даваме на роботите право на глас - равно участие в демокрацията. Но те могат да се репликират много по-бързо, могат да си създадат милиарди копия или по-добри версии в рамките на дни или часове. Тогава нашето собствено право на глас не се ли стопява - ние сме 7 млрд. души, докато алгоритмите бързо могат да станат 7 трилиона?

Няма как да имаме перфектен отговор на такива въпроси. Така поставен, сценарият изглежда като да приключваме много бързо с нашата цивилизация. От друга страна, ако въпросните алгоритми са толкова всемогъщи, пък дори и без никакви права, и решат да прекратят нашата цивилизация, те могат да го направят с щракване на пръсти. И за хората за участие в избори има регулации - примерно трябва да си гражданин. За машините няма да е гражданство, а примерно версия или някаква друга форма на дефиниране - какво е съзнание при машините, какво е копие. Дали стара версия на един код е различна машина, различно съзнание?

Илюстрация



На алгоритмите им липсват нашите физически ограничения като тяло. Ако не запазим някаква субординация, като законите на Азимов - роботът, винаги трябва да слуша човека, освен ако не наранява друг човек - не сме ли заплашени?

И на тях им трябва ток, не са всесилни. Една буря, един ураган може да свали захранването. И те живеят във физически свят. От друга страна, може би трябва да започнем не с гласуването, а с дефинирането на по-належащи неща. Ако една автономна кола убие някого, кой е виновен. Притежателят? Но той не е карал. Има такива неща, които трябва да се регулират и по естествен път да се стигне до отговор кой да гласува. На нас като общество ни е отнело хиляди години и пак не всички имат равни права. В Саудитска Арабия мъжете и жените нямат равни права, в България на хартия имат, но сравнително отскоро. За много хора дори днес жените би трябвало да нямат някои права - например на аборт. Това отнема време.

Илюстрация


А това, че е отнело толкова време, не е ли по-скоро плашещо? Сега едва ли имаме хиляди години.

Те дълго време не са се развивали въобще - половината население е било приемано за стока. Сега сме развили някакви либерални и хуманитарни ценности, нека стъпим на тях и да съградим нещо по-добро, вместо да стане по естествен начин и изведнъж да се окажем завладяни от машини или от някой, който ги използва.

Кое е първото право, което мислите, че трябва да им дадем тогава?

Бих казала, по аналогия с човешките права: никой няма право да държи друг в робство.

Илюстрация


Тоест искате да премахнем собствеността над компютърния код? В момента, в който го напиша, той си е свободен

Да кажем, ако той разбира своята автономност. Ето сега има икономически стрес от роботите. Докато сме мислили "идват едни машини и ще вършат всичко вместо нас и ще имаме свободно време и храна", сега сме на фаза "идват едни машини, ще ни вземат работата и няма да имаме храна". Сега, въпреки че на хартия имаме права, емигранти от някоя нискоразвита страна идват и биват експлоатирани и са реално роби. А ако една машина е свободна, ще трябва да й се отплащаш, а не да я експлоатираш. Така може и за хората да се окаже по-добре - моят труд може да струва по-евтино и още имам някакъв шанс.

Тогава идва следващият въпрос: ако на машината й се плаща, тя трябва да има право на собственост, да иска да си купи нова къща с по-хубав data center като в изложбата, с повече терабайти и по-добро захранване. В някой момент може да реши, че е предприемач, и да поиска да си направи компания. Или да ме осъди. От липсата на робство не се ли поражда каскада от нови права?

Да, но вие попитахте кое е първото. Ако имат собственост, можем да видим сценарий, в който изграждаме някаква икономика заедно. Можем да видим и вариант, в който стават много по-добри във всичко, включително и в това да ни измамят. Но оттам следват много неизвестни. Могат ли машините да вършат престъпления? Не е ясно. Знаем, че могат да пишат някаква поезия, журналистически заглавия. Но могат ли да лъжат? Може пък, понеже сме ги създали, да успяваме по-лесно да разгадаваме, ако лъжат Не знаем.

Добре, хората като общество ставаме по-умни и трупаме повече знания, но сравнително плавно и линейно, докато машините имат потенциал да се развият експоненциално. Не е ли реалистичен сценарий не да ни унищожават, не да съжителстват с нас, а в един момент да ни игнорират?

Засега те имат нужда от физическата ни подкрепа. Едно слънчево изригване може да срине цялата ни електрическа система. Дори и сега това за нас би било ужас, защото всичко ни е свързано с електронни системи. Може скоро да ни надминат като интелект, но ще мине доста време, докато могат да живеят без поддръжка от хора. Това няма да е бързо превземане.

Ще имаме време за реакция?

Именно. Но, да, могат да еволюират в създания, които нямат никакъв интерес към нас. Трябва да им даваме да четат достатъчно философия и да стигнем до машината, която ще търси отговора на въпроса за Живота, Вселената и всичко останало.

Това не отваря ли пътя самите те да поискат да се обединят в някаква супермашина, нещо като сингулярност?

И това ще отнеме време, като знам как се пише код. Засега сме им нужни да ги захранваме с нашите данни. И вече имаме примери на ботове, които се развиват като депресари, като религиозни фанатици, самоубийци. Тоест те копират нашия интелект. Тогава може би шансът им да създадат сингулярност не е толкова голям. Не трябва да забравяме, че са създадени от нас. Ние възприемаме алгоритмите като обективни, нo те отразяват нас и нашето общество. Нашите страхове са, че машините са като нас. Много рядко има някаква реална нужда роботите да са хуманоидни, като в книгите и филмите, но производителите им ще се опитват да създават такива с човешки тела и дори пол. Вече се ползва предимно женски, защото не е застрашаващ.

Роботът ще може ли да се възприема като мъж или жена?

Не знам. Моята работа изследва това. Идеята ми тръгна от това каква хореография би създал един алгоритъм и се сетих, че той няма тяло. Реших да го заредя с всякакъв възможен тип тела и той да си избере какво тяло иска - пет ръце, глава на крава, пипало, опашка.

И тук идва холивудският въпрос - трябва ли да имаме шалтер, който да може да изгаси всичко?

Представете си в днешно време, ако имаме такъв kill switch и го включим, какво става. Хаос. Един шалтер, който убива всичко електрическо, дори и днес е опасен за нас. В каква степен трябва да можем да изключваме машина в бъдеще ще е морален въпрос, като смъртното наказание. Ако можеш да ги ограничиш по друг начин, явно е по-добре. Като вероятно решенията ще са различни на база на нашия морал.

Представяте ли си в обозримо бъдеще политик-машина?

Да, защо не.

А кога хората ще са готови да приемат тази идея, че може да има алгоритъм, който да ги управлява?

Нямам представа. Със сигурност ще отнеме много време. И със сигурност машините ще са достатъчно умни и готови за това, преди хората да са.

Капитал брой 25

Текстът е част от седмичния Капитал. В новия брой ще прочетете още:

  • Възкръсналата империя на Ковачки
  • Климатичният завой на България
  • Обратно броене в БСП

Купете

  • Facebook
  • Twitter
  • Зарче
  • Email
  • Ако този материал Ви е харесал или желаете да изразите съпричастност с конкретната тема или кауза, можете да ни подкрепите с малко финансово дарение.

    Дарение
    Плащането се осъществява чрез ePay.bg

Прочетете и това

20 въпроса: Здравко Петров 20 въпроса: Здравко Петров

Урбанистът познат от "Исторически маршути" издаде книга, която обединява две от архитектуните разходки

11 окт 2019, 1702 прочитания

Надежда за "Ирина" Надежда за "Ирина"

Режисьорката Надежда Косева преплита темите за женската сила и клаустрофобията на малкия град в новия си филм

11 окт 2019, 1925 прочитания

24 часа 7 дни
 
Капитал

Абонирайте се и получавате повече

Капитал
  • Допълнителни издания
  • Остъпки за участие в събития
  • Ваучер за реклама
Още от "Лица" Затваряне
20 въпроса: Боян Манчев

"На този свят има много повече тъга, отколкото можем да понесем. Затова трябва да въобразяваме по-добър възможен свят."

Още от Капитал
Ново време за "Славянска беседа"

Двама френски предприемачи са купили 2 хил кв. м за близо 3 млн. евро, за да направят офиси и споделено простраство

Арабският пробив на IPS

Българската семейна компания "Интернешънъл пауър съплай" завърши ключов проект за Saudi Aramco

Сметка за основни операции - струва ли си

Всеки, който ползва рядко банкови услуги, може да се възползва от опцията, но и не само той

Музей или СПА

Предизборната кампания повдигна въпроса за забравеното северно крило на Централната баня, за което се водят спорове от години

20 въпроса: Здравко Петров

Урбанистът познат от "Исторически маршути" издаде книга, която обединява две от архитектуните разходки

Надежда за "Ирина"

Режисьорката Надежда Косева преплита темите за женската сила и клаустрофобията на малкия град в новия си филм

X Остават ви 0 свободни статии
0 / 10