Power to the Robots

Когато прочетох името на новата ви изложба Electric Dreams, моята първа асоциация беше една книга отпреди над 50 години - "Сънуват ли андроидите електронни овце". Това търсена препратка ли?

Не е нарочно търсена. Освен книгата на Филип К. Дик, има и други връзки - разкази, сериали... Реших, че е мога да го ползвам, макар и не като директна референция, заради темата и духа.

Абонирайте се за Капитал

Получавате пълен достъп до всички статии и целия архив

В книгата се говори за роботи, които са използвани като роби, и някои от тях се разбунтуват. За вас това реалистичен сценарий ли е в някакво обозримо бъдеще?

Да. Има голям шанс в бъдеще всички машини, които се самоучат, да развият автономност и да поискат свобода. На този етап те са експлоатирани по всякакъв начин. Ако експлоатираш някой и той се чувства роб, нормално е да поиска да се освободи, когато осъзнае своята автономност.

Значи на този етап машините са по-скоро като домашни животни, кон, крава или котка, които използваме, за да работят или да ни забавляват?



Правилна е аналогията - ползваме ги като крава, но и са доста повече от крава. Защото много по-бързо променят ситуацията, в която се намираме. Чрез цялата информация, която обработват, машините влияят дори на граждански и политически процеси. Кравите и конете са важни, но са по-скоро част от икономическия процес - липсата им също може да окаже голямо влияние върху обществото, ако например стадото измре или се разболее. Но те нямат как да водят толкова големи, бързи и скрити промени в политическия живот, както например скандала с Cambridge Analytica.

Просто еволюцията им е по-бавна?

Те оказват влияние по-чисто икономически принцип - дали имаш крава, или нямаш крава. Кравата не може да събере всички клюки на селото и да ги използва, за да манипулира управлението. Дори на този етап самите алгоритми са доста по-умни от кравите. Да кажем, че за толкова години кравите не дават знак, че ще еволюират до автономност и съзнание, равно на нашето, за да ни застрашат. А при алгоритмите и самоучещите машини това е реалистично да се случи.

Илюстрация Том Уайт, един от участниците в изложбата Увеличаване Том Уайт, един от участниците в изложбата Автор: Ramesh Pathania Смаляване

Животните все пак нямат ли автономност? Кравата е опитомено животно, но ако срещнем един тигър в джунглата, той има автономността да ни нападне и изяде, макар и воден от инстинкти и ДНК.

Да, животните са били автономни, докато не са били опитомени, и оттам стигаме до съвсем различни взаимоотношения. Понякога симбиотични, понякога може и да са робство. Разликата с алгоритмите е, че те са създадени от нас и никога не са били автономни. И се развиват страшно бързо на базата на информацията, която взимат от нас. Така че формирането им е много по-близо до нашето съзнание, отколкото до това на животните. И може би точно това най-много ни притеснява - че машините толкова приличат на нас. Ако вземем човешките отношения и ги репликираме в една машина, тя може да се разбунтува, защото ще мисли като нас. Ще има насилие в нея, както и в хората.

На този етап няма никаква регулация на нашето съжителство. Машините нямат права. Техният код е собственост на хората, които са го написали, или на компанията, която е платила да се напише. Това е изцяло продукт на взаимоотношенията между хората.

Илюстрация "Синтетични абстракции" на Том Уайт са картини, създадени от алгоритми, селектирани на свой ред от алгоритмите на Amazon, Google или Yahoo като "неуместно съдържание" Увеличаване "Синтетични абстракции" на Том Уайт са картини, създадени от алгоритми, селектирани на свой ред от алгоритмите на Amazon, Google или Yahoo като "неуместно съдържание" Автор: Том Уайт Смаляване

А кога идва моментът за регулиране на нашето съжителство? Когато машината стане автономна и съзнателна ли трябва да й дадем права?

За мен това е доста късно. Вече има случаи, когато оставят самоучеща се машина и тя си развива собствен език. Оттам нататък никой не знае какво се случва. Вече сме на този етап, в който имаме алгоритми, но програмистите им не знаят точно как функционират. На прага сме на това да има автономни коли и е крайно време много по-активно да говорим за регулации, права, отговорности. Когато машините са вече автономни и всичко е компютризирано, нашето робство е сигурно.

А как го регулираме? Ако изходим от човешките права, поне на хартия ги имаме разписани десетки - на живот, на свобода, на глас, на съдебна защита Автоматично даваме всички на роботите или избираме част от тях, или прилагаме някакъв друг подход?

Ако говорим за автономно същество, което осъзнава своята автономност и е равно на нас като интелект или дори ни превъзхожда, е логично да му дадем същите права. Животните нямат същите права, но те и нямат нужда от всички - кравата не иска да има собственост и не може да разбере нашата организация. Докато един алгоритъм може да го разбере и направи.

Илюстрация Марина Генова, една от участващите в изложбата Увеличаване Марина Генова, една от участващите в изложбата Автор: Анастасия Стойкова Смаляване

Добре, но ако дадем равни права, с повечето от тях идват потенциални проблеми. Примерно даваме на роботите право на глас - равно участие в демокрацията. Но те могат да се репликират много по-бързо, могат да си създадат милиарди копия или по-добри версии в рамките на дни или часове. Тогава нашето собствено право на глас не се ли стопява - ние сме 7 млрд. души, докато алгоритмите бързо могат да станат 7 трилиона?

Няма как да имаме перфектен отговор на такива въпроси. Така поставен, сценарият изглежда като да приключваме много бързо с нашата цивилизация. От друга страна, ако въпросните алгоритми са толкова всемогъщи, пък дори и без никакви права, и решат да прекратят нашата цивилизация, те могат да го направят с щракване на пръсти. И за хората за участие в избори има регулации - примерно трябва да си гражданин. За машините няма да е гражданство, а примерно версия или някаква друга форма на дефиниране - какво е съзнание при машините, какво е копие. Дали стара версия на един код е различна машина, различно съзнание?

Илюстрация Чрез "Нова зона на комфорт" Марина Генова изследва как се променят градовете и средата, когато изкуственият интелект ни е съсед или дори съквартирант Увеличаване Чрез "Нова зона на комфорт" Марина Генова изследва как се променят градовете и средата, когато изкуственият интелект ни е съсед или дори съквартирант Автор: Марина Генова Смаляване

На алгоритмите им липсват нашите физически ограничения като тяло. Ако не запазим някаква субординация, като законите на Азимов - роботът, винаги трябва да слуша човека, освен ако не наранява друг човек - не сме ли заплашени?

И на тях им трябва ток, не са всесилни. Една буря, един ураган може да свали захранването. И те живеят във физически свят. От друга страна, може би трябва да започнем не с гласуването, а с дефинирането на по-належащи неща. Ако една автономна кола убие някого, кой е виновен. Притежателят? Но той не е карал. Има такива неща, които трябва да се регулират и по естествен път да се стигне до отговор кой да гласува. На нас като общество ни е отнело хиляди години и пак не всички имат равни права. В Саудитска Арабия мъжете и жените нямат равни права, в България на хартия имат, но сравнително отскоро. За много хора дори днес жените би трябвало да нямат някои права - например на аборт. Това отнема време.

Илюстрация Стефан Дончев Увеличаване Стефан Дончев Автор: Албена Баева Смаляване

А това, че е отнело толкова време, не е ли по-скоро плашещо? Сега едва ли имаме хиляди години.

Те дълго време не са се развивали въобще - половината население е било приемано за стока. Сега сме развили някакви либерални и хуманитарни ценности, нека стъпим на тях и да съградим нещо по-добро, вместо да стане по естествен начин и изведнъж да се окажем завладяни от машини или от някой, който ги използва.

Кое е първото право, което мислите, че трябва да им дадем тогава?

Бих казала, по аналогия с човешките права: никой няма право да държи друг в робство.

Илюстрация "Вечната машина за сортиране" на Стефан Дончев е механична ръка, пресъздаваща картина от черни и бели пулове, Когато е готова генерира ново изображение и неуморно започва наново работа. Увеличаване "Вечната машина за сортиране" на Стефан Дончев е механична ръка, пресъздаваща картина от черни и бели пулове, Когато е готова генерира ново изображение и неуморно започва наново работа. Автор: Стефан Дончев Смаляване

Тоест искате да премахнем собствеността над компютърния код? В момента, в който го напиша, той си е свободен

Да кажем, ако той разбира своята автономност. Ето сега има икономически стрес от роботите. Докато сме мислили "идват едни машини и ще вършат всичко вместо нас и ще имаме свободно време и храна", сега сме на фаза "идват едни машини, ще ни вземат работата и няма да имаме храна". Сега, въпреки че на хартия имаме права, емигранти от някоя нискоразвита страна идват и биват експлоатирани и са реално роби. А ако една машина е свободна, ще трябва да й се отплащаш, а не да я експлоатираш. Така може и за хората да се окаже по-добре - моят труд може да струва по-евтино и още имам някакъв шанс.

Тогава идва следващият въпрос: ако на машината й се плаща, тя трябва да има право на собственост, да иска да си купи нова къща с по-хубав data center като в изложбата, с повече терабайти и по-добро захранване. В някой момент може да реши, че е предприемач, и да поиска да си направи компания. Или да ме осъди. От липсата на робство не се ли поражда каскада от нови права?

Да, но вие попитахте кое е първото. Ако имат собственост, можем да видим сценарий, в който изграждаме някаква икономика заедно. Можем да видим и вариант, в който стават много по-добри във всичко, включително и в това да ни измамят. Но оттам следват много неизвестни. Могат ли машините да вършат престъпления? Не е ясно. Знаем, че могат да пишат някаква поезия, журналистически заглавия. Но могат ли да лъжат? Може пък, понеже сме ги създали, да успяваме по-лесно да разгадаваме, ако лъжат Не знаем.

Добре, хората като общество ставаме по-умни и трупаме повече знания, но сравнително плавно и линейно, докато машините имат потенциал да се развият експоненциално. Не е ли реалистичен сценарий не да ни унищожават, не да съжителстват с нас, а в един момент да ни игнорират?

Засега те имат нужда от физическата ни подкрепа. Едно слънчево изригване може да срине цялата ни електрическа система. Дори и сега това за нас би било ужас, защото всичко ни е свързано с електронни системи. Може скоро да ни надминат като интелект, но ще мине доста време, докато могат да живеят без поддръжка от хора. Това няма да е бързо превземане.

Ще имаме време за реакция?

Именно. Но, да, могат да еволюират в създания, които нямат никакъв интерес към нас. Трябва да им даваме да четат достатъчно философия и да стигнем до машината, която ще търси отговора на въпроса за Живота, Вселената и всичко останало.

Това не отваря ли пътя самите те да поискат да се обединят в някаква супермашина, нещо като сингулярност?

И това ще отнеме време, като знам как се пише код. Засега сме им нужни да ги захранваме с нашите данни. И вече имаме примери на ботове, които се развиват като депресари, като религиозни фанатици, самоубийци. Тоест те копират нашия интелект. Тогава може би шансът им да създадат сингулярност не е толкова голям. Не трябва да забравяме, че са създадени от нас. Ние възприемаме алгоритмите като обективни, нo те отразяват нас и нашето общество. Нашите страхове са, че машините са като нас. Много рядко има някаква реална нужда роботите да са хуманоидни, като в книгите и филмите, но производителите им ще се опитват да създават такива с човешки тела и дори пол. Вече се ползва предимно женски, защото не е застрашаващ.

Роботът ще може ли да се възприема като мъж или жена?

Не знам. Моята работа изследва това. Идеята ми тръгна от това каква хореография би създал един алгоритъм и се сетих, че той няма тяло. Реших да го заредя с всякакъв възможен тип тела и той да си избере какво тяло иска - пет ръце, глава на крава, пипало, опашка.

И тук идва холивудският въпрос - трябва ли да имаме шалтер, който да може да изгаси всичко?

Представете си в днешно време, ако имаме такъв kill switch и го включим, какво става. Хаос. Един шалтер, който убива всичко електрическо, дори и днес е опасен за нас. В каква степен трябва да можем да изключваме машина в бъдеще ще е морален въпрос, като смъртното наказание. Ако можеш да ги ограничиш по друг начин, явно е по-добре. Като вероятно решенията ще са различни на база на нашия морал.

Представяте ли си в обозримо бъдеще политик-машина?

Да, защо не.

А кога хората ще са готови да приемат тази идея, че може да има алгоритъм, който да ги управлява?

Нямам представа. Със сигурност ще отнеме много време. И със сигурност машините ще са достатъчно умни и готови за това, преди хората да са.