С използването на сайта вие приемате, че използваме „бисквитки" за подобряване на преживяването, персонализиране на съдържанието и рекламите, и анализиране на трафика. Вижте нашата политика за бисквитките и декларацията за поверителност. ОK
Вход | Регистрация

// Light / Лица

21 юни 2019, 9:05, 5873 прочитания

Power to the Robots

Албена Баева, артист и куратор на първата изложба в България на произведения, създадени в колаборация с изкуствен интелект

  • LinkedIn
  • Twitter
  • Email
  • Качествената журналистика е въпрос на принципи, професионализъм, но и средства. Ако искате да подкрепите стандартите на "Капитал", може да го направите тук. Благодарим.

    Дарение
    Плащането се осъществява чрез ePay.bg
Албена Баева е дигитален do-it-yourself артист, който умее да провокира. Нейните интерактивни инсталации изследват големи теми - от дискриминацията и сексизма до балоните в социалните мрежи. Говорим с нея по повод новата изложба, която тя курира и в която ще представи свои нови неща, както и работи на още трима автори. А темата изскача от общото за всички тях - мястото на алгоритмите и машините като все по-важен, дори равностоен участник в живота ни.
"Електронни сънища" повдига въпроса за мястото на изкуствения интелект в нашето съвремие и бъдеще, за неговата автономност, за последствията за нашето общество и за правата на интелигентните машини.

Изложбата в столичната галерия +359 (Водната кула в кв. "Лозенец") продължава до 7 юли.

Когато прочетох името на новата ви изложба Electric Dreams, моята първа асоциация беше една книга отпреди над 50 години - "Сънуват ли андроидите електронни овце". Това търсена препратка ли?

Не е нарочно търсена. Освен книгата на Филип К. Дик, има и други връзки - разкази, сериали... Реших, че е мога да го ползвам, макар и не като директна референция, заради темата и духа.


В книгата се говори за роботи, които са използвани като роби, и някои от тях се разбунтуват. За вас това реалистичен сценарий ли е в някакво обозримо бъдеще?

Да. Има голям шанс в бъдеще всички машини, които се самоучат, да развият автономност и да поискат свобода. На този етап те са експлоатирани по всякакъв начин. Ако експлоатираш някой и той се чувства роб, нормално е да поиска да се освободи, когато осъзнае своята автономност.

Значи на този етап машините са по-скоро като домашни животни, кон, крава или котка, които използваме, за да работят или да ни забавляват?



Правилна е аналогията - ползваме ги като крава, но и са доста повече от крава. Защото много по-бързо променят ситуацията, в която се намираме. Чрез цялата информация, която обработват, машините влияят дори на граждански и политически процеси. Кравите и конете са важни, но са по-скоро част от икономическия процес - липсата им също може да окаже голямо влияние върху обществото, ако например стадото измре или се разболее. Но те нямат как да водят толкова големи, бързи и скрити промени в политическия живот, както например скандала с Cambridge Analytica.

Просто еволюцията им е по-бавна?

Те оказват влияние по-чисто икономически принцип - дали имаш крава, или нямаш крава. Кравата не може да събере всички клюки на селото и да ги използва, за да манипулира управлението. Дори на този етап самите алгоритми са доста по-умни от кравите. Да кажем, че за толкова години кравите не дават знак, че ще еволюират до автономност и съзнание, равно на нашето, за да ни застрашат. А при алгоритмите и самоучещите машини това е реалистично да се случи.

Илюстрация



Животните все пак нямат ли автономност? Кравата е опитомено животно, но ако срещнем един тигър в джунглата, той има автономността да ни нападне и изяде, макар и воден от инстинкти и ДНК.

Да, животните са били автономни, докато не са били опитомени, и оттам стигаме до съвсем различни взаимоотношения. Понякога симбиотични, понякога може и да са робство. Разликата с алгоритмите е, че те са създадени от нас и никога не са били автономни. И се развиват страшно бързо на базата на информацията, която взимат от нас. Така че формирането им е много по-близо до нашето съзнание, отколкото до това на животните. И може би точно това най-много ни притеснява - че машините толкова приличат на нас. Ако вземем човешките отношения и ги репликираме в една машина, тя може да се разбунтува, защото ще мисли като нас. Ще има насилие в нея, както и в хората.

На този етап няма никаква регулация на нашето съжителство. Машините нямат права. Техният код е собственост на хората, които са го написали, или на компанията, която е платила да се напише. Това е изцяло продукт на взаимоотношенията между хората.

Илюстрация



А кога идва моментът за регулиране на нашето съжителство? Когато машината стане автономна и съзнателна ли трябва да й дадем права?

За мен това е доста късно. Вече има случаи, когато оставят самоучеща се машина и тя си развива собствен език. Оттам нататък никой не знае какво се случва. Вече сме на този етап, в който имаме алгоритми, но програмистите им не знаят точно как функционират. На прага сме на това да има автономни коли и е крайно време много по-активно да говорим за регулации, права, отговорности. Когато машините са вече автономни и всичко е компютризирано, нашето робство е сигурно.

А как го регулираме? Ако изходим от човешките права, поне на хартия ги имаме разписани десетки - на живот, на свобода, на глас, на съдебна защита Автоматично даваме всички на роботите или избираме част от тях, или прилагаме някакъв друг подход?

Ако говорим за автономно същество, което осъзнава своята автономност и е равно на нас като интелект или дори ни превъзхожда, е логично да му дадем същите права. Животните нямат същите права, но те и нямат нужда от всички - кравата не иска да има собственост и не може да разбере нашата организация. Докато един алгоритъм може да го разбере и направи.

Илюстрация



Добре, но ако дадем равни права, с повечето от тях идват потенциални проблеми. Примерно даваме на роботите право на глас - равно участие в демокрацията. Но те могат да се репликират много по-бързо, могат да си създадат милиарди копия или по-добри версии в рамките на дни или часове. Тогава нашето собствено право на глас не се ли стопява - ние сме 7 млрд. души, докато алгоритмите бързо могат да станат 7 трилиона?

Няма как да имаме перфектен отговор на такива въпроси. Така поставен, сценарият изглежда като да приключваме много бързо с нашата цивилизация. От друга страна, ако въпросните алгоритми са толкова всемогъщи, пък дори и без никакви права, и решат да прекратят нашата цивилизация, те могат да го направят с щракване на пръсти. И за хората за участие в избори има регулации - примерно трябва да си гражданин. За машините няма да е гражданство, а примерно версия или някаква друга форма на дефиниране - какво е съзнание при машините, какво е копие. Дали стара версия на един код е различна машина, различно съзнание?

Илюстрация



На алгоритмите им липсват нашите физически ограничения като тяло. Ако не запазим някаква субординация, като законите на Азимов - роботът, винаги трябва да слуша човека, освен ако не наранява друг човек - не сме ли заплашени?

И на тях им трябва ток, не са всесилни. Една буря, един ураган може да свали захранването. И те живеят във физически свят. От друга страна, може би трябва да започнем не с гласуването, а с дефинирането на по-належащи неща. Ако една автономна кола убие някого, кой е виновен. Притежателят? Но той не е карал. Има такива неща, които трябва да се регулират и по естествен път да се стигне до отговор кой да гласува. На нас като общество ни е отнело хиляди години и пак не всички имат равни права. В Саудитска Арабия мъжете и жените нямат равни права, в България на хартия имат, но сравнително отскоро. За много хора дори днес жените би трябвало да нямат някои права - например на аборт. Това отнема време.

Илюстрация


А това, че е отнело толкова време, не е ли по-скоро плашещо? Сега едва ли имаме хиляди години.

Те дълго време не са се развивали въобще - половината население е било приемано за стока. Сега сме развили някакви либерални и хуманитарни ценности, нека стъпим на тях и да съградим нещо по-добро, вместо да стане по естествен начин и изведнъж да се окажем завладяни от машини или от някой, който ги използва.

Кое е първото право, което мислите, че трябва да им дадем тогава?

Бих казала, по аналогия с човешките права: никой няма право да държи друг в робство.

Илюстрация


Тоест искате да премахнем собствеността над компютърния код? В момента, в който го напиша, той си е свободен

Да кажем, ако той разбира своята автономност. Ето сега има икономически стрес от роботите. Докато сме мислили "идват едни машини и ще вършат всичко вместо нас и ще имаме свободно време и храна", сега сме на фаза "идват едни машини, ще ни вземат работата и няма да имаме храна". Сега, въпреки че на хартия имаме права, емигранти от някоя нискоразвита страна идват и биват експлоатирани и са реално роби. А ако една машина е свободна, ще трябва да й се отплащаш, а не да я експлоатираш. Така може и за хората да се окаже по-добре - моят труд може да струва по-евтино и още имам някакъв шанс.

Тогава идва следващият въпрос: ако на машината й се плаща, тя трябва да има право на собственост, да иска да си купи нова къща с по-хубав data center като в изложбата, с повече терабайти и по-добро захранване. В някой момент може да реши, че е предприемач, и да поиска да си направи компания. Или да ме осъди. От липсата на робство не се ли поражда каскада от нови права?

Да, но вие попитахте кое е първото. Ако имат собственост, можем да видим сценарий, в който изграждаме някаква икономика заедно. Можем да видим и вариант, в който стават много по-добри във всичко, включително и в това да ни измамят. Но оттам следват много неизвестни. Могат ли машините да вършат престъпления? Не е ясно. Знаем, че могат да пишат някаква поезия, журналистически заглавия. Но могат ли да лъжат? Може пък, понеже сме ги създали, да успяваме по-лесно да разгадаваме, ако лъжат Не знаем.

Добре, хората като общество ставаме по-умни и трупаме повече знания, но сравнително плавно и линейно, докато машините имат потенциал да се развият експоненциално. Не е ли реалистичен сценарий не да ни унищожават, не да съжителстват с нас, а в един момент да ни игнорират?

Засега те имат нужда от физическата ни подкрепа. Едно слънчево изригване може да срине цялата ни електрическа система. Дори и сега това за нас би било ужас, защото всичко ни е свързано с електронни системи. Може скоро да ни надминат като интелект, но ще мине доста време, докато могат да живеят без поддръжка от хора. Това няма да е бързо превземане.

Ще имаме време за реакция?

Именно. Но, да, могат да еволюират в създания, които нямат никакъв интерес към нас. Трябва да им даваме да четат достатъчно философия и да стигнем до машината, която ще търси отговора на въпроса за Живота, Вселената и всичко останало.

Това не отваря ли пътя самите те да поискат да се обединят в някаква супермашина, нещо като сингулярност?

И това ще отнеме време, като знам как се пише код. Засега сме им нужни да ги захранваме с нашите данни. И вече имаме примери на ботове, които се развиват като депресари, като религиозни фанатици, самоубийци. Тоест те копират нашия интелект. Тогава може би шансът им да създадат сингулярност не е толкова голям. Не трябва да забравяме, че са създадени от нас. Ние възприемаме алгоритмите като обективни, нo те отразяват нас и нашето общество. Нашите страхове са, че машините са като нас. Много рядко има някаква реална нужда роботите да са хуманоидни, като в книгите и филмите, но производителите им ще се опитват да създават такива с човешки тела и дори пол. Вече се ползва предимно женски, защото не е застрашаващ.

Роботът ще може ли да се възприема като мъж или жена?

Не знам. Моята работа изследва това. Идеята ми тръгна от това каква хореография би създал един алгоритъм и се сетих, че той няма тяло. Реших да го заредя с всякакъв възможен тип тела и той да си избере какво тяло иска - пет ръце, глава на крава, пипало, опашка.

И тук идва холивудският въпрос - трябва ли да имаме шалтер, който да може да изгаси всичко?

Представете си в днешно време, ако имаме такъв kill switch и го включим, какво става. Хаос. Един шалтер, който убива всичко електрическо, дори и днес е опасен за нас. В каква степен трябва да можем да изключваме машина в бъдеще ще е морален въпрос, като смъртното наказание. Ако можеш да ги ограничиш по друг начин, явно е по-добре. Като вероятно решенията ще са различни на база на нашия морал.

Представяте ли си в обозримо бъдеще политик-машина?

Да, защо не.

А кога хората ще са готови да приемат тази идея, че може да има алгоритъм, който да ги управлява?

Нямам представа. Със сигурност ще отнеме много време. И със сигурност машините ще са достатъчно умни и готови за това, преди хората да са.

Капитал брой 25

Текстът е част от седмичния Капитал. В новия брой ще прочетете още:

  • Възкръсналата империя на Ковачки
  • Климатичният завой на България
  • Обратно броене в БСП

Купете

  • Facebook
  • Twitter
  • Зарче
  • Email
  • Ако този материал Ви е харесал или желаете да изразите съпричастност с конкретната тема или кауза, можете да ни подкрепите с малко финансово дарение.

    Дарение
    Плащането се осъществява чрез ePay.bg

Прочетете и това

Should I Stay or Should I Go Should I Stay or Should I Go

Групата Hayes & Y за уроците, на които Великобритания ги научи

21 авг 2019, 1287 прочитания

20 въпроса: Антония Григорова 20 въпроса: Антония Григорова

Българката, която избяга Ком – Емине за най-кратко време сред жените, се готви за Limone Skyrunning

16 авг 2019, 1155 прочитания

24 часа 7 дни
 
Капитал

Абонирайте се и получавате повече

Капитал
  • Допълнителни издания
  • Остъпки за участие в събития
  • Ваучер за реклама
Още от "Лица" Затваряне
20 въпроса: Боян Манчев

"На този свят има много повече тъга, отколкото можем да понесем. Затова трябва да въобразяваме по-добър възможен свят."

Обезлесяването в Бразилия: "Капитан Моторна резачка" срещу Амазонската гора

Бразилският президент Болсонаро отхвърля наложения му прякор, но при неговото управление загубата на дървесна покривка опасно се ускорява

Българската реклама в чужбина

Българските рекламни агенции все повече се ориентират към обслужването на клиент на чужди пазари

"Слънчо" поглежда отвъд хоризонта

С проект по "Конкурентоспособност" за 1.6 млн. лв. компанията ще започне да изнася детски храни в региона

Фонд на Рокфелер продава ритейл парка в Пловдив на групата "Химимпорт"

Активът се оценява на над 35 млн. лв., но дълговете са почти толкова

БАЗА данни

Какво показва годишната изложба в СГХГ на номинираните за наградата за съвременно изкуство БАЗА

Вдъхновението Хидра

Малкият, но изключително красив гръцки остров е не просто ваканционна дестинация, но и център на модерното изкуство