Сун Дзъ и изкуството да се биеш с роботи

Автономните оръжейни системи чукат на вратата и скоро ще доведат до трета революция във воденето на война

"Когато постъпвах във Военновъздушните сили, не съм вярвал, че някога ще кажа нещо подобно." С тези думи началникът на тренировъчното авиационно командване на САЩ ген. Дарил Робъртсън направи едно знаково, шокиращо, но също така и очаквано признание в началото на март тази година.

За пръв път в историята на щатските ВВС най-многочисленият вид пилоти няма да са онези, които управляват свръхзвуков изтребител, ударен хеликоптер или транспортен самолет. Новото поколение бойци, на което щатската авиация ще разчита най-много, ще стиска джойстика на дистанционно управляван Predator или Reaper, нанасяйки ракетни удари по цели на хиляди километри разстояние. През тази година американската армия за пръв път е приела за обучение над 1000 оператори на дронове и само 803-ма пилоти на F-16, уточнява ген. Робъртсън. И според него това няма да е просто изключение от правилото.

Догодина Пентагонът планира да наеме още повече хора за управление на безпилотниците, тъй като 2018 г. е последната от жизнения цикъл на старите дронове MQ-1 Predator и ВВС ще преминат изцяло към по-модерните и тежко въоръжени MQ-9 Reaper. Планираната цел е през "Top Gun академията" всяка година да преминават по 1400 оператори. Които вероятно ще имат повече общо с хардкор геймърите, отколкото с наследниците на барон Манфред фон Рихтхофен, рискуващи живота си в самолетния кокпит.

Все по-самостоятелни

През последните няколко години използването на безпилотни летателни апарати тотално промени естеството на войната – най-малкото поради факта, че командващите ги оператори се намират на безопасна дистанция от бойното поле и могат да действат без риск за живота си. Според някои това е намалило жертвите, според други е довело до по-безотговорни и агресивни действия от страна на операторите, които не са пряко заплашени за разлика от истинските пилоти.

В момента обаче скоростна еволюция вече се случва и със самите дронове, които се трансформират от дистанционно управлявани устройства във все по-самостоятелни бойни платформи, където ролята на човешкия фактор става все по-малка. Основен двигател на тази промяна е софтуерната индустрия и в частност напредъка на технологиите в сферата на изкуствения интелект (AI). Тук обаче достигаме до фундаменталния проблем: кой взима решението за използването на сила и приемливо ли е машина да преценява дали някой трябва да живее или да умре.

Всичко това може да ви звучи като научна фантастика или сцена от някоя от сериите на "Терминатор", но всъщност вече е научна реалност. Просто помислете колко от големите автомобилни компании в момента разработват или вече имат свои коли с автопилот. А сега си представете, че подобна, но много по-скъпа и съвършена софтуерна технология е инсталирана в бронирана машина, танк, самолет, вертолет или кораб. "Във всяка част на бойното поле – на сушата, във въздуха или на и под водата – военните по целия свят в момента демонстрират прототипи на автономни оръжия", коментира проф. Тоби Уолш, изследовател в сферата на изкуствения интелект в Университета на Нови Южен Уелс, цитиран от BBC. И добавя: "Технологии като дълбинното машинно обучение (deep learning) движат тази революция. Технологичният сектор определено я води, но военните бързо го догонват."

Прототипите

Конкретните примери в тази посока вече не са никак малко. Щатската военна изследователска агенция DARPA например експериментира с иновативен софтуер за изкуствен интелект, инсталиран на разузнавателен дрон, който е способен да различава цивилни граждани и въоръжени бунтовници. Американският флот вече разполага с прототип на автономен кораб на име Sea Hunter, който може да оперира в открито море за дълъг период от време, без да има нито един човек на борда. Британската компания BAE Systems пък разработва стелт безпилотен самолет на име Taranis, способен да извършва междуконтинентални бойни мисии, който, за да бъде максимално невидим, в определени етапи от полета си ще действа при пълна автономност. Южнокорейската компания Samsung, по-известна със своите смартфони, от своя страна е конструирала за армията на Сеул стационарни автономни оръдия на име SGR-A1. Те са инсталирани по протежението на демилитаризираната зона със Северна Корея и са готови да отразяват евентуална инвазия, дори ако всички войници вече са избити.

Русия, разбира се, също не изостава от набиращата скорост роботизирана милитаризация. За нейният широко рекламиран нов танк T-14 "Армата" също се твърди, че ще съдържа елементи на автономност – такова например ще е управлението на купола и оръжейните системи, инсталирани на него. Легендарният производител на автомати "Калашников" също се включва в играта и твърди, че е разработил бойна платформа с картечница, камера и компютър, която може да прави преценка за подбора на целите без каквато и да било човешка намеса. А системата "Уран-9" представлява наземна автономна бойна машина, която носи на борда си картечница и 30-милиметрово оръдие и може да се командва дистанционно от разстояние до 10 км.

Както изглежда, всичко това е съвсем целенасочено усилие от страна на Москва. "Изкуственият интелект е бъдещето не само за Русия, но за цялото човечество. Той върви ръка за ръка с колосални възможности, но и със заплахи, които трудно могат да се предскажат. Който стане лидер в тази сфера, ще владее света", коментира руският президент Владимир Путин през септември по време на видеообръщение към ученици от над 16 хил. руски училища в рамките на 45-минутен дистанционен открит урок. "Ако станем лидер в тази сфера, ще споделим това ноу-хау с целия свят по същия начин, както споделяме ядрените си технологии днес", продължава обитателят на Кремъл.

Страховете

Така че проблемът с автономните оръжейни системи не е хипотетичен, а съвсем реален. Още преди две години, през лятото на 2015 г., над 1000 учени, изследователи в сферата на роботиката и технологични предприемачи, отправиха апел до Обединените нации (ООН). Според тях използването на изкуствения интелект за военни цели е много лоша идея и ще доведе до надпревара във въоръжаването. Те смятат, че създаването на т.нар. роботи убийци трябва да бъде строго регулирано в конвенцията на ООН за обикновените оръжия или направо забранено.

Сред инициаторите на петицията са основателя на Tesla и SpaceX Илън Мъск, легендарния физик Стивън Хокинг и съоснователя на Apple Стив Возняк. "Автономните оръжейни системи ще доведат до трета революция във воденето на война след откриването на барута и ядрените оръжия", предупреждават учените, подписали петицията. И добавят: "Ключовият въпрос за човечеството днес е дали да започне глобална надпревара във въоръжаването, движена от изкуствения интелект, или да я спре. Ако големите военни сили продължат натиска в тази посока, надпреварата е неизбежна и краят на траекторията, по която се движи, е очевиден: автономните оръжия ще станат калашника на бъдещето."

Две години по-късно апелът на технологичната общност предизвиква реакция, макар че крайният резултат може да не е точно очакваният. В средата на ноември ООН наистина свика в Женева заседание на работна група, посветена на смъртоносните автономни оръжейни системи (LAWS), в която участват представители на 86 страни. До момента обаче само 22 от държавите - членки на ООН, са заявили отчетливо желание за налагане на подобна забрана.

Според участници в срещата, въпреки че повечето страни са изявили желание за въвеждане на правно обвързващи процедури, гарантиращи някаква форма на човешки контрол над подобни роботизирани платформи, по време на разговорите е властвало усещане за взаимно недоверие. Дори не е било постигнато съгласие какво точно е "автономна оръжейна система", въпреки че представителите на Холандия са предложили вариант. Няколко влиятелни държави начело със САЩ и Русия директно са споделили, че е твърде рано да са договаря контрол над въоръжения, които още не съществуват.

Или както не особено дипломатично обобщава Амандийп Гил, посланик на Индия по въпросите на разоръжаването, който координира разговорите: "ООН ще организира дебати по въпросите на използването на автономните оръжия. Но онези, които се надяват да има забрана на машините, наричани фриволно от някои роботи убийци, ще бъдат разочаровани."