Kako spriječiti da buduće ratove vode roboti, a stradaju ljudi

07.06.2021. | 22:36

Apokaliptična vizija nije daleko od stvarnosti – za račun svjetskih sila ratuju roboti, vođeni algoritmima i vještačkom inteligencijom, a stradaju ljudi. Da li to može da se preduprijedi? O tome govori novi dokumentarac Dojče velea.

Trka za oružjem koje koristi vještačku inteligenciju u punom je jeku. „Mi smo usred toga. To je realnost sa kojom moramo da izađemo na kraj“, upozorio je njemački šef diplomatije Hajko Mas u razgovoru za novi dokumentarac Dojče velea, Budući ratovi – i kako ih spriječiti.

Svjetske velesile ubijeđene su da pobjeda u ovoj trci donosi veliku moć. „Trka se vodi kroz vojna i civilna polja“, kaže nam Anamdip Sing Gil koji je nekada vodio grupu stručnjaka UN za autonomna oružja. „Ovo je pitanje teško milijarde dolara“, kaže on.

Posljednji izvještaj američke Komisije za nacionalnu bezbjednost o vještačkoj inteligenciji govori o „novoj paradigmi ratovanja“ u kojoj se „algoritmi bore protiv algoritama“. Zahtijevaju se „masne” investicije u ovo polje kako bi se „kontinuirano u inovacijama pobjeđivali potencijalni protivnici“.

Kina stavlja vještačku inteligenciju u centar svojih istraživanja, dok tamošnja Narodna armija govori o budućem „inteligentnom ratovanju“. Ruski predsjednik Vladimir Putin je još 2017. rekao da će onaj ko postane lider u ovoj oblasti ujedno postati „gospodar svijeta“.

Pouke sa Kavkaza

Krajem prošle godine je Kavkaz bio velika laboratorija ovog ratovanja budućnosti. Sve je izgledalo kao i raniji teški sukobi Jermenije i Azerbejdžana oko Nagorno-Karabaha, ali stručnjaci su vidjeli novine. „Veoma važan aspekat tog sukoba je bila upotreba vrebajućeg oružja“, kaže Ulrike Franke, ekspert za bespilotne letjelice u Evropskom savjetu za međunarodne odnose.

Izraz ‘vrebajuće oružje’ (slobodni prevod od Loitering Weapon ili Loitering Munition) koristi se za projektile koji uzlijeću bez posebnog cilja i kruže iznad potencijalnih meta. Cilj se odabira tek kasnije. „Na Nagorno-Karabahu su korišćeni takvi dronovi-kamikaze – to su prilično autonomni sistemi“, kaže Frankeova.

Prema Centru za strateške i međunarodne studije, Azerbejdžan je imao oko dvije stotine ovakvih dronova, i to četiri različita modela, svi najmodernije izraelske proizvodnje. Jermenija je imala samo jedan domaći model.

Drugim armijama širom svijeta nije promaklo da ovakva prednost može da odluči rat. „Od tog konflikta vidimo određeni rast interesa za vrebajućim oružjem“, dodaje Franke. „Vidimo sve više vojski širom svijeta koje nabavljaju ili planiraju da nabave vrebajuću municiju“.

To je tek početak. Vještačka inteligencija će uskoro omogućavati jata dronova – mnogo njih koji lete zajedno, i strateški pogađaju više ciljeva.

„Mogli bi da naciljaju recimo sistem protivvazdušne odbrane“, kaže nam Martin Raser iz Centra za novu američku bezbjednost u Vašingtonu. „Napadneš ga tolikom masom da je sistem preopterećen. To, naravno, donosi ogromnu taktičku prednost na bojištu“.

Brojnost dronova i brzina kojom se sve dešava naprosto izmiču ljudskoj kontroli. Sve se prepušta softveru i vještačkoj inteligenciji. Kako kaže Ulrike Franke, to će tjerati armije da prilagode protivvazduhoplovnu odbranu jer „ljudska bića neće biti u stanju da se toliko brzo nose sa autonomnim napadima“.

U apokaliptičnoj verziji, koja nije toliko daleko, imali bismo autonomna oružja koja reaguju jedna na druga i ulaze u spiralu eskalacije. „U literaturi to nazivamo fleš ratovima. To su slučajni vojni sukobi koje ljudi nisu namjeravali da izazovu“, kaže Franke, prenosi RTS.

Sporazum se ne nazire

Boni Doherti želi da spriječi takvu budućnost. Ona predaje na pravnoj školi Harvarda i predvodi kampanju „Stop robotima ubicama“, udruženje nevladinih organizacija koje traže zabranu autonomnih smrtonosnih oružja.

„Obaveza koja bi proizišla iz takvog dogovora je da se održi smislena ljudska kontrola nad upotrebom sile“, kaže Doherti za Dojče vele. „Sporazum bi se ticao svih oružja koja djelaju autonomno, to jest biraju mete i otvaraju vatru na osnovu podataka koje prikupe senzori, umjesto na osnovu ljudske komande.“

Kampanja se fokusira na razgovore u Ženevi pod kišobranom Konvencije UN. Ali, to je spor proces iz kojeg je za sada proizišao niz „principa“, recimo da autonomna oružja podliježu krivičnom prvu i da su na kraju ljudi odgovorni za njihovu upotrebu. Razgovori se nastavljaju ove godine.

Doherti misli da to neće bogzna šta donijeti, jer velike sile nemaju interes da potpišu zabranu ovakvog oružja. „Rusija se posebno snažno opire. Ali sporazum ne podržavaju ni druge zemlje koje razvijaju autonomno naoružanje, poput Izraela, SAD i Velike Britanije“.

Njemačka podržava ideju da se ovakva oružja zabrane, ali ne podržava kampanju „Stop robotima ubicama“. „Ne odbijamo tu kampanju u njenoj suštini – samo tražimo da drugi budu uključeni“, kaže njemački ministar spoljnih dijela Mas. „Vojne sile koje su tehnološki u mogućnosti ne samo da razviju, već i da upotrijebe autonomno oružje.“

Mas je saglasan da sporazum treba da bude krajnji cilj. „Baš kao što smo uspjeli sa nuklearnim oružjem tokom mnogih decenija, i sada moramo da skujemo međunarodne sporazume o novim tehnologijama oružja“, navodi on. „Tu mora jasno da piše da smo saglasni kako nije prihvatljivo sve što je tehnički moguće.“

Ali za sada nema konsenzusa. Ulrike Franke nije optimista. Kaže, najviše čemu se može nadati su neka pravila kako se nove smrtonosne tehnologije koriste. „Recimo, dogovor da se neki kapaciteti koriste samo u odbrambene svrhe ili samo protiv mašina, a ne ljudi“, dodaje ona.

U međuvremenu, uz relativno malo pažnje javnosti, razorna oružja budućnosti napreduju. „Svijet mora da se zanima za činjenicu da idemo ka situaciji u kojoj će svako moći da radi šta mu je volja sa sajber ili autonomnim oružjem“, upozorava Mas. „To ne želimo.“