Autonominiai ginklai ir dirbtinis intelektas mūšio lauke

Autonominiai ginklai ir dirbtinis intelektas (DI) per pastaruosius kelerius metus iš nišinės technologijos virto vienu svarbiausių šiuolaikinio karo veiksnių. Nuo dronų spiečių Ukrainos danguje iki DI sistemų, analizuojančių palydovinius vaizdus per sekundes – mūšio laukas keičiasi realiu laiku.

Šiame straipsnyje draugiškai, bet faktiškai paaiškinsiu, ką ši revoliucija reiškia kariuomenei, politikams ir eiliniams piliečiams, kokios rizikos kyla ir kokias ribas pasaulis bando nubrėžti autonominiams ginklams.

Kas yra autonominiai ginklai paprastais žodžiais?

Autonominis ginklas – tai sistema, kuri gali aptikti, pasirinkti ir atakuoti taikinį su labai maža žmogaus įsikišimo dalimi arba visai be jo. Esminis skirtumas nuo tradicinės ginkluotės – sprendimų priėmimo lygis, perduodamas algoritmams.

Paprastai skiriami trys lygiai:

Žmogus „kilpoje“ (human-in-the-loop) – DI padeda, bet galutinį sprendimą šaudyti priima žmogus.
Žmogus „ant kilpos“ (human-on-the-loop) – sistema veikia savarankiškai, žmogus tik prižiūri ir gali sustabdyti.
Žmogus „už kilpos“ (human-out-of-the-loop) – visi sprendimai paliekami ginklui, žmogus tik nustato bendras taisykles.

Būtent paskutinė kategorija kelia daugiausia etinių ir teisinių diskusijų – ar priimtina, kad mašina viena nuspręstų, kas gyvens, o kas mirs?

Kaip DI jau naudojamas mūšio lauke 2024–2025 m.?

DI karo lauke nėra teorija – tai jau kasdienybė. Nors valstybės vengia viešai atskleisti detales, keli aiškūs pavyzdžiai padeda suprasti kryptį.

1. Dronai ir dronų spiečiai

Dronai tapo naujuoju „karo darbo arkliu“. DI čia naudojamas:

Objektų atpažinimui – algoritmai išskiria tankus, artileriją, radarus iš vaizdo.
Maršrutų planavimui – dronai patys pasirenka saugiausią kelią, apeidami oro gynybą.
Spiečiaus koordinacijai – dešimtys ar šimtai dronų veikia kaip viena sistema, dalijasi informacija ir perskirsto užduotis.

Ukrainos ir Rusijos kare matome, kaip iš komercinių dronų, papildytų DI moduliais, gimsta „pigi, bet protinga“ ginkluotė. Tai signalas visoms šalims: autonomijos lygis didės net ir be milžiniškų biudžetų.

2. Žvalgyba ir duomenų analizė

Šiuolaikinis mūšio laukas generuoja milžiniškus duomenų kiekius: palydoviniai vaizdai, dronų vaizdo transliacijos, jutikliai, radaro informacija. Žmogus fiziškai nepajėgus visko peržiūrėti.

DI čia atlieka kelias svarbias funkcijas:

automatiškai aptinka įtartinus objektus nuotraukose ir vaizdo įrašuose;
prognozuoja priešo judėjimo modelius remdamasis ankstesniais veiksmais;
padeda parengti tikslinius smūgius, sujungdamas kelis duomenų šaltinius.

Praktikoje tai reiškia, kad tai, ką anksčiau analizuodavo analitikų komanda per kelias valandas, DI gali atlikti per kelias sekundes.

3. Autonominiai sausumos ir jūrų robotai

Be dronų, vis daugiau dėmesio skiriama autonominiams robotams ant žemės ir jūroje:

sausumos robotai, skirti minų paieškai, logistikai, žvalgybai;
beįgaliai laivai, galintys patruliuoti, ieškoti povandeninių laivų ar minų;
maži autonominiai robotai, judantys pastatuose ir renkantys informaciją.

Šios sistemos dar dažniausiai veikia su žmogaus priežiūra, tačiau technologijos juda link didesnio savarankiškumo.

Pagrindiniai privalumai kariuomenei

Kodėl valstybės taip aktyviai investuoja į autonominius ginklus ir DI?

Mažesnė rizika kariams – pavojingiausias užduotis (minų valymas, žvalgyba, puolimas įtvirtintose teritorijose) galima patikėti mašinoms.
Greitesni sprendimai – DI gali reaguoti milisekundėmis, o tai ypač svarbu oro gynyboje ir kibernetinėse atakose.
Didelis mastelis – šimtus pigių autonominių sistemų galima išnaudoti kaip „spietinę“ ginkluotę, perkraunančią priešo gynybą.
Mažesnė klaidų tikimybė tam tikrose užduotyse – algoritmai nepavargsta, jiems nebūdinga panika ar kerštas.
Ekonominis efektyvumas – ilgainiui dalį brangios technikos ir gyvosios jėgos gali pakeisti pigesni, bet protingi robotai.

Tačiau kartu su privalumais auga ir rizikos, kurios jau dabar kelia galvos skausmą tarptautinėms organizacijoms.

Didžiausios autonominių ginklų rizikos

1. „Juodosios dėžės“ efektas

Daugelis pažangių DI modelių veikia kaip juodoji dėžė – net kūrėjams sunku paaiškinti, kodėl sistema priėmė vieną ar kitą sprendimą. Mūšio lauke tai kelia kelis pavojus:

sunku priskirti atsakomybę – kas kaltas, jei įvykdomas neteisėtas smūgis?
sudėtinga ištaisyti sistemines klaidas, jei jų kilmė neaiški;
kyla rizika, kad DI sprendimai bus priimami remiantis šališkais duomenimis.

2. Eskalacijos greitis

Autonominės sistemos veikia milisekundžių greičiu. Jei abi pusės pasikliauja DI, gali atsirasti „automatinės eskalacijos spiralė“:

algoritmas klaidingai interpretuoja priešų veiksmą kaip ataką;
sistema automatiškai smogia atgal;
priešininkas atsako tuo pačiu – ir konfliktas per kelias sekundes peržengia raudonąsias linijas.

Žmogus fiziškai nespėja įsikišti, o klaidos kaina – tūkstančiai gyvybių.

3. Plitimas ir „pigių žudikų“ era

DI įrankiai, skirti atpažinti objektus ar planuoti maršrutus, tampa plačiai prieinami. Tai reiškia, kad autonominių ginklų kūrimas nebėra tik didžiųjų valstybių privilegija.

Rizikos:

teroristinės grupuotės gali kurti pigius, bet mirtinus dronus su paprastais DI moduliais;
valstybės, neturinčios branduolinio arsenalo, gali siekti „DI atgrasymo“ – grasinti autonominiais spiečiais;
atsiranda juodoji DI ginklų rinka, kur kontrolė praktiškai neįmanoma.

4. Žmoniškumo ir karo teisės iššūkiai

Tarptautinė humanitarinė teisė reikalauja skirti karius ir civilius, naudoti proporcingą jėgą ir vengti nereikalingų kančių. Autonominėms sistemoms tai – labai sudėtinga užduotis, ypač:

miestuose, kur civiliai ir kariai susimaišę;
kai priešas sąmoningai slepiasi tarp civilių;
kai informacija apie taikinį neišsami ar klaidinga.

Klausimas paprastas: ar mašina gali būti pakankamai „žmogiška“, kad laikytųsi karo taisyklių?

Tarptautinės diskusijos ir reguliavimas

Jungtinėse Tautose jau kelerius metus vyksta derybos dėl „mirtinų autonominių ginklų sistemų“ (LAWS) reguliavimo. Kol kas nėra visuotinio susitarimo, tačiau matomos kelios kryptys.

1. Siekis išlaikyti „reikšmingą žmogaus kontrolę“

Daugelis valstybių ir ekspertų siūlo taisyklę: žmogus turi išlikti galutinio sprendimo dėl mirtino smūgio priėmėju. Tai nereiškia rankinio valdymo kiekvienu atveju, bet:

žmogus nustato aiškias taisykles ir ribas;
turi galimybę sustabdyti sistemą;
atsako už pasekmes teisiškai.

2. Visiško uždraudimo idėjos

Dalis šalių ir NVO (pvz., „Stop Killer Robots“ koalicija) siekia visiško autonominių mirtinų ginklų draudimo, lyginant juos su cheminiais ar biologiniais ginklais. Argumentas – moralinis:

„Sprendimas atimti gyvybę niekada neturėtų būti paliktas algoritmui.“

Tačiau didžiosios karinės galios kol kas nenori tokio draudimo, matydamos DI kaip strateginį pranašumą.

3. Praktiniai žingsniai ir gaires

Net ir be visuotinio susitarimo, jau dabar rengiamos:

karinių DI naudojimo etikos gairės (pvz., NATO, JAV, ES dokumentai);
reikalavimai testavimui ir verifikavimui prieš panaudojant mūšyje;
principai dėl skaidrumo ir atskaitomybės.

Lietuvai ir kitoms regiono šalims svarbu aktyviai dalyvauti šiose diskusijose, nes DI ginklų plėtra tiesiogiai veikia ir mūsų saugumą.

Kaip šalys ruošiasi DI karo erai?

Daugelis NATO ir kitų regionų valstybių jau atnaujina savo gynybos strategijas, įtraukdamos DI ir autonomiją kaip atskirą prioritetą.

1. Investicijos į DI ekosistemą

Modernios kariuomenės supranta: autonominiai ginklai yra tik ledkalnio viršūnė. Po ja – visa ekosistema:

duomenų infrastruktūra ir saugus jų perdavimas;
kibernetinis saugumas, apsaugantis nuo DI sistemų perėmimo;
moksliniai tyrimai ir bendradarbiavimas su universitetais bei startuoliais.

2. Kario ir DI tandemas

Ateities kareivis – tai ne tik gerai aprūpintas žmogus, bet ir „karys su DI pagalbininku“. Praktiniai pavyzdžiai:

šalmas ar akiniai, rodantys realiojo laiko informaciją apie aplinką;
asmeninis DI asistentas, padedantis orientuotis, perspėjantis apie grėsmes;
automatiniai vertėjai, padedantys bendradarbiauti su sąjungininkais.

Toks tandemas gali padidinti kario efektyvumą ir išgyvenamumą, tačiau kelia ir naujų priklausomybės nuo technologijų rizikų.

3. Teisinis ir etinis pasirengimas

Valstybės, kurios rimtai žiūri į DI ginklų erą, kuria:

vidines etikos komisijas gynybos sektoriuje;
aiškias taisykles, kada DI gali priimti sprendimus, o kada – ne;
mechanizmus, kaip tirti incidentus, susijusius su autonominėmis sistemomis.

Ką tai reiškia paprastam piliečiui?

Autonominiai ginklai ir DI mūšio lauke – ne tik kariškių reikalas. Ilgainiui tai paveiks ir kasdienį gyvenimą:

mokesčius ir biudžetą – dalis lėšų bus nukreipta į DI gynybos inovacijas;
privatumo ribas – žvalgybos technologijos gali persikelti ir į vidaus saugumo sritį;
politinius sprendimus – visuomenė turės apsispręsti, kokias DI karo ribas laiko priimtinomis.

Vis svarbesnis tampa skaidrumas: piliečiai turi teisę žinoti, kokius DI ginklus kuria jų valstybė ir kokių etinių standartų laikosi.

Ateities scenarijai: nuo atgrasymo iki „protingo taikos palaikymo“

DI karo technologijų ateitis nėra vien tik distopija. Yra ir potencialiai teigiamų scenarijų.

1. DI kaip atgrasymo priemonė

Kaip branduoliniai ginklai XX a., taip autonominiai ginklai gali tapti atgrasymo priemone – žinojimas, kad priešas turi tūkstančius pigių, bet tikslių autonominių sistemų, gali sulaikyti nuo puolimo.

2. „Protingesnis“ taikinių parinkimas

Jei DI tinkamai suprojektuotas ir testuotas, jis teoriškai gali:

tiksliau atskirti karinius ir civilius objektus;
rinktis mažiau žalingus smūgio variantus;
padėti išvengti klaidingų atakų, kurios dažnai kyla dėl žmogiško faktoriaus.

Tačiau tai įmanoma tik tada, jei valstybės investuoja ne tik į ginklų kūrimą, bet ir į etiką, testavimą ir kontrolę.

3. DI taikos palaikymo misijose

Ateityje autonominės sistemos gali būti naudojamos ir taikos palaikymui:

neutraliose stebėjimo misijose prie demarkacinių linijų;
minų paieškai ir neutralizavimui po karo;
humanitarinių koridorių saugumui užtikrinti.

Tai sritys, kur DI gali tiesiogiai gelbėti gyvybes ir mažinti karo palikto chaoso mastą.

Išvados: ar galime sustabdyti DI karo revoliuciją?

Autonominiai ginklai ir dirbtinis intelektas mūšio lauke – tai ne ateities vizija, o dabartis. Sustabdyti šios technologijos plėtros tikriausiai neįmanoma, tačiau ją galima valdyti:

reikalaujant reikšmingos žmogaus kontrolės sprendžiant dėl mirtinų smūgių;
kuriant tarptautines taisykles ir standartus DI ginklams;
užtikrinant skaidrumą ir visuomenės įtraukimą į sprendimų priėmimą;
investuojant ne tik į ginklus, bet ir į gynybos etiką, testavimą ir saugumą.

Klausimas, kurį turime sau užduoti šiandien: ne ar DI taps karo dalimi, o kokias ribas jam nubrėšime. Nuo šio atsakymo priklausys, ar autonominės sistemos taps dar vienu nekontroliuojamu ginklu, ar įrankiu, padedančiu mažinti karo žiaurumą.

DUK: autonominiai ginklai ir DI mūšio lauke

Kuo autonominiai ginklai skiriasi nuo paprastų dronų?

Paprasti dronai dažniausiai valdomi nuotoliniu būdu žmogaus, o autonominiai ginklai geba patys aptikti, pasirinkti ir atakuoti taikinius pagal iš anksto nustatytas taisykles. Žmogaus įsikišimas gali būti minimalus arba visai nereikalingas, ypač trumpalaikėse, greitose situacijose.

Ar tarptautinė teisė leidžia naudoti autonominius ginklus?

Šiuo metu nėra atskiro visuotinio draudimo autonominiams ginklams, tačiau jie privalo laikytis bendrų tarptautinės humanitarinės teisės principų: skirti civilius ir karius, naudoti proporcingą jėgą, vengti nereikalingų kančių. JT ir kitos organizacijos vis dar derasi dėl papildomų taisyklių ir apribojimų.

Ar įmanoma visiškai uždrausti „žudikus robotus“?

Teoriškai – taip, pasirašius tarptautinę konvenciją, panašią į cheminių ginklų draudimą. Praktiškai – sudėtinga, nes daugelis valstybių jau investavo į šias technologijas ir mato jas kaip strateginį pranašumą. Net jei būtų priimtas draudimas, iššūkiu taptų jo kontrolė ir nevalstybiniai veikėjai, galintys kurti pigius, bet pavojingus autonominius ginklus.