Aktuality, Bezpečnosť, Vojenská technika,

Podarí sa ľudstvu udržať pod kontrolou nástup robotov zabijakov?

---

Francúzsko, 4.október 2020 (AM)  – Autonómne smrtiace zbraňové systémy? „Terminátor nebude pochodovať 14. júla na Champs-Élysées“ sľúbila Florence Parly 5. apríla 2019, keď predstavila stratégiu francúzskeho ministerstva ozbrojených síl v oblasti umelej inteligencie. Znamenalo to francúzske rozhodnutie nevyvíjať smrtiace autonómne zbraňové systémy (Systèmes d’Armes Létales Aautonomes – SALA).

 

Roboty na bojisku
Posilnenie zbraňových systémov v skutočnosti rastie vďaka pokroku v oblasti umelej inteligencie (AI) a robotiky, ktorú umožnila štvrtá priemyselná revolúcia. Aj keď dohody SALA ešte neexistujú, prototypy vyvíjajú mnohé štáty – predovšetkým Čína, Južná Kórea, USA, Izrael, Spojené kráľovstvo a Rusko a v nadchádzajúcom desaťročí by mali byť stále viac používané. Zbrane schopné určiť, či a kedy začať strieľať, by sa potom mohli objaviť na bojisku v meniacom sa a nepredvídateľnom prostredí bez toho, aby operátor musel každú akciu označovať a potvrdzovať útok na cieľ.

 

 

Aj keď zatiaľ ešte nie je možné, aby sa roboty riadili ich vlastnými zákonmi, ako by naznačovala etymológia gréckeho slova =αυτονόμος= (autonomos), objavuje sa niekoľko stupňov ich samostatnosti. Prvý stupeň udržuje človeka v rozhodovacej slučke, aby riadil systém.
Ľudia môžu byť tiež nad systémom, ktorý potom koná sám, ale pod dohľadom operátora človeka, ktorý môže kedykoľvek získať späť kontrolu nad robotom. A posledná, najvyššia úroveň autonómie, kde človek zostáva úplne mimo slučky, by znamenala, že by sa už viac kontrola nedala získať naspäť.

 

 

Rozvoj SALA vzbudzuje trvalý vojenský záujem až do takej miery, že sa niektorí domnievajú, že by mohol viesť k novej revolúcii v bojových technikách. Tieto systémy sľubujú, že budú rýchlejšie, vytrvalejšie a koordinovanejšie ako vojaci. Zatiaľ čo znižovanie veľkosti armád núti znižovať počet vojakov, tolerancia voči stratám ľudí slabne. Zrýchlený vývoj technológií umožňuje vývoj systémov, ktoré môžu dokonca nahradiť ľudí. Preto “vražedné roboty“ sa javia obzvlášť atraktívne pre ozbrojené sily.

 

Principiálna opozícia voči robotom zabijakom

Z tohto hľadiska by štáty vylučujúce možnosť vývoja autonómnych zbraní riskovali nielen technologické zaostanie, ale aj zníženie strategickej dôležitosti, ktoré by bolo veľmi ťažké napraviť. Francúzsko však od roku 2013 naznačilo, že nemá v úmysle takýmito technológiami disponovať, a tak berie vážne etické, právne, prevádzkové a technologické problémy, ktoré z toho vychádzajú.

 

Vznik autonómnych zbraní v skutočnosti vedie k živej diskusii, ktorú iniciovali desiatky mimovládnych organizácií a ktoré sa v roku 2012 spojili pod hlavičkou Kampane za zastavenie robotov zabijakov a požadovali vytvorenie dohody-zmluvy o zákaze takýchto zbraní.

 

Toto hnutie sa obáva, že dohody SALA nie sú schopné dodržiavať medzinárodné humanitárne právo. Najmä jeho zásady opatrnosti, rozlišovania a proporcionality, že sa ukážu ako nezlučiteľné s právom na život a rešpektovaním ľudskej dôstojnosti. Hnutie tiež vyzdvihuje, že ich použitie vedie k zníženiu hranice zodpovednosti za prípadné konflikty vyvolané týmito robotmi zabijakmi.

 

S vedomím týchto problémov Francúzsko začalo v novembri 2013 prvé multilaterálne diskusie o SALA v OSN a predsedalo prvému stretnutiu na tému o Dohode o určitých konvenčných zbraniach v máji 2014. Od roku 2016 sa zúčastňuje na všetkých stretnutiach skupiny vládnych expertov k danej problematike, ktorých cieľom je preskúmať a dohodnúť sa na možných odporúčaniach a možnostiach týkajúcich sa vznikajúcich technológií v oblasti SALA. V marci 2018 prezident Macron pre americký magazín Wired uviedol, že je kategoricky proti robotovi, ktorý má právo samovoľne spustiť streľbu.

V novembri 2018, počas prvého parížskeho mierového fóra, ktoré iniciovalo a podporilo Francúzsko, vyzval generálny tajomník OSN Antonio Guterres štáty, aby zakázali tieto politicky neprijateľné a morálne revoltujúce zbrane.

 

Nejasná pozícia

Na medzinárodných fórach pre túto otázku sa Francúzsko nebráni vypracovaniu zmluvy o preventívnom zákaze SALA. Ale v apríli 2019, v prejave citovanom na začiatku tohto článku, Florence Parly odmietla výzvy na ich zákaz, pričom ubezpečila, že Francúzsko odmietne zveriť rozhodnutie o živote, alebo smrti stroju, ktorý bude konať úplne autonómne, bez akejkoľvek ľudskej kontroly. V tom spočíva dvojstrannosť francúzskeho postoja, ktoré sa stavia proti možnému použitiu úplne autonómnych zbraní, ale súčasne sa nebráni ich vývoju.

 

Zdá sa, že Francúzsko, podobne ako Nemecko a Veľká Británia, chcú zaviesť kontrolu nad týmto segmentom. V skutočnosti sa domnieva, že na reguláciu dohody SALA je postačujúce vojnové právo. Avšak požaduje skôr vytvorenie =Kódexu správania= ako zákazovú zmluvu (viď film I robot).
Počas posledného stretnutia skupiny vládnych expertov na SALA v OSN francúzska delegácia pripomenula, že podpísanie právne záväznej dohody štátov zakazujúcej vývoj v oblasti umelej inteligencie a robotiky, by bolo kontraproduktívne aj pre samotné štáty. A Francúzsko sa veľmi spolieha vo svojich strategických plánoch práve na umelú inteligenciu v službách obrany.
Niekoľko iniciatív zo strany Francúzskych politikov na vnútornej scéne síce vyzýva na vytvorenie strediska na kontrolu nešírenia autonómnych zbraní, ale nikto nepredložil k tejto výzve relevantný projekt právne zaväzujúcej medzinárodnej zmluvy.

 

Smrť s ľudskou tvárou a Francúzske prvenstvo v tejto oblasti

Toto leto predložili poslanci Claude de Ganay a Fabien Gouttefarde Výboru pre národnú obranu a ozbrojené sily informačnú správu o SALA. Vyzývajú Francúzsko, aby podporilo prijatie záväzných medzinárodných predpisov a zároveň sa zasadzovalo o zvýšenie výskumu v oblasti autonómie systémov pri rešpektovaní hodnôt a právneho rámca v nadväznosti na rokovania v rámci OSN. V roku 2017 ďalej Francúzsko navrhlo spolu s Nemeckom právne nezáväzné politické vyhlásenie, ktoré potvrdzuje uplatniteľnosť vojnového práva na dohody SALA, potrebu zmysluplnej ľudskej kontroly a nemožnosť delegovať smrteľné rozhodnutie na systém. Ďalej pripomína, že od štátov sa vyžaduje, aby vo fáze návrhu zvážili zákonnosť nových zbraní, ktoré vyvíjajú, alebo nakupujú.

 

Rámec pre smrtiace autonómne zbrane bol na programe rokovania na verejnom zasadnutí Rady bezpečnosti OSN 27. mája 2020. Stály zástupca Francúzska Nicolas de Rivière uzavrel toto stretnutie pripomínajúc dôležitosť, ktorý predstavuje SALA, a víta pokrok, ktorý umožnili diskusie o určitých konvenčných zbraniach. Stretnutia skupiny vládnych expertov v skutočnosti viedli k prijatiu jedenástich zásad, ktoré by sa mali riadiť pri vývoji SALA.

 

 

Mary Wareham, koordinátorka Kampane za zastavenie vraždiacich robotov, sa na twitteri okamžite vyjadrila, že hoci tieto princípy môžu pomôcť pri lepšom kolektívnom porozumení týchto zbraní, iba nová medzinárodná zmluva môže chrániť civilistov pred hrozbou, ktorú predstavujú roboti zabijaci.

 

Bez zachádzania do detailov, nedávna správa Francúzskeho Senátu o budúcom bojovom vzdušnom systéme (SCAF) predstavuje umelú inteligenciu ako pilier tohto programu. Trvá však na etických a právnych otázkach, ktoré vznikajú pri vojenskom využívaní umelej inteligencie. Súčasne požaduje obnovenie medzinárodných diskusií o autonómii zbraňových systémoch s cieľom dosiahnuť jasný právny rámec v súlade s etikou a princípmi medzinárodného humanitárneho práva. Rovnako tak aj nedávna správa Národného zhromaždenia o SALA zdôrazňuje, že medzinárodný záväzok je na dosah a je na Francúzsku, aby bolo hnacou silou v tejto otázke.

 

 

 

 

 

Ide o hru medzi gigantami a preto nepríde ku žiadnej výrazne obmedzujúcej dohode. Ak k niečomu príde, možno sa to bude podobať dohodám o jadrových zbraniach ktorých jediný účel je udržať podradenosť štátov sveta, ktoré nemajú jadrovú zbraň. A zatiaľ platí, že štáty majúce jadrové zbrane sú nedotknuteľné.

 

Celosvetový obrat v oblasti autonómnych robotov je odhadnutý na 10,2 miliardy USD pre 2021. Vladimír Putin na túto tému povedal, že kto bude lídrom v umelej inteligencii, bude pánom sveta. Web Intercept priniesol dokumenty, ktoré hovoria o tom, že až 90% obetí útokov amerických dronov boli nevinní ľudia.

Adam Riečanský