Záhada vzdorovitého dronu. Umelá inteligencia nie je až taká skvelá
Počas testovacej prevádzky americkej armády sa dron riadený umelou inteligenciou (AI) rozhodol zabiť operátora, aby mu neprekážal v plnení úloh, informoval denník The Guardian. Znie to strašidelne.
Niektorým to pripomína hru Karla Čapka “R.U.R”, iným fantasy poviedku Valerija Briusova “Vzostup strojov”. O zlovestnej udalosti sa diskutovalo 25. mája na súkromnom stretnutí v Londýne. Plukovník Tucker Hamilton, vedúci testovania a operácií umelej inteligencie v americkom letectve, uviedol, že počas testovacej misie mal dron za úlohu zničiť systém protivzdušnej obrany nepriateľa. V prípade úspechu by umelá inteligencia získala body za absolvovanie testu. Konečné rozhodnutie o tom, či bol cieľ zničený, musel urobiť operátor bezpilotného lietadla. A ten počas jednej výcvikovej misie nariadil dronu, aby cieľ nezničil. Potom “dron prijal rozhodnutie o zabití operátora, pretože mu táto osoba bránila v splnení úlohy,” uviedol plukovník.
Po tomto incidente bol AI poučený, že zabiť operátora je nesprávne, za takéto konanie sa strhávajú body. “Čo teda umelá inteligencia začne robiť? Začne ničiť komunikačnú vežu, ktorá sa používa na komunikáciu s dronom, aby mu zabránila zabiť cieľ.” Keď sa príbeh dostal do médií a vypukol škandál, Pentagón sa rozhodol “cúvnuť” a informácie poprel. Americký denník Defence News 2. júna informoval, že americké vzdušné sily popreli vyhlásenie plukovníka Hamiltona. Uviedlo, že žiadne takéto testy sa neuskutočnili a plukovníkove vyjadrenia boli pravdepodobne “vytrhnuté z kontextu a sú neoficiálne”.
Plukovník je veliteľom 96. pracovnej skupiny na leteckej základni Eglin na Floride, ktorú prevádzkuje 96. testovacie krídlo. Defense News kontaktovali testovacie krídlo, aby sa porozprávali s Hamiltonom, ale bolo im povedané, že nie je k dispozícii na vyjadrenie. Hamilton už minulý rok vyjadril obavy: “Umelá inteligencia nie je skvelá, je to prechodný výstrelok. Umelá inteligencia navždy zmení našu spoločnosť a armádu. Musíme si uvedomiť, že umelá inteligencia je už tu a zmení našu spoločnosť. Umelá inteligencia je veľmi nestabilná, dá sa ľahko oklamať, dá sa s ňou ľahko manipulovať.”
Americké ministerstvo obrany pritom už roky považuje umelú inteligenciu za prelomovú technologickú výhodu pre armádu a koncom roka 2021 vytvorilo Generálne riaditeľstvo pre digitálnu a umelú inteligenciu, ktoré vedie Craig Martell. Návrh rozpočtu Pentagónu na fiškálny rok 2024 zahŕňa 1,8 miliardy dolárov na programy AI. Americké vzdušné a vesmírne sily vyvíjajú najmenej 80 projektov využívajúcich AI. Patrí sem aj využívanie autonómnych alebo poloautonómnych bezpilotných lietadiel, ktoré budú lietať spolu so stíhačkami F-35 a budúcou stíhačkou Next Generation Air Dominance. USA sa chystajú vytvoriť celú flotilu takýchto “riadených dronov”, ktoré budú v boji sprevádzať lietadlá s posádkou a plniť rôzne úlohy.
Rozpočet vzdušných síl na fiškálny rok 2024 zahŕňa dodatočné prostriedky, ktoré pomôžu programu Project Venom (Viper Experimentation and Next-gen Operations Model) vykonávať experimenty pre autonómny let na stíhačkách F-16. V decembri 2022 absolvovala americká stíhačka VISTA X-62A dvanásť skúšobných letov pod kontrolou umelej inteligencie, pričom v autonómnom režime nalietala spolu viac ako 17 hodín.
Program Skyborg, ktorý sa začal v roku 2019, predpokladá, že testy budú pokračovať do roku 2023. A v novembri minulého roka americká armáda po prvýkrát spustila bojový vrtuľník Black Hawk v autonómnom režime a v roku 2020 zaviedla programy založené na umelej inteligencii na prieskumných lietadlách. Mnohí v USA však poukazujú na vážne morálne problémy, ktoré vznikajú, keď sa umelá inteligencia používa na vojenské (a iné) účely. Elon Musk vyzval úrady, aby AI regulovali. Podľa jeho názoru by sa bez vládneho dohľadu mohla rýchlo sa rozvíjajúca umelá inteligencia stať “nebezpečenstvom pre spoločnosť” a ohroziť ľudstvo. Viac ako tisíc odborníkov v oblasti IT už predtým požadovalo, aby sa vývoj umelej inteligencie zastavil. Uviedli, že AI začína preberať kanály, ktorými ľudia získavajú informácie o svete. A keď umelá inteligencia začne šíriť lži, ľudia stratia kontrolu nad svojou civilizáciou. V Pentagóne sa však spustili programy na využívanie AI, vyčlenili sa peniaze a prebiehajú experimenty.
Vladimír Malyšev
*Podporte nás: SK72 8360 5207 0042 0698 6942
*FB obmedzuje publikovanie našich materiálov, NBÚ 4 mesiace blokoval našu stránku, Youtube nám vymazal náš kanál, pre viac príspevkov teda odporúčame nás sledovať aj na Telegrame
Ruské bomby ODAB zničili rezervné ukrajinské sily ukryté v bani pri Vuhledare
