Nástup robotů zabijáků. K omezení, či dokonce zákazu se mnoho států nemá

Rok 2029 a Země je v troskách, zničená jadernou válkou. Miliardy lidí uhořely nebo zemřely na následky radioaktivního záření. Příčina jaderné katastrofy? Lidstvo přenechalo kontrolu nad jadernými raketovými sily inteligentním počítačovým systémům.

V takto ponurých kulisách začíná film Terminátor v hlavní roli s Arnoldem Schwarzeneggerem z roku 1984. V něm si „obranné“ systémy nakonec samy uvědomily, že nejlepší bude vyhladit lidstvo, aby se stroje osvobodily. Automatizovaní roboti proto následně loví poslední přeživší lidi. Pojďme ale od filmu k realitě.

VIDEO: Trailer k filmu Terminátor (1984)

Zdroj: YouTube.com

I když současné technologie ještě nejsou tak daleko, aby autonomní roboti chodili po ulicích, řídili motocykly nebo auta a stříleli lidi na potkání, umělá inteligence stále více proniká i do zbrojního průmyslu.

Vývoj jde rychle dopředu, takže například chytré systémy již umožňují raketám Tomahawk zasáhnout cíl s přesností několika metrů na vzdálenost 1 600 kilometrů.

Autonomní drony

Armády po celém světě stále více do své výzbroje integrují zbraně s prvky umělé inteligence.

Daleko v začleňování inteligentního arzenálu je hlavně americká armáda. Ta například loni otestovala mikrodrony Perdix.

Tyto stroje po vypuštění z letadla vytvořily uspořádaný roj a odletěly na předem naprogramovanou trasu bez dalšího zásahu člověka. Nakonec obklíčily nepřátelské vozidlo. Jejich primárním úkolem je však především zmást nepřátelské radary a obranu nepřítele.

VIDEO: Testování dronů Perdix

Zdroj: YouTube.com

Jak regulovat autonomní systémy

V současné době se diskutuje o tom, jak inteligentní autonomní zbraňové systémy na mezinárodní úrovni regulovat. V srpnu se má na toto téma konat konference Organizace spojených národů v Ženevě.

„Nevidíme závod ve zbrojení v tom smyslu, že by dva státy navzájem symetricky modernizovaly své systémy. Ale existuje mnoho států, které se o autonomní zbraně a nové technologie zajímají, protože sledují, co dělají ostatní,“ varoval Marcel Dickow z berlínské organizace Stiftung Wissenschaft und Politik.

Dickow je autorem studie využívání robotiky ve vojenské a bezpečnostní politice. Umělá inteligence může podle něj změnit dosavadní geopolitické rozložení sil. Sám prosazuje zákaz takových zbraní na mezinárodní úrovni.

Jeden z důstojníků německé armády varoval před nastupujícím trendem, kdy sériová výroba autonomních zbraní sníží jejich cenu, a tak se zvýší i jejich dostupnost. Navíc veškeré nové technologie, které se využívají pro civilní účely, zástupci armád na celém světě pozorně sledují s tím, jak by se mohly uplatnit v případě konfliktu.

Autonomní, nebo automatické?

Německé ministerstvo obrany rozlišuje autonomní a automatizované systémy, uvedl k využívání umělé inteligence německý deník Frankfurter Allgemeine Zeitung.

Automatizované systémy mají být předem dané postupy a jsou regulovány lidmi. Aktivovat je musí příslušný voják v případě hrozby. Zároveň je lze kdykoliv vypnout.

Oproti tomu autonomní systémy už pracují nezávisle na kontrole člověka, pokud jsou aktivovány. Takové systémy podle německého ministerstva obrany ještě ve výzbroji armád dostupné nejsou.

 Izrael je napřed

To rozporuje Frank Sauer z univerzity Bundeswehru v Mnichově. Poukazuje na systém protivzdušné obrany izraelské armády Harpy.

Bezpilotní letoun naložený výbušninou může letět přes nepřátelské území. V případě, že zachytí nepřátelské radarové vlny, vrhne se na nepřítele a zneškodní jej. Samotný výrobce Israel Aerospace Industries produkt inzeruje jako autonomní zbraňový systém.

A zájem o něj ze strany dalších zemí rozhodně je. Izraelci ho již prodali do Jižní Koreje, Turecka, Indie a Číny. Právě obchod s posledně jmenovanou zemí na konci devadesátých let minulého století vyvolal kritiku Spojených států, které se obávají, že by tento systém mohli Číňané použít proti americkým silám. Od té doby vyvinuli Izraleci již nové generace tohoto systému.

VIDEO: Jak funguje systém bezpilotních letounů IAI Harpy

Zdroj: YouTube.com

Porušení mezinárodního práva?

Nicméně podobné systémy i technologie, které naznačují, kudy by se mohl vývoj chytrých zbraní ubírat, jsou předmětem debat.

Navíc použití zbraní, které není možné zpětně kontrolovat, vyvolává problémy etického rázu i z hlediska mezinárodního práva a Ženevských konvencí z roku 1949. Může jít o porušení základních pilířů těchto úmluv.

Například se počítá se zásadou rozlišovat mezi vojáky a civilisty, kteří se bojů neúčastní, nebo o zásadu obezřetnosti a proporcionality.

Obavy z porušování mezinárodních úmluv vzbuzují i autonomní bojoví roboti, které používá Jižní Korea na hranici s komunistickým režimem svého severního souseda. Zařízení SGR-A1 od společnosti Samsung má kameru i zařízení pro noční vidění. Cíl může zasáhnout na vzdálenost čtyř kilometrů.

Autonomní zbraň SGR-A1 od společnosti Samsung dokáže střílet zcela autonomně. Jihokorejci je instalovali na hranici s KLDR. Zdroj: Wikipedia.org

Je ovládáno na dálku, ale střelba může probíhat na autonomní bázi. Teoreticky se nabízí otázky, jak má robot identifikovat například nepřátelského vojáka, který sice má zbraň i uniformu, ale chce se vzdát?

Vojáci: Technicky to není problém

Vojenští experti tvrdí, že všechny tyto námitky mohou být technicky vyřešeny. Autonomní systémy mohou také snížit lidské ztráty během konfliktů, tvrdí například Ronald Arkin z amerického technologického institutu v Georgii.

Naopak před používáním robotů v armádě varoval zesnulý astrofyzik Stephen Hawking nebo šéf firmy Tesla Elon Musk. Podnikatel hovořil o možnosti rozpoutání třetí světové války, pokud se umělá inteligence nebude ve vojenské oblasti regulovat.

Připomíná se i výrok ruského prezidenta Vladimira Putina, který prohlásil, že kdo ovládne oblast umělé inteligence, ovládne svět. Čína již oznámila plán, že do roku 2030 chce být jedničkou na světě ve vývoji umělé inteligence.

Spojené státy, Rusko i Čína vyčkávají

Pro úplný zákaz autonomních robotů ve vojenství se do konce roku 2017 vyslovilo 22 států, nicméně nejdůležitější hráči na geopolitické scéně nikoliv.

Spojené státy nechtějí, aby byla tato oblast regulována. Stejně to vidí i Izrael, který dosáhl značných pokroků ve vývoji autonomních zbraní. Ani Rusko nebo Čína se pro zákaz zatím nevyslovily.

Podle odborníků se hraje o čas, každá země, která na vývoji „robotů zabijáků“ pracuje, chce před případným zákazem získat technologickou výhodu. Čím více vývoj takových systémů pokročí, tím složitější bude prosadit regulaci, varuje Dickow.

Regulace funguje

Z nedávné historie jsou přitom známé úspěšné regulace některých druhů zbraní. Například biologických, chemických a také jaderných. I když dohodu o nešíření jaderných zbraní některé státy porušují. V roce 1995 se celosvětové společenství dohodlo i na zákazu zbraní, jež mohou oslepit vojáky.

MOHLO BY VÁS ZAJÍMAT: Seriál o jaderných zbraních

I když ke globálnímu zákazu robotů ve vojenství nedojde, mělo by být vyjasněno, kdo ponese za jejich nasazení odpovědnost. „Poslední věc, kterou chceme, je robot, co způsobí masakr. A my pak řekneme: jejda, za to nikdo nemůže,“ varoval před nekontrolovaným nástupem umělé inteligence do výzbroje armád americký vojenský expert Peter Singer.