Mohlo by vás také zajímat
Volby za dveřmi: O vedení měst a obcí rozhodne daleko více aktivních občanů
Libor Akrman 2. října 2026Čtyři roky otevřenější komunikace měst a obcí začínají měnit také samotné voliče. Aktivních občanů výrazně přibylo - dění není lhostejné…
Přechod k čisté energetice se Evropě ekonomicky vyplatí, potvrzuje aktuální studie OSN
Libor Akrman 10. září 2026Spalování fosilních paliv není nákladné jen kvůli ceně uhlí, ropy nebo plynu. Do skutečného účtu je nutné započítat také dopady…
Malé české firmy čeká týden zaměřený na AI, financování i byznys
Libor Akrman 7. září 2026Velký týden malých firem pomůže malým firmám a mikropodnikům ze všech oblastí podnikání zviditelnit jejich podnikání, oslovit nové zákazníky a…
- KOMENTÁŘ
Lidé musejí více kontrolovat armádní roboty, vyzvali OSN odborníci
Armády bohatých zemí se stále častěji chystají využívat autonomní roboty a drony, které by byly schopny čelit nepřátelským válečným operacím. Čím dál více se ale ozývají i varovné hlasy, aby si lidé s vývojem umělé inteligence tímto směrem nezahrávali.
Autonomní zbraně neboli roboty zabijáky musí lidstvo lépe a více kontrolovat. To je hlavní motiv otevřeného dopisu, který poslalo 116 odborníků z 26 zemí Organizaci spojených národů (OSN).
Znění celého dopisu naleznete ZDE
Dopis podepsali mimo jiné Elon Musk, zakladatel Tesly nebo SpaceX, či Mustafa Suleyman, který se podílel na vytvoření umělé inteligence Google DeepMind. A nese také podpis jednoho Čecha – Marka Rosy, zakladatele společnosti GoodAI zabývající se vývojem umělé inteligence (AI).
Přestože dopis je spíše varováním, podle serveru Fortune jeho doprovodné tiskové prohlášení obsahuje i výzvu skupiny, aby došlo k mezinárodnímu zákazu autonomních zbraní.
Válečná revoluce 3.0
„Smrtící autonomní zbraně by mohly přinést třetí revoluci do válčení. Pokud dojde k jejich rozvoji, umožní, aby válečné konflikty dosáhly dosud nevídaných rozměrů a rychlostí, na které lidstvo nebude stačit,“ stojí v dopise.
| Úmluva o užívání některých konvenčních zbraní |
| Úmluva o zákazu nebo omezení užívání některých konvenčních zbraní, které mohou způsobovat nadměrné utrpení nebo mít nerozlišující účinky, byla uzavřena v Ženevě 10. října 1980 a je platná od prosince 1983. Úmluva zakazuje používání zbraní produkujících střepiny nezjistitelné rentgenem, omezuje používání min, zakazuje užívání některých nástrah, omezuje užívání zápalných zbraní a zakazuje laserové oslepující zbraně. Pátý dodatkový protokol přikazuje evidovat veškerou nevybuchlou munici, varovně označit místa, kde se nachází, a následně tyto oblasti vyčistit – munici odvézt či zlikvidovat. |
Dopis dále popisuje možná rizika robotického zbrojení a dodává, že potřeba silné akce je urgentní.
Výzva více než stovky odborníků na AI je určena hlavně zástupcům v komisi OSN, která se měla v těchto dnech autonomními zbraněmi zabývat, ale na poslední chvíli své jednání zrušila. Kvůli nedostatku financí byla podle CNN přeložena až na listopad.
Komise měla také projednat zařazení robotických zbrojních systémů do úmluvy OSN o některých konvenčních zbraních (viz box).
Riziko pro civilisty
Robotičtí vojáci mohou sice na jedné straně zredukovat válečné ztráty mezi lidskými vojáky – tedy alespoň u těch bohatých zemí, které si své „terminátory“ budou moci dovolit.
Nicméně podle expertů je výrazně větší riziko eliminace nevinných civilistů. „Tyto zbraně se mohou stát nástrojem teroru, diktátoři a teroristé je mohou použít proti nevinným civilistům. Navíc by tyto zbraně mohly být také napadeny hackery, takže by mohlo dojít ke změně chování nežádoucím způsobem,“ stojí v dopise.
Nové závody ve zbrojení?
Pokud nedojde k nějakému omezení, může lidstvo prý navíc čekat nové „závody ve zbrojení“ – tentokrát nikoli jaderném, ale robotickém.
Autonomní zbraňové systémy či jejich předchůdce již nyní vyvíjejí téměř všichni přední hráči zbrojního průmyslu. Včetně podniků Raytheon, Dassault, MiG, Bae Systems nebo i ruského koncernu Kalašnikov.
VÍCE K TÉMATU:
Útok Trumpa na Sýrii stál desítky milionů dolarů. Svět za zbraně utrácí daleko víc
Kalašnikov rozšířil portfolio. Od světoznámých zbraní k suvenýrům
„Na rozdíl od jiných potenciálních způsobů využití AI, které stále zůstávají spíše v oblasti sci-fi, jsou autonomní zbrojní systémy již aktuálně ve vývoji a mají čím dál větší reálný potenciál, aby způsobily újmu civilistům a vyvolaly globální politickou nestabilitu,“ dodal pro CNN Ryan Gariepy, zakladatel společnosti Clearpath Robotics.
Jak cituje časopis Fortune Yoshuu Bengia, zakladatele firmy Element AI, ozbrojování AI může rovněž poškodit „takzvaně dobré aplikace využívající AI“. A odkazuje na děj sci-fi románu Duna od Franka Herberta, který se odehrává ve vesmíru, v němž jsou zakázány jakékoli myslící stroje kvůli jejich roli v předchozích válkách.
Horší než Kimova hrozba
Elon Musk se v obdobném duchu vyjádřil před pár dny k vojenskému napětí mezi USA a Severní Koreou. Hrozba ze strany nejtvrdšího komunistického režimu světa není podle zakladatele Tesly nic proti tomu, co může způsobit umělá inteligence.
„Pokud nemáte obavy z umělé inteligence, měli byste je mít. Je mnohem nebezpečnější než Severní Korea,“ uvedl na Twitteru, přičemž vyjádření doprovodil obrázkem s nápisem: „Roboti nakonec stejně zvítězí.“
Jak uvádí většina zahraničních serverů zmiňujících otevřený dopis, varovné hlasy či názory se objevují stále častěji. Odkazují hlavně na slavného fyzika Stephena Hawkinga, podle jehož slov je jen otázkou času, než se umělá inteligence obrátí proti lidem a vyhladí veškerý život na Zemi.
„Umělá inteligence má potenciál vyvíjet se rychleji než lidská rasa. Proto jakmile se dostane do určité fáze, nelze předpovídat, že její cíle budou stejné jako naše. Umělou inteligenci musíme navrhovat eticky a s možnými zadními vrátky,“ řekl Hawking nedávno v televizní talkshow Larryho Kinga.
VIDEO: Debata Larryho Kinga se Stephenem Hawkingem
Zdroj: YouTube.com