Může etika zabrzdit nástup umělé inteligence do našeho světa?

Když v dnešní době mluvíme o technologické inovaci, jen stěží se vyhneme termínu umělá inteligence (AI). V médiích se čím dál častěji objevují zprávy,  že nás roboti připraví o práci. Ještě temnější scénář nastiňuje podnikatel a vizionář Elon Musk, když varuje, že umělá inteligence by mohla dokonce znamenat konec lidstva.

Podíváme-li se na věc trochu střízlivěji, tak již nyní vidíme, že umělá inteligence významně proměňuje různá odvětví. Ve zdravotnictví pomáhá lékařům s diagnostikou nejrůznějších chorob. Systémy autonomního řízení vozů pokročily natolik, že výrobce aut Tesla vyšle do konce letošního roku „auto bez řidiče“ na cestu z  Los Angeles do New Yorku.

Zkušenosti z milionů ujetých kilometrů sbírají i autonomní auta od Googlu (a dalších společností). A na druhé straně investiční fondy stále častěji využívají ve svých investičních algoritmech modely strojového učení.

A jak bylo patrné na nedávném Indickém ekonomickém summitu, pořádaném Světovým ekonomickým fórem, umělá inteligence si našla cestu i do Indie.

Umělá inteligence je i v Indii žhavé téma

Jedním z příkladů úspěšných firem používajících AI je firma Grey Orange Robotics, která vyrábí a „vzdělává“ roboty, kteří automatizují skladové operace.

Lékařům v Manipal Hospital zase pomáhá systém IBM Watson for Oncology, který usnadňuje diagnostiku a léčbu rakoviny.  A v Bengalúru zase jeden startup (Artelus) používá algoritmy strojového učení, díky kterými lze u pacientů včas odhalit a léčit diabetickou retinopatii (jde o nejčastější cévní onemocnění oční sítnice, pozn. red.), která je v Indii hlavní příčinou slepoty.

Navzdory mnoha využitím vzbuzuje AI kontroverze a především etické obavy. Jedním z klasických příkladů je otázka při hrozbě srážky samořídícího auta s chodci. Mělo by se auto rozhodnout zachránit své dva pasažéry nebo je „obětuje ve prospěch“ pěti přecházejících chodců?

MOHLO BY VÁS ZAJÍMAT: Vladimír Kulla (Siemens): S umělou inteligencí se život stane pohodlnějším, jen co si na ni zvykneme

Nebo jiné etické dilema – použití sotfwaru založeném na umělé inteligenci při rozhodování o schválení žádosti o půjčku.

Je dokázáno, že některé současné systémy diskriminují ekonomicky slabší skupiny, které měly historicky horší či omezený přístup k úvěrům. A v podobné kontroverzní situaci jsou i američtí soudci. Měli by se totiž při vynesení rozsudku částečně rozhodovat i na základě výsledků modelů, které předpovídají u obviněného recidivu, tedy sklon zločinců k opětovnému porušení zákona.

Jak ale ukázalo několik případů z poslední doby, modely se „nechávají“ ovlivnit rasovou diskriminací. Jak jinak by se dalo vysvětlit, proč osmnáctiletá černoška bez předchozího záznamu v trestním rejstříku, která se pokusila ukrást kolo a skútr, dostala vyšší rizikové hodnocení než jednačtyřicetiletý běloch zatčený za krádež v obchodě, který už si v minulosti odseděl pět let ve vězení za pokus o ozbrojenou loupež.

Podobné algoritmy obecně vycházejí z historických dat, z nichž se učí. Pokud ale už tato data mají „zakódovanou“ rasovou diskriminaci, tak ji systém převezme a bere ji jako jeden z výchozích předpokladů. Tím pádem systémy strojového učení, které jsou cvičeny na zkreslených datech, mohou tuto diskriminaci institucionalizovat.

Debata o etice využití AI je tedy na místě. Systémy umělé inteligence na rozdíl od lidí nejsou schopny řešit složité etické problémy, jako například cenu života, nebo potlačování zakořeněných předsudků vůči diskriminovaným skupinám. Někteří dokonce navrhují zcela zastavit nástup AI, dokud nebude toto dilema vyřešeno.

Domnívám se, že nelze kvůli podobným etickým problémům brzdit či dokonce zastavit nástup umělé inteligence. Proč? Obávám se, že by to také bylo neetické.

Menší zlo, respektive větší dobro

V jádru jde o problém tzv. „meta etiky“. Jak můžeme chtít zastavit rozvoj technologie jen proto, že existuje malá pravděpodobnost selhání, když víme, že její využití by mohlo s jistotou zachránit miliony lidí?

Budoucnost autonomního řízení brzdí etické otázky.

Vezměte si obrovské množství úmrtí na silnicích způsobených lidskou chybou. Jen v Indii každý rok zemře více než 140 000 lidí. Přitom využití samořídící technologie by mohlo zachránit spoustu životů.

Systémy AI mohou doplnit nebo zcela nahradit řidiče autobusů a nákladních aut. Měli bychom se této myšlenky vzdát jen proto, že nemáme jasno, čí životy by měly být v případě nehody ušetřeny?

Jak říká Eric Horvitz, vedoucí výzkumu AI a šéf divize Microsoft Research: „některé z těchto příkladů by se daly považovat za krajní případy, jež bychom měli srovnat se statistikou smrtelných nehod způsobených lidským pochybením. Jen v USA ročně na silnicích zahyne 35 tisíc lidí, celosvětově je to kolem milionu.“

MOHLO BY VÁS ZAJÍMAT: Místo dronů by zboží a jídlo mohly rozvážet roboty. Už byly i v Praze

Vezměme si i další příklad z indického zdravotnictví. Studie z poslední doby odhalily, že každoročně umírá v nemocnicích v Indii přes pět milionu pacientů na následky lidského pochybení.

Nástroje umělé inteligence zaměřené na prevenci by toto číslo mohly podstatně snížit a navíc vyřešit problém nedostatku lékařů zejména ve venkovských částech Indie.

Pokud bychom mohli toto status quo vylepšit hned teď, není naší morální odpovědností rozvoj AI technologií urychlit?

Těžké otázky

Nechci ale zjednodušovat morální dilemata okolo rozšíření AI, ani nechci házet opatrnost za hlavu.

Pokud chceme, aby veřejnost jednoho dne těmto novým technologiím důvěřovala, musíme vést transparentní debatu a rizika řešit souběžně se zaváděním AI právě v kritických oblastech, jako je přeprava a zdravotnictví.

Je jistě důležité se ptát, zda jsou rozhodnutí v kooperaci s AI perfektní a splňují všechna očekávání. Musíme se však také ptát, zda mohou vylepšit status quo navzdory svým nedostatkům a zda to stačí k jejich nasazování.

Etické obavy v souvislosti s využitím umělé inteligence rozhodně existují. Přesto je možné, že její použití v jednotlivých oborech činnosti je už dnes etické.

Článek v anglickém originále vyšel na webu Světového ekonomického fóra. Autorem je Kartik Hosanagar, profesor na Wharton School – University of Pennsylvania.