Mohlo by vás také zajímat
Dodavatelé v ohrožení. Geopolitické konflikt zvyšují aktivity hackerů
Libor Akrman 9. dubna 2026Geopolitické konflikty dnes probíhají nejen na fyzickém bojišti, ale stále častěji také v digitálním prostoru. Aktuální vývoj na Blízkém východě…
Tikající bomba pro české vývojářské firmy? Software bude muset mít „povinnou STK“
Karel Navrátil 31. března 2026Ještě před třemi lety byla představa o programátorovi jasná: člověk s kávou, který řádek po řádku píše logiku vaší aplikace.…
Zdecimuje AI výrobce software? Výprodeje investorů naznačují, že sektor nemá na růžích zrovna ustláno
Timur Barotov 12. února 2026Sektor vývojářů software je v současnosti pod velkým tlakem kvůli obavám investorů z inovací v oblasti AI. Ta by mohla…
Rasismus zasáhl i vývoj umělé inteligence, říká černošská psycholožka
Data, na kterých se umělá inteligence učí, podporují bělošské a sexistické stereotypy, tvrdí Abeba Birhaneová původem z Etiopie.
Bouřlivý vývoj umělé inteligence přináší i řadu etických výhrad včetně rizika podpory digitálního rasismu. (Na snímku japonský robot ASIMO od firmy Honda). Zdroj: Unsplash
Umělá inteligence se „krmí“ rasistickými a sexistickými materiály, což poté šíří po celém světě, tvrdí Abeba Birhaneová. Tato vědkyně, původem z etiopského Bahir Daru, studovala v Irsku psychologii a filozofii, kde později získala i doktorát z kognitivních věd.
Během studia byla obklopena softwarovými vývojáři a studenty datových věd. Díky tomu se seznámila s datovými sadami, které se požívají při vývoji umělé inteligence. Nikdo ale podle ní neřeší, co přesně datové soubory obsahují.
Zavádějící data z veřejných zdrojů
Systémy umělé inteligence jsou „trénovány“ na obrovských souborech dat, která většinou pocházejí z volně dostupných zdrojů na internetu hlavně kvůli snadnému přístupu a finanční nenáročnosti.
To ale pak znamená, že systémy umělé inteligence získávají i všechny možné předsudky lidí, kteří tato data vytvářejí. AI se tak podle vědkyně stává obrazem současné společnosti i se všemi jejími negativy.
| Co je ChatGPT? |
| Nejznámějším produktem posledních měsíců, který je zosobněním nejnovějšího zájmu o AI, je ChatGPT (Generative Pre-trained Transformer), který spustila firma OpenAI v listopadu 2022. V roce 2023 získala světovou pozornost veřejným zpřístupněním prototypu chatbotu založeného na základním modelu GPT-3.5. ChatGPT má svoji webovou stránku, která ho formou textové konverzace (chatu) zpřístupňuje veřejnosti. Může být využíván také softwarem třetích stran. ChatGPT je expertní systém, který implementuje prvky umělé inteligence pomocí technologie velkých jazykových modelů (LLM) a umělé neuronové sítě. Pro zkvalitnění výstupu (fine-tuning) bylo při trénování využito jak učení s učitelem, tak zpětnovazební učení (jako přiblížení se k transfer learningu, který je na základě získaných zkušeností schopen řešit příbuzné problémy). Upozorňuje se na častou faktickou nepřesnost odpovědí. Po vydání chatbotu byla firma oceněna na 29 miliard dolarů. Zdroj: Wikipedia |
Umělá inteligence už byla obviněna z „digitálního rasismu“, když měla podceňovat zdravotní potřeby černošských pacientů nebo snižovala pravděpodobnost udělení hypotéky lidem, kteří nejsou běloši ve Spojených státech.
Birhaneová se tak zaměřila na zkoumání souborů dat, která stále více ovlivňují náš život.
Loni v říjnu měla příležitost promluvit o škodlivém vlivu velkých technologických firem (Big Tech) i s dalajlamou, tibetským duchovním vůdcem.
Kromě toho, že chce odhalovat předsudky nového digitálního kolonialismu, jak tvrdí, hodlá donutit převzít odpovědnost za tento negativní vývoj i velké nadnárodní korporace, které ve velkém vývoj umělé inteligence financují.
Trhu dominují američtí giganti, jako je Adobe, Alphabet, Amazon, IBM, Microsoft, ale i čínská společnost Baidu.
Audit dat: rasismus i pornografie
Psycholožka uvedla, že už v roce 2020 provedla s kolegou Vinayem Prabhuem, odborníkem na bezpečnostní otázky používání AI, audit dvou populárních datových souborů.
Jeden z nich je soubor 80 milionů malých obrázků, které v posledních deseti letech využívají akademici pro projekty strojového učení na rozpoznávání lidí a předmětů.
GRAF: Vývoj objemu investic firem do sektoru AI
Od roku 2015, v mld. USD.
Zdroj: Statista
Je přitom „zaplevelen“ urážlivými popiskami včetně rasistických nadávek pro obrázky černochů. V dalším souboru dat zase nalezli pornografický obsah. Tvůrci souborů z Massachusetts Institute of Technology (MIT) a New York University (NYU) pak byli nuceni po kritice tato data z internetu odstranit.
Birhaneová zdůraznila, že na vývoji nových technologií včetně umělé inteligence se podílejí zejména běloši a muži, a proto také dochází k těmto pochybením. Vědecký svět je podle ní na hony vzdálen demografickému rozložení globální společnosti a znevýhodňuje zejména chudší komunity.
VÍCE K TÉMATU:
Jak regulovat porno na internetu? Rozmáhá se ověřování věku
Jiří Matas (FEL ČVUT): Robot, který by uměl vyměnit duši u kola, by na mě udělal velký dojem
Umělá inteligence a analýza dat: které trendy je vhodné sledovat v letošním roce?
O větší vyváženost by se měly starat i velké nadnárodní korporace, které rozvoj AI financují. I proto o Big Tech firmách hovoří jako o novém typu kolonialismu. „Nikdo v Silicon Valley se nestará o černošky bez bankovního účtu ve venkovské části Timbuktu,“ postěžovala si v časopisu Wired.
Sama také jako černoška čelí odmítavým názorům v technologické branži. Obává se, že se situace sama od sebe nezlepší, protože audit datových souborů je poměrně drahý a časově náročný.