Mohlo by vás také zajímat
Jaderný tendr jde do dalšího kola; exit startupu Inventoro a ČNB snižuje sazby aneb souhrn ekonomických událostí 18. týdne 2024
Libor Akrman, František Novák 3. května 2024EDF a KHNP podaly závazné nabídky na čtyři reaktory; Brusel povolil veřejnou podporu nového bloku; základní úroková sazba už je…
Není trh s elektromobily příliš závislý na Tesle? Pozdní dodávky vyvolávají obavy
Peter Garnry 3. dubna 2024Dodávky společnosti Tesla za první čtvrtletí výrazně zaostaly za odhady, což je největší zpoždění v její historii. Důvodem je kombinace…
Umělá inteligence zvyšuje americkou produktivitu práce, a tím i HDP, tvrdí Silicon Valley
František Novák 2. dubna 2024Využívání prvků AI zvyšuje produktivitu Američanů. S tímto názorem stále častěji operují technologické firmy ze Silicon Valley.
- ČLÁNEK
Na příchod umělé inteligence se musíme nejdřív připravit, varují Europol, Musk i odborníci
Jde o riziko pro společnost, vyzývají společným dopisem k pozastavení dalšího vývoje umělé inteligence tisíce technologických odborníků. Podle Goldman Sachs by AI mohla například nahradit 300 milionů pracovních míst po celém světě. Před zneužitím AI ve světě zločinu pak varoval i policejní orgán Europol.
Stovky akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence (AI) včetně miliardáře Elona Muska chtějí kvůli vážným rizikům pauzu ve vývoji umělé inteligence- (Ilustrační foto) Zdroj: Unsplash
Zakladatel a šéf společnosti Tesla Elon Musk a odborníci na umělou inteligenci (AI) i vedoucí pracovníci v oboru vyzývají v otevřeném dopise k půlroční pauze ve vývoji systémů výkonnějších než nově spuštěný systém GPT-4 společnosti OpenAI. Pod hlavičkou neziskové organizace Future of Life Institute varují před možnými riziky pro společnost a lidstvo.
Společně vyzývají k pozastavení vývoje pokročilé AI, dokud nebudou vyvinuty, zavedeny a nezávislými odborníky zkontrolovány bezpečnostní protokoly pro takové projekty. „Výkonné systémy umělé inteligence bychom měli vyvíjet až poté, co si budeme jisti, že jejich účinky budou pozitivní a jejich rizika zvládnutelná,“ uvádí se v dopise.
V dopise byla podrobně popsána potenciální rizika pro společnost a lidstvo ze strany systémů umělé inteligence. Ty jsou schopny konkurovat lidem a mohou narušit chod ekonomiky či ovlivňovat politiky. Odborníci také vyzývají vývojáře, aby spolupracovali s regulačními orgány.
Mezi spolusignatáři byli generální ředitel společnosti Stability AI Emad Mostaque, výzkumníci ze společnosti DeepMind, která patří společnosti Alphabet, nebo přední odborníci na AI Yoshua Bengio a Stuart Russell.
„Znění dopisu není dokonalé, ale jeho duch je správný: musíme zpomalit, dokud lépe nepochopíme důsledky,“ řekl v reakci Gary Marcus, profesor z Newyorské univerzity, který dopis také podepsal. „AI může způsobit vážné škody (…) velcí hráči stále více tají, co dělají, což společnosti ztěžuje obranu proti jakýmkoli škodám, které mohou nastat.“
Europol se bojí zneužití zločinci
Je to už druhé varování z poslední doby před rizikem, které může umělá inteligence způsobit. Podle evropské policejní agentury Europol mohou umělou inteligenci, jako je třeba chatbot ChatGPT, zneužít zločinci a kriminální podsvětí.
| AI se bojí i Hollywood |
| S rychlým pokrokem v oblasti AI se nyní svět musí začít připravovat na možné následky, popřípadě se s nimi vypořádávat. Nejinak tomu je i u Sdružení amerických scenáristů (WGA), které teď v Hollywoodu intenzivně řeší, jak se k otázce AI postavit. První zprávy přitom naznačovaly, že by WGA mohla aplikace typu ChatGPT při tvorbě scénářů povolit jako „pomocný nástroj“ scenáristy s důrazem na to, že zásluhy musí ale vždy zůstat v rukou daného tvůrce. Později se však toto stanovisko poměrně razantně obrátilo. WGA navrhla de facto zákaz jakékoli asistence umělé inteligence při tvorbě scénářů. Hlavními body tohoto návrhu jsou, že AI nesmí být použita jako zdrojový materiál, nelze použít text vygenerovaný AI a v žádném případě ji nelze brát v úvahu při určování zásluh. Stejně tak se materiál vytvořený AI nesmí dostat ke scenáristům k další úpravě. V podstatě jediné, co by studia mohla dělat, je využívat umělou inteligenci k rešerši a konzultaci daného materiálu. Důvodem je pak primárně fakt, že umělá inteligence nevytváří nic nového, ale ve stručnosti generuje známý obsah na základě zadání, takže hrozí porušení autorských práv nebo volného díla – jinými slovy jde o plagiátorství. (Zdroj: ČSFD) |
ChatGPT by jim mohl například poskytnout informace o tom, „jak se vloupat do domu, o terorismu, poradit jim při počítačové kriminalitě, nebo dokonce umožnit sexuální zneužívání dětí,“ sděluje policejní agentura.
Podle Europolu se chatbot, který má schopnost rychle vytvářet text, může stát autorem „phishingových“ e-mailů nebo „ideálním nástrojem pro účely propagandy a dezinformací“.
„Je velmi důležité, aby se o tomto tématu zvýšilo povědomí. Také musíme zajistit, aby všechny potenciální mezery byly objeveny a rychle eliminovány,“ uvedl Europol.
Britové navrhují regulační rámec
Vláda Spojeného království podle serveru Automotive News již představila návrhy na „adaptabilní“ regulační rámec týkající se umělé inteligence. Návrh z dílny britského ministerstva pro vědu, inovace a technologie navrhuje pravidla pro univerzální umělou inteligenci, což jsou systémy, které lze použít pro různé účely.
„Umělá inteligence již není sci-fi a tempo vývoje umělé inteligence je ohromující, takže potřebujeme pravidla, abychom zajistili, že bude vyvinuta bezpečně,“ prohlásila pro BBC ministryně pro vědu, inovace a technologie Michelle Donelan.
Přístup vlády nastíněný v politickém dokumentu by rovněž rozdělil odpovědnost za regulaci umělé inteligence mezi regulační orgány pro lidská práva, zdraví a bezpečnost a hospodářskou soutěž. Jiní odborníci navrhují, aby vznikl zbrusu nový regulační orgán zaměřený speciálně na tuto technologii.
Michael Birtwistle, zástupce ředitele výzkumného institutu Ada Lovelace Institute, uvedl pro server BBC, že myšlenku regulace vítá. Zároveň ale varoval před „významnými mezerami“ v přístupu Spojeného království, které by mohly zanechat nespecifikované škody.
„Ve výchozím stavu budou návrhy ve vládní bílé knize postrádat jakýkoli zákonný základ. To znamená, že z nich nepoplynou žádné nové právní povinnosti pro regulátory nebo vývojáře nebo uživatele systémů umělé inteligence. Budou jen naznačovat minimální povinnosti pro regulátory do budoucna. A regulace AI napříč sektory se neobejde bez podstatných investic do stávajících regulátorů,“ prohlásil Birtwistle pro BBC.
Čína je v regulaci nejdál
Simon Elliott, partner v právnické firmě Dentons, ale BBC řekl, že britský vládní přístup představuje jen „lehký dotek“ této problematiky. Spojené království se tak podle něj „vzdaluje“ od globálních trendů týkajících se regulace AI.
„Celá řada zemí po celém světě vyvíjí nebo schvaluje specifické zákony, které řeší vnímaná rizika AI – včetně algoritmických pravidel schválených v Číně nebo USA,“ dodal Elliott. Právě zmíněná Čína je podle něj asi zatím nejdál v prosazování předpisů o AI. Tamní pravidla například nařizují společnostem informovat uživatele, když v komunikaci s ním hraje algoritmus AI nějakou roli.
Také Evropská komise již připravila návrhy nařízení. Je jím zákon o umělé inteligenci, který by měl mít mnohem širší rozsah než nařízení přijaté Čínou.
Jeho součástí je například „třídění“ produktů umělé inteligence podle toho, jak potenciálně škodlivé mohou být. A podle toho budou podléhat regulaci. Například e-mailový spamový filtr by byl méně regulován než systém AI určený k diagnostice zdravotního stavu.
„AI již žije s lidstvem po desetiletí, ale nyní dosáhla nových kapacit a možností. Ty navíc pohání čím dál větší výpočetní výkon,“ uvedl k problematice Thierry Breton, komisař EU pro vnitřní trh.
VÍCE K TÉMATU:
Umělá inteligence a analýza dat: které trendy je vhodné sledovat v letošním roce?
Denisa Parkosová (ČSOB): Zákony robotiky naši roboti a umělá inteligence v bance dodržují
I umělá inteligence potřebuje lidi, odůvodňuje šéf Ataccamy firemní expanzi
300 milionů lidí bez práce?
Server BBC s odkazem na zprávu americké investiční banky Goldman Sachs uvedl, že AI by mohla ve světě nahradit člověka na 300 milionech pracovních míst. V USA a Evropě by umělá inteligence podle zprávy mohla zastat zhruba čtvrtinu pracovních úkolů. Mohla by však rovněž přinést tvorbu nových pracovních míst a podpořit růst produktivity.
Zpráva upozorňuje, že možnosti využití umělé inteligence se v jednotlivých odvětvích výrazně liší. Například v administrativě lze podle zprávy zautomatizovat 46 procent pracovních úkolů, zatímco ve stavebnictví je to pouze šest procent, uvádí BBC.
„Jsem si jistý pouze tím, že nemůžeme vědět, kolik pracovních míst generativní umělá inteligence nahradí,“ řekl BBC ekonom Carl Benedikt Frey působící na Oxfordské univerzitě.
„ChatGPT například umožňuje lidem s průměrným písemným projevem vytvářet eseje a články. Například novináři tak budou čelit větší konkurenci,“ dodal.
Od svého loňského vydání systém ChatGPT, jejž vytvořila společnost OpenAI za podpory Microsoftu, v podstatě „donutil“ konkurenci, aby urychlila vývoj podobných velkých jazykových chatbotů. Zároveň se stal i příčinou toho, že další společnosti integrovaly generativní modely AI do svých produktů.
