Na příchod umělé inteligence se musíme nejdřív připravit, varují Europol, Musk i odborníci

Zakladatel a šéf společnosti Tesla Elon Musk a odborníci na umělou inteligenci (AI) i vedoucí pracovníci v oboru vyzývají v otevřeném dopise k půlroční pauze ve vývoji systémů výkonnějších než nově spuštěný systém GPT-4 společnosti OpenAI. Pod hlavičkou neziskové organizace Future of Life Institute varují před možnými riziky pro společnost a lidstvo.

Společně vyzývají k pozastavení vývoje pokročilé AI, dokud nebudou vyvinuty, zavedeny a nezávislými odborníky zkontrolovány bezpečnostní protokoly pro takové projekty. „Výkonné systémy umělé inteligence bychom měli vyvíjet až poté, co si budeme jisti, že jejich účinky budou pozitivní a jejich rizika zvládnutelná,“ uvádí se v dopise.

V dopise byla podrobně popsána potenciální rizika pro společnost a lidstvo ze strany systémů umělé inteligence. Ty jsou schopny konkurovat lidem a mohou narušit chod ekonomiky či ovlivňovat politiky. Odborníci také vyzývají vývojáře, aby spolupracovali s regulačními orgány.

Mezi spolusignatáři byli generální ředitel společnosti Stability AI Emad Mostaque, výzkumníci ze společnosti DeepMind, která patří společnosti Alphabet, nebo přední odborníci na AI Yoshua Bengio a Stuart Russell.

„Znění dopisu není dokonalé, ale jeho duch je správný: musíme zpomalit, dokud lépe nepochopíme důsledky,“ řekl v reakci Gary Marcus, profesor z Newyorské univerzity, který dopis také podepsal. „AI může způsobit vážné škody (…) velcí hráči stále více tají, co dělají, což společnosti ztěžuje obranu proti jakýmkoli škodám, které mohou nastat.“

Europol se bojí zneužití zločinci

Je to už druhé varování z poslední doby před rizikem, které může umělá inteligence způsobit. Podle evropské policejní agentury Europol mohou umělou inteligenci, jako je třeba chatbot ChatGPT, zneužít zločinci a kriminální podsvětí.

ChatGPT by jim mohl například poskytnout informace o tom, „jak se vloupat do domu, o terorismu, poradit jim při počítačové kriminalitě, nebo dokonce umožnit sexuální zneužívání dětí,“ sděluje policejní agentura.

Podle Europolu se chatbot, který má schopnost rychle vytvářet text, může stát autorem  „phishingových“ e-mailů nebo „ideálním nástrojem pro účely propagandy a dezinformací“.

„Je velmi důležité, aby se o tomto tématu zvýšilo povědomí. Také musíme zajistit, aby všechny potenciální mezery byly objeveny a rychle eliminovány,“ uvedl Europol.

Britové navrhují regulační rámec

Vláda Spojeného království podle serveru Automotive News již představila návrhy na „adaptabilní“ regulační rámec týkající se umělé inteligence. Návrh z dílny britského ministerstva pro vědu, inovace a technologie navrhuje pravidla pro univerzální umělou inteligenci, což jsou systémy, které lze použít pro různé účely.

„Umělá inteligence již není sci-fi a tempo vývoje umělé inteligence je ohromující, takže potřebujeme pravidla, abychom zajistili, že bude vyvinuta bezpečně,“ prohlásila pro BBC ministryně pro vědu, inovace a technologie Michelle Donelan.

Přístup vlády nastíněný v politickém dokumentu by rovněž rozdělil odpovědnost za regulaci umělé inteligence mezi regulační orgány pro lidská práva, zdraví a bezpečnost a hospodářskou soutěž. Jiní odborníci navrhují, aby vznikl zbrusu nový regulační orgán zaměřený speciálně na tuto technologii.

Michael Birtwistle, zástupce ředitele výzkumného institutu Ada Lovelace Institute, uvedl pro server BBC, že myšlenku regulace vítá. Zároveň ale varoval před „významnými mezerami“ v přístupu Spojeného království, které by mohly zanechat nespecifikované škody.

„Ve výchozím stavu budou návrhy ve vládní bílé knize postrádat jakýkoli zákonný základ. To znamená, že z nich nepoplynou žádné nové právní povinnosti pro regulátory nebo vývojáře nebo uživatele systémů umělé inteligence. Budou jen naznačovat minimální povinnosti pro regulátory do budoucna. A regulace AI napříč sektory se neobejde bez podstatných investic do stávajících regulátorů,“ prohlásil Birtwistle pro BBC.

Čína je v regulaci nejdál

Simon Elliott, partner v právnické firmě Dentons, ale BBC řekl, že britský vládní přístup představuje jen „lehký dotek“ této problematiky. Spojené království se tak podle něj „vzdaluje“ od globálních trendů týkajících se regulace AI.

„Celá řada zemí po celém světě vyvíjí nebo schvaluje specifické zákony, které řeší vnímaná rizika AI – včetně algoritmických pravidel schválených v Číně nebo USA,“ dodal Elliott. Právě zmíněná Čína je podle něj asi zatím nejdál v prosazování předpisů o AI. Tamní pravidla například nařizují společnostem informovat uživatele, když v komunikaci s ním hraje algoritmus AI nějakou roli.

Také Evropská komise již připravila návrhy nařízení. Je jím zákon o umělé inteligenci, který by měl mít mnohem širší rozsah než nařízení přijaté Čínou.

Jeho součástí je například „třídění“ produktů umělé inteligence podle toho, jak potenciálně škodlivé mohou být. A podle toho budou podléhat regulaci. Například e-mailový spamový filtr by byl méně regulován než systém AI určený k diagnostice zdravotního stavu.

„AI již žije s lidstvem po desetiletí, ale nyní dosáhla nových kapacit a možností. Ty navíc  pohání čím dál větší výpočetní výkon,“ uvedl k problematice Thierry Breton, komisař EU pro vnitřní trh.

VÍCE K TÉMATU:

Umělá inteligence a analýza dat: které trendy je vhodné sledovat v letošním roce?

Denisa Parkosová (ČSOB): Zákony robotiky naši roboti a umělá inteligence v bance dodržují

I umělá inteligence potřebuje lidi, odůvodňuje šéf Ataccamy firemní expanzi

300 milionů lidí bez práce?

Server BBC s odkazem na zprávu americké investiční banky Goldman Sachs uvedl, že AI by mohla ve světě nahradit člověka na 300 milionech pracovních míst. V USA a Evropě by umělá inteligence podle zprávy mohla zastat zhruba čtvrtinu pracovních úkolů. Mohla by však rovněž přinést tvorbu nových pracovních míst a podpořit růst produktivity.

Zpráva upozorňuje, že možnosti využití umělé inteligence se v jednotlivých odvětvích výrazně liší. Například v administrativě lze podle zprávy zautomatizovat 46 procent pracovních úkolů, zatímco ve stavebnictví je to pouze šest procent, uvádí BBC.

„Jsem si jistý pouze tím, že nemůžeme vědět, kolik pracovních míst generativní umělá inteligence nahradí,“ řekl BBC ekonom Carl Benedikt Frey působící na Oxfordské univerzitě.

„ChatGPT například umožňuje lidem s průměrným písemným projevem vytvářet eseje a články. Například novináři tak budou čelit větší konkurenci,“ dodal.

Od svého loňského vydání systém ChatGPT, jejž vytvořila společnost OpenAI za podpory Microsoftu, v podstatě „donutil“ konkurenci, aby urychlila vývoj podobných velkých jazykových chatbotů. Zároveň se stal i příčinou toho, že další společnosti integrovaly generativní modely AI do svých produktů.