EU vstupuje do digitální éry. Podpoří umělou inteligenci, ale nastaví i nové regulační mantinely

Evropská komise zveřejnila dlouho očekávanou a komplexní strategii s názvem Evropa v digitálním věku.

Strategie „A Europe fit for the digital age“ v sobě neobsahuje žádnou zákonodárnou iniciativu. Ukazuje však směry, kterými se současná Komise v této oblasti v příštích měsících vydá a jaké legislativní návrhy můžeme v oblasti digitální agendy v brzké době očekávat.

Nová priorita

Oblast technologií a digitální ekonomiky a společnosti je pro novou Komisi jednou z priorit. V čerstvě vydaném dokumentu stojí, že internet a digitální technologie jsou nedílnou součástí našich životů, ať už pracovních, či soukromých.

A tato propojenost a symbióza mezi technologiemi a lidmi se bude zcela jistě dále prohlubovat. Z toho důvodu je nejvyšší čas vytvořit zcela nová legislativní pravidla, která se vypořádají s podmínkami a prostředím, ve kterém dnešní digitální společnost žije.

Na první pohled nic neříkající název v sobě obsahuje vizi směřování EU v digitální oblasti na příští desítky let. Obsahuje mimo jiné vznik společné unijní kybernetické jednotky, přísnější regulaci nenávistného a nezákonného online obsahu a snazší sdílení dat v rámci Unie.

Oblastí, na které bude třeba se zaměřit, je mnoho. Samotná strategie prozatím uvádí několik základních, na které se bude Komise v příštích měsících soustředit. Jedná se zejména o umělou inteligenci, internetové firmy a online platformy, digitální daň, oblast dat, kyberbezpečnost, ochrana médií a demokratických institucí či moderní vzdělávání.

A co Komise v těchto oblastech zamýšlí? Jaké jsou její plány a kdy představí konkrétní legislativní návrhy?

Zkrotit „divoký západ“ na internetu

Co znamená Karoq?

Text Lukáše Hendrycha vyšel původně na serveru Euractiv.cz a byl převzat ve verzi, jak vyšel na serveru HlídacíPes.org.

Hlavním cílem v této oblasti je podle Komise nastavení jasných a jednoznačných pravidel v internetovém prostředí. Konkrétně pak na trhu s digitálními službami.

V současné době existuje legislativa regulující tradiční trhy a průmyslová a jiná odvětví. Nikdo se dnes již nepozastaví nad faktem, že je regulováno bankovnictví, pojišťovnictví, finanční trhy, automobilový sektor, doprava, zdravotnictví či stavebnictví.

Chystá se nový balíček úprav

Prostředí internetu, ve kterém vládnou internetoví giganti a různé online platformy, je však stále do jisté míry „divokým západem“ bez jasných pravidel.

„Je třeba vyjasnit roli a zodpovědnost online platforem s cílem učinit internet bezpečnějším místem. Nemůžeme dále tolerovat online prodej nelegálního a nebezpečného zboží a online šíření nezákonného obsahu. Internetové firmy musejí jednat zodpovědně a bojovat proti takovému nezákonnému obsahu, zároveň však musejí chránit svobodu slova,“ stojí v nově zveřejněných dokumentech.

Z toho důvodu Komise ke konci roku 2020 představí balíček legislativních návrhů s názvem Digital Services Act.

Nová celoevropská pravidla

Konkrétní obsah a forma návrhů zatím není známá. Už teď je ale jasné, že – v případě, že bude přijat – vytvoří celoevropská závazná pravidla pro regulaci nenávistného a nezákonného obsahu (hate-speech, hate crime, pozn. red.), politické reklamy a jejího zadávání na internetu včetně sociálních sítí (political advertising) nebo obsahu spojeného s terorismem.

Doposud funguje mazání takového ilegálního obsahu na principu dobrovolnosti ze strany internetových firem jako je Facebook, Youtube, Twitter apod., a to na základě přistoupení k tzv. Etickému kodexu (Code of Conduct).

Podle nové legislativy by však princip notice and take down (zaznamenat a smazat nezákonný obsah) byl povinný a právně vynutitelný. A také dosah nových pravidel bude větší. Kromě známých firem a platforem včetně Googlu, Facebooku či YouTube se jim nevyhnou ani menší poskytovatelé internetových služeb či cloudová úložiště.

Šance pro Jourovou?

Jedním z motivů vytvoření právního rámce je mimo jiné i zjištění související třeba se zneužíváním dat společností Cambridge Analytica, šířením dezinformací a fake news (nejen) v předvolebním období či šířením záběrů teroristických útoků na sociálních sítích.

Tato problematika se do velké míry dotýká i agendy místopředsedkyně Komise Věry Jourové (ANO). Ta má na starosti evropské hodnoty a transparentnost.

To jsou oblasti, do kterých spadá mimo jiné šíření dezinformací a lží. Anebo i zasahování do demokratických voleb, problematika zadávání a šíření politické reklamy včetně cílené reklamy pomocí algoritmů a psychologického profilování na základě osobních dat uživatelů/voličů či ochrana osobních dat.

MOHLO BY VÁS ZAJÍMAT:

Kyberútok aneb ochrana osobních údajů je časovaná bomba pro české firmy

Rada pro všechny manažery: Zapomeňte už na svou intuici, klíčová jsou data

Konec gentlemanských dohod

O těchto tématech Jourová před pár dny jednala i se zakladatelem Facebooku Markem Zuckerbergem. „Diskutovali jsme mimo jiné o tom, jak se platformy vypořádávají s výzvami jako jsou dezinformace či zasahování do voleb. Shodli jsme se na potřebě větší transparentnosti dat a algoritmů, které platformy využívání. Jen tak bude společnost vůči online manipulaci a propagandě více imunní,“ uvedla Jourová po jednání.

„Setkání bylo také příležitostí k tomu, abych panu Zuckerbergovi připomněla GDPR, tedy naše přísná pravidla na ochranu osobních údajů, která obsahují i pravidla pro přenositelnost dat. Od Facebooku očekávám pilné dodržování těchto pravidel, minimálně v Evropě,“ dodala eurokomisařka.

Podle Jourové jsou časy „gentlemanských dohod“ u konce. Podle ní už nadále nelze spoléhat na dobrou vůli ze strany internetových firem či na etické kodexy.

Ochrana novinářů

„V dlouhodobém horizontu musíme naši společnost obrnit proti online manipulaci a zasahování do našich demokratických procesů. Musíme investovat do digitální gramotnosti, do prosazování kvalitní a nezávislé žurnalistiky a mediálního pluralismu,“ prohlásila Jourová. A dodala, že to vše musí probíhat při zachování základních lidských práv a svobod včetně svobody slova.

Součástí Digital Services Act tedy nebude jen regulace nezákonného a nenávistného obsahu, ale bude zahrnovat i boj proti dezinformacím a zasahování do demokratických voleb či ochranu demokratických institucí v EU. Spojitost zde ale můžeme najít i se snahou o zachování plurality médií a posilování kvalitní a nezávislé žurnalistiky založené na faktech, a nikoli na lživém a manipulativním obsahu.

To vše pak souvisí i s reformou vzdělávání, které se podle Komise rovněž musí přizpůsobit novému digitálnímu prostředí. To nesouvisí jen s mediální gramotností, ale také s posilováním gramotnosti digitální.

Bližší informace a konkrétní kroky v těchto oblastech by měly přinést tři akční plány, které Komise představí pravděpodobně v druhé polovině tohoto roku. Bude se jednat o už zmíněný Democracy Action Plan, jehož vytvoření má na starosti Věra Jourová, a dále o tzv. Media Action Plan a Digital Education Action Plan.

Pokuta pro Google

Digital Services Act bude ale mít ještě větší dosah. Nahradí totiž 20 let starou evropskou směrnici zvanou e-commerce. Ta stanovuje pravidla pro fungování online služeb na jednotném trhu, nicméně nevytváří prakticky žádnou efektivní regulaci technologického sektoru.

Vedle výše zmíněného důrazu na nezákonný obsah je tak ambicí Digital Services Act i stanovení nových pravidel hospodářské soutěže v prostředí internetu. Včetně většího důrazu na zneužívání dominantního postavení na trhu, jeho monopolizaci a na jiné protisoutěžní jednání.

Od nové Komise v tomto ohledu můžeme očekávat větší důraz na vymáhání pravidel hospodářské soutěže ve vztahu k internetovým gigantům. S tím už do jisté míry začala předchozí Komise pod vedením Jean-Claude Junckera.

Příkladem může být pokuta Googlu ve výši 1,5 miliardy eur, udělená v loňském roce ze strany Komise za zneužití postavení na trhu. Jednalo se přitom již o třetí podobnou finanční sankci  udělenou této společnosti od roku 2017. Dá se tedy předpokládat, že nová Komise bude v důsledném vymáhání soutěžního práva ze strany internetových společností pokračovat.

Digitální daň čeká na OECD

Velkým tématem v souvislosti s vymáháním pravidel hospodářské soutěže v internetovém prostředí je i stanovení tzv. digitální daně.

V souvislosti s novou strategií je však nutno zmínit, že členské státy se na zavedení celoevropské digitální daně v loňské roce neshodly, mnohé státy – včetně České republiky – se proto rozhodly jednat na vlastní pěst a postupně digitální daň zavádí na národní úrovni.

Zároveň se v tomto ohledu vyčkává na výsledek jednání na úrovni OECD. Komise uvedla, že nová iniciativa na zavedení digitální daně bude v blízké době představena, bližší informace však neposkytla.

Je ale zřejmé, že nový návrh ze strany Komise bude záviset právě na výsledku vyjednávání na úrovni OECD.

Regulovaná AI

Důležité místo v nové strategii má i umělá inteligence (AI). Komise, politici i mnozí odborníci totiž zastávají názor, že výzkum, vývoj i následná aplikace této přelomové technologie jsou sice nezbytné, neobejdou se však bez moderní a promyšlené právní regulace.

Klíčovým dokumentem v této oblasti je Bílá kniha o umělé inteligenci (White Paper on artificial intelligence), která určuje možnosti budoucího legislativního rámce. Ten by měl stanovit pravidla jednak pro výzkum a vývoj AI, jednak by měl klást důraz i na zachování základních lidských práv a svobod, ochranu osobních údajů a etické otázky.

Velké kontroverze v tomto ohledu vzbuzuje například technologie rozpoznávání obličejů. Původně se spekulovalo o tom, že EU zakáže využívání této technologií , a to z důvodu porušování pravidel na ochranu osobních údajů. Nyní se ale zdá, že od zákazu pomalu ustupuje. Není ale zatím jasné, zdali od něj upustí úplně.

„Původně to vypadalo, že Komise měla v úmyslu dočasně zakázat technologie rozpoznávání obličeje ve veřejných prostorech. Pokud ale během interního konzultačního procesu tento zákaz zmizel, je to z pohledu základních práv výrazný krok zpět,“ říká místopředseda Evropského parlamentu Marcel Kolaja (Piráti, Greens/EFA).

Pozor, ne jako Čína

Na nebezpečí této technologie upozorňuje i David Nosák z bruselské pobočky amerického think-tanku Center for Democracy and Technology.

„Rozpoznávání obličejů je velmi důležitá součást AI a můžeme počítat s tím, že Komise s ní nějakým způsobem bude pracovat. Na jednu stranu tato technologie může být použita k verifikaci a identifikaci v oblastech, ve kterých to nemusí budit žádné znepokojení, tedy pokud jde např. o odemykání vlastního telefonu pohledem do kamery. Na druhou stranu zde máme veřejný prostor, ve kterém se tato technologie může rychle proměnit v nástroj sledování, který bude porušovat základní lidská práva a svobody,“ říká Nosák.

„Příkladem je v tomto ohledu Čína, kde již byla zaznamenána řada případů využití této technologie pro boj s politickými odpůrci. Musíme tedy nalézt rovnováhu mezi výhodami, které AI přinese, a mezi zachováním individuálních svobod a soukromí,“ dodává.

Kam pustit AI a kam už ne?

Vedle rozpoznávání obličejů se Bílá kniha zaměří i na další oblasti. Komise chce klást důraz na budování testovacích a technologických center v zemích EU, která by měla vedle výzkumu a vývoje technologií AI spolupracovat s podnikateli, firmami, veřejným sektorem i s univerzitami a vědeckými institucemi.

Samotná Bílá kniha by měla nastartovat celoevropskou diskuzi o tom, v jakých odvětvích a v jaké míře najde AI své uplatnění. Do konzultací by se dle Komise měla zapojit celá řada odvětví od zdravotnictví, přes dopravu, finančnictví, veřejnou správu až po oblast kultury či školství.

„Umělá inteligence bude využívána v mnohem větší míře v mnoha nejrůznějších zařízeních. Nejen ve smart automobilech, ale třeba i ve videohrách, není možné požadovat ve všech úrovních stejné zabezpečení. Mít pro všechna tato zařízení stejnou regulaci, jak o tom strategie uvažuje v jedné ze tří částí, by bylo velmi riskantní a mohlo by mít na digitální sektor negativní důsledky,“ upozorňuje však na možná úskalí budoucí regulace místopředsedkyně Evropského parlamentu Dita Charanzová (ANO, RE).

Ochraňte data!

Plánovat výzkum a vývoj umělé inteligence je jedna věc, bez dostatečného množství dat, na kterých se umělá inteligence bude testovat a učit, je však realizace těchto plánů nemožná. I proto je součástí strategie a budoucího směřování EU i problematika dat, a to jak těch veřejně dostupných, tak soukromých.

„Bavíme-li se o obsahu, věřím, že Komise by měla stát v první řadě na straně občanů, tedy uživatelů. Jejich osobní data musí být velmi pečlivě chráněna. A jakákoli data obecně by měla být těžena eticky. Znepokojuje mě tedy například, že návrh regulace umělé inteligence příliš nebere v potaz etické otázky spojené např. s rozpoznáváním obličejů,“ upozorňuje český europoslanec Mikuláš Peksa (Piráti, Greens/EFA).

Strategie ale problematiku dat vnímá mnohem šířeji. Komise v rámci komplexní strategie představila Evropskou strategii pro data (European data strategy). Na ni ve druhé polovině roku 2020 navážou legislativní návrhy Data governance a Data Act.

Jejich cílem bude posílit využití dat v evropské ekonomice, stanovit pravidla pro sdílení dat mezi podnikateli a firmami a vládou, mezi podnikateli a firmami navzájem či zajistit větší kontrolu osobních dat.

Tři pilíře digibudoucnosti

European data strategy, Bílá kniha o umělé inteligenci a balíček návrhů v rámci Digital Services Act tedy tvoří tři hlavní pilíře, na kterých má být postavena digitální budoucnost EU.

Pokud jde o samotnou evropskou „datovou strategii“, jejím cílem by mělo být vytvořit do roku 2030 tzv. EU data space. Tedy jakýsi jednotný trh pro volný pohyb dat napříč členskými státy.

Evropské společnosti a veřejná správa by měly mít přístup k obrovskému množství dat generovaných na území členských států, čímž by v tomto ohledu EU měla dohnat firmy jako Facebook, Google, Tencent či Alibaba, které disponují velkým množstvím shromážděných dat, což pro ně znamená významnou komparativní výhodu.

„V současné době drží pár technologických gigantů velkou část světových dat. V budoucnu pak bude velké množství dat generováno z průmyslu, oblastí veřejného života, internetu věcí a jiných oblastí každodenního života. V těchto oblastech je EU silná,“ uvádí se ve strategii.

VÍCE K TÉMATU:

Na jedné straně jsou zlí hackeři, ale hlavní kybernetickou hrozbu představují vždy zaměstnanci

Vladimír Špička (Forcepoint): Film Minority Report se v kybernetické bezpečnosti stane realitou

Kyberbezpečnost a „e-soukromí“

Důležitou součástí těchto plánů je i přijetí nařízení ePrivacy, které mělo být původně schváleno ve stejné době jako GDPR. Mezi státy se však doposud na znění tohoto nařízení nenašla shoda.

I toto nařízení má – stejně jako GDPR – za úkol chránit osobní data a soukromí uživatelů, tentokrát ale při využívání telekomunikačních služeb – ať už těch klasických či internetových.

Poskytovatelé všech telekomunikačních služeb (včetně aplikací typu Skype, WhatsApp apod.) by tak měli mít v oblasti ochrany osobních dat stejné povinnosti. V následujících měsících se očekává představení nového a přepracovaného návrhu této legislativy.

Součástí unijní strategie je i větší důraz na kyberbezpečnost. Již loni došlo k přijetí aktu o kybernetické bezpečnosti, který mimo jiné zavádí certifikaci výrobků podle jejich odolnosti vůči kyberútokům a posiluje Evropskou agenturu pro bezpečnost sítí a informací (ENISA).

Také se v nových plánech Komise objevují i návrhy na mnohem užší spolupráci v rámci EU. Prioritou má být vytvoření tzv. společné kybernetické jednotky (Joint Cyber Unit), přičemž celý proces vytváření této jednotky byl měl začít již v první půli tohoto roku.

Jádrem nové spolupráce by podle Komise měl být důraz na sdílení informací, zkušeností a dovedností v oblasti kybernetické bezpečnosti mezi členskými státy.

Text Lukáše Hendrycha vyšel původně na serveru Euractiv.cz a byl převzat ve verzi, jak vyšel na serveru HlídacíPes.org.

Souhrn toho nejdůležitějšího
každý pátek ve vašem e-mailu.

Přihlásit odběr