„Umelá inteligencia je príliš dôležitá na to, aby nebola regulovaná – a príliš dôležitá na to, aby nebola regulovaná dobre.“ To je citácia jedného z najpovolanejších v online svete, Google CEO Sundar Pichai.
Európsky prístup
Už v apríli 2021 Európska komisia predstavila prvý návrh komplexného regulačného rámca[1] umelej inteligencie (AI), známeho ako „Akt o umelej inteligencii“ (angl. „AI Act“). Ide o návrh nariadenia s priamou uplatniteľnosťou vo všetkých členských štátoch EÚ, podobne ako GDPR. Zvážiac výhody a riziká AI, zadefinovali orgány Európskej únie základný cieľ tejto regulácie nasledovne: „Na podporu rozvoja, využívania a zavádzania umelej inteligencie na vnútornom trhu je preto potrebný právny rámec EÚ, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorý zároveň spĺňa vysokú úroveň ochrany verejných záujmov, ako sú zdravie a bezpečnosť, a ochrany základných práv. Na dosiahnutie tohto cieľa by sa mali stanoviť pravidlá upravujúce uvádzanie určitých systémov umelej inteligencie na trh a do prevádzky, čím sa zabezpečí hladké fungovanie vnútorného trhu a umožní sa, aby tieto systémy využívali zásadu voľného pohybu tovaru a služieb. Stanovením uvedených pravidiel v tomto nariadení sa podporí cieľ EÚ stať sa svetovým lídrom v rozvoji bezpečnej, dôveryhodnej a etickej umelej inteligencie“[2]. Prehľadné zhrnutie celého návrhu je dostupné na webstránke Európskeho parlamentu[3]. Problematike Aktu o umelej inteligencii je venovaná aj osobitná webstránka[4], na ktorej možné nájsť užitočné informácie, vrátane chronologického prehľadu legislatívneho procesu, relevantných dokumentov a analýz.
Návrh Aktu o umelej inteligencii stanovuje povinnosti pre poskytovateľov a používateľov AI v závislosti od úrovne rizika vyplývajúceho z AI, pričom rozlišuje štyri hlavné úrovne rizika: neprijateľné, vysoké, riziko súvisiace s generatívnou AI, obmedzené riziko.
[1] Slovenské znenie tohto prvého návrhu spolu s dôvodovou správou sú verejne dostupné tu:
https://eur-lex.europa.eu/legal-content/SK/TXT/HTML/?uri=CELEX:52021PC0206
[2] Bod 5 dôvodovej správy návrhu Aktu o umelej inteligencii.
[3] Prehľadné zhrnutie Aktu o umelej inteligencii: https://www.europarl.europa.eu/RegData/etudes/BRIE/2021/698792/EPRS_BRI(2021)698792_EN.pdf
[4] Pozri: https://artificialintelligenceact.eu/
Neprijateľné riziko
Systémy AI s neprijateľným rizikom sú systémy, ktoré sa považujú za hrozbu pre ľudí a budú v EÚ zakázané. Patria medzi ne:
- kognitívna manipulácia správania osôb alebo špecifických zraniteľných skupín: napríklad hlasom aktivované hračky, ktoré podporujú nebezpečné správanie detí;
- sociálne bodovanie: klasifikácia ľudí na základe správania, sociálno-ekonomického postavenia, osobných charakteristík;
- biometrické identifikačné systémy v reálnom čase a na diaľku, ako je napríklad rozpoznávanie tváre.
Výnimky ako „následné“ systémy diaľkovej biometrickej identifikácie, pri ktorých sa identifikácia uskutočňuje so značným oneskorením, budú povolené na stíhanie závažných trestných činov a len po schválení súdom.
Vysoké riziko
Systémy AI, ktoré majú negatívny vplyv na bezpečnosť alebo základné práva, sa budú považovať za vysoko rizikové a budú rozdelené do dvoch kategórií. (i) Systémy AI, ktoré sa používajú vo výrobkoch, na ktoré sa vzťahujú právne predpisy EÚ o bezpečnosti výrobkov. Patria sem hračky, letectvo, autá, zdravotnícke pomôcky a výťahy. (ii) Systémy AI, spadajúce do ôsmich špecifických oblastí, ktoré budú musieť byť zaregistrované v databáze EÚ:
- biometrická identifikácia a kategorizácia fyzických osôb;
- riadenie a prevádzka kritickej infraštruktúry;
- vzdelávanie a odborná príprava;
- zamestnanosť, riadenie pracovníkov a prístup k samostatnej zárobkovej činnosti;
- prístup k základným súkromným službám a verejným službám a výhodám a ich využívanie;
- presadzovanie práva;
- riadenie migrácie, azylu a kontroly hraníc;
- pomoc pri právnom výklade a uplatňovaní práva.
Všetky vysokorizikové systémy AI sa budú posudzovať pred uvedením na trh a počas celého ich životného cyklu.
Generatívna umelá inteligencia
Generatívna umelá inteligencia, ako napríklad ChatGPT, bude musieť spĺňať požiadavky na transparentnosť, čiže:
- zverejniť, že obsah bol vygenerovaný umelou inteligenciou;
- navrhnúť model tak, aby sa zabránilo vytváraniu nezákonného obsahu;
- zverejňovať súhrny údajov chránených autorským právom, ktoré sa použili na tréning AI.
Obmedzené riziko
Systémy AI s obmedzeným rizikom by mali spĺňať minimálne požiadavky na transparentnosť, ktoré by používateľom umožnili prijímať informované rozhodnutia. Po interakcii s aplikáciami sa používateľ môže rozhodnúť, či ich chce ďalej používať. Používatelia by mali byť informovaní o tom, že prichádzajú do interakcie s umelou inteligenciou. To zahŕňa systémy AI, ktoré generujú alebo manipulujú s obrazovým, zvukovým alebo video obsahom (napr. deepfakes).
Kritika EÚ prístupu a otázny osud AI Act
V júni 2023 sa viac ako 150 významných európskych spoločností, vrátane Renault, Heineken, Airbus či Siemens, podpísalo pod kritický otvorený list[5]. Podľa nich návrh Aktu o umelej inteligencii v jeho aktuálnom znení môže eliminovať príležitosť, ktorú technológia AI poskytuje Európe, aby sa „opäť pripojila k technologickej špičke“. Signatári tvrdia, že regulatórne pravidlá sú príliš extrémne a hrozí, že namiesto toho, aby poskytli vhodné prostredie pre inovácie v oblasti AI – tak, ako je zamýšľané – práve naopak, podkopú technologické ambície EÚ. Jedna z hlavných obáv, na ktorú upozorňujú, sa týka prísnych pravidiel uplatňovaných na generatívne systémy AI, podskupinu modelov AI, ktoré zvyčajne spadajú pod označenie „základný model“. Podľa návrhu Aktu o umelej inteligencii budú musieť poskytovatelia základných modelov umelej inteligencie – bez ohľadu na ich zamýšľané použitie – zaregistrovať svoj produkt v EÚ, podrobiť sa posúdeniu rizík, a splniť požiadavky na transparentnosť, napríklad zverejniť všetky údaje chránené autorskými právami, ktoré sa použili na trénovanie ich modelov. V otvorenom liste sa uvádza, že spoločnosti vyvíjajúce tieto základné systémy AI by boli vystavené neprimeraným nákladom na dodržiavanie predpisov a rizikám súvisiacim so zodpovednosťou, čo môže poskytovateľov AI podnietiť k úplnému stiahnutiu sa z európskeho trhu. „Európa si nemôže dovoliť zostať bokom,“ uvádza sa v liste, v ktorom zákonodarcovia EÚ vyzývajú, aby upustili od prísnych povinností dodržiavania predpisov v prípade generatívnych modelov AI a namiesto toho sa zamerali na tie, ktoré môžu vyhovieť „širokým zásadám v rámci prístupu založeného na rizikách“.
[5] Pozri: https://www.igizmo.it/wp-content/uploads/2023/06/Open-Letter-EU-AI-Act-and-Signatories.pdf
Predčasný koniec Aktu o umelej inteligencii?
Táto kritika má zrejme – aspoň čiastočne – vecné opodstatnenie, čo potvrdzujú ostatné udalosti v legislatívnom procese[6]. Kým tzv. trialóg koncom októbra 2023 vyzeral ako politický konsenzus aj v oblasti základných modelov generatívnej AI, začiatkom novembra 2023 viaceré členské štáty EÚ, vrátane Francúzska, Nemecka a Talianska, na zasadnutí pracovnej skupiny „Telekom“ odmietli akúkoľvek reguláciu pre základné modely AI. Dokonca to vyzerá tak, že môže ísť aj o politický problém tzv. „prehnanej regulácie“ (angl. „overregulation“).
Naposledy sa európski zákonodarcovia, tzn. zástupcovia Európskeho parlamentu, Rady a Komisie, stretli na trialógu 6. až 9. decembra 2023. Podľa zverejnených informácií[7]sa zrejme nakoniec podarilo dosiahnuť predbežný konsenzus. Zoznam zakázaného použitia AI sa rozšíri aj na vzdialenú biometrickú identifikáciu vo verejných priestoroch, avšak s výnimkou pre orgány presadzovania práva. Finálne znenie textu zatiaľ nie je známe a ďalšie práce a preklady za týmto účelom budú prebiehať. Možno očakávať silný politický tlak na skoré zavŕšenie celého legislatívneho procesu o návrhu Aktu o umelej inteligencii, aj s ohľadom na zmenu predsedníctva v Rade od januára 2024, keď od Španielska preberá predsednícku stoličku Belgicko, a tiež s ohľadom na blížiace sa voľby do Európskeho parlamentu v júni 2024.
[6] Napr. https://www.euractiv.com/section/artificial-intelligence/news/eus-ai-act-negotiations-hit-the-brakes-over-foundation-models/
[7] Pozri: https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/
Americký prístup
Dnes ešte v USA neplatí špeciálna regulácia v oblasti AI, avšak prebiehajú intenzívne prípravné práce[8]. Najpravdepodobnejším výsledkom pre Spojené štáty bude mozaika opatrení výkonnej moci, ktoré sa uskutočnia zdola nahor. Na rozdiel od Európy nie je pravdepodobné, že by Spojené štáty v najbližších rokoch prijali rozsiahly národný zákon o umelej inteligencii. Čiastková legislatíva sa pravdepodobne zameria na menej kontroverzné a cielené opatrenia – ako je financovanie výskumu AI alebo bezpečnosť detí. To pravdepodobne sklamalo zástancov silnej národnej regulácie AI. Tento výsledok nebude zrejme tak systematický a určite bude mať legislatívne medzery, to však neznamená, že by nemohol byť efektívny. Pravdepodobne budeme v USA svedkami rôznych opatrení agentúr pôsobiacich v jednotlivých dotknutých oblastiach, najmä v oblasti zdravotnej starostlivosti, finančných služieb, bývania, pracovnej sily a bezpečnosti detí, plus viacerých vládnych nariadení. Táto mozaikovitá paleta pravidiel by v prípade dobrej implementácie mohla byť podložená odbornými znalosťami konkrétnych agentúr a viac prispôsobená inováciám. Federálna vláda USA pravdepodobne zvýši výdavky na umelú inteligenciu a jej výskum, najmä v oblasti obrany a spravodajstva, a využije svoju kúpnu silu na formovanie trhu. Pravdepodobne sa objavia obchodné kolízie v oblasti AI s Európou a súkromné spoločnosti budú presadzovať svoje vlastné iniciatívy „zodpovednej AI“ a čeliť roztrieštenému globálnemu regulačnému prostrediu v oblasti AI. Hroziaca konkurencia zo strany Číny vystupňuje diskusiu o tom ako „nezaostať“. Federálna obchodná komisia (FTC) a ministerstvo spravodlivosti (DOJ) pravdepodobne budú proaktívne brániť prílišnej koncentrácii AI v najrozšírenejších technológiách. Existuje tiež reálna, ale menej pravdepodobná, šanca, že niektorý kľúčový štát USA (napr. Kalifornia) prijme významné právne predpisy týkajúce sa AI, alebo že dôjde k veľkej katastrofe súvisiacej s AI[9]. Aj v USA budú v roku 2024 prezidentské voľby a prísnejšia regulácie umelej inteligencie môže byť témou aj v kontexte vývoja v Číne.
[8] Pozri https://ai.gov/
[9] Pozri: https://www.csis.org/blogs/strategic-technologies-blog/ai-regulation-coming-what-likely-outcome
Čína
V polovici augusta 2023 nadobudol účinnosť nový čínsky zákon, ktorého cieľom je regulovať generatívnu umelú inteligenciu. Tento zákon, ktorý je posledným zo série predpisov zameraných na rôzne aspekty AI, je medzinárodne prelomový ako prvý zákon, ktorý sa špecificky zameriava na generatívnu umelú inteligenciu. Zavádzajú sa v ňom nové obmedzenia pre spoločnosti, ktoré poskytujú tieto služby spotrebiteľom, pokiaľ ide o použité tréningové údaje aj vytvorené výstupy. V porovnaní s rôznymi verziami legislatívneho návrhu, schválené znenie zákona o generatívnej umelej inteligencii je značne oslabené. Boli odstránené požiadavky konať v trojmesačnej lehote na nápravu nezákonného obsahu a zabezpečiť, aby všetky tréningové údaje a výstupy boli „pravdivé a presné“. Zároveň sa objasnilo, že tieto pravidlá sa vzťahujú len na verejne prístupné generatívne systémy AI. Pridalo sa aj nové ustanovenie, v ktorom sa uvádza, že vývoj a inovácie by mali mať rovnakú váhu ako bezpečnosť a správa systémov. Zaviedla sa aj povinnosť označovania obsahu vytvoreného umelou inteligenciou vodoznakom ako nevyhnutným nástrojom na boj proti dezinformáciám.
Globálna harmonizácia v nedohľadne
Štáty G7 v septembri 2023 prijali správu o generatívnej umelej inteligencii[10]. Jej súčasťou nie sú žiadne prísľuby ani náznaky globálnej harmonizácie v tejto oblasti. Dôraz by sa mal klásť skôr na dobrovoľné kódexy správania (angl. „voluntary codes of conduct“), pričom zákonná regulácia v jednotlivých štátoch by sa mala obmedziť len na tie oblasti, kde je verejný záujem najvýznamnejší, ako sú ľudské práva, ochrana zdravia, boj proti dezinformáciám, ochrana dát, ochrana súkromia a ochrana duševného vlastníctva.
[10] Pozri: https://www.oecd-ilibrary.org/science-and-technology/g7-hiroshima-process-on-generative-artificial-intelligence-ai_bf3c0c60-en
Záverečné poznámky
Regulácia generatívnej umelej inteligencie (ako napr. ChatGPT), teda či vôbec a v akom rozsahu ju regulovať, bude zlomovou líniou v ďalšom legislatívnom vývoji vo všetkých relevantných krajinách vrátane EÚ a USA. Viaceré jednotlivé aspekty rozvoja, využívania a zavádzania AI, sú už viac alebo menej regulované, napr. ochrana dát, ochrana súkromia alebo ochrana duševného vlastníctva. Tu by mohla postačovať skôr náležitá výkladová a metodická činnosť príslušných regulačných autorít a časom aj súdna judikatúra. Červené čiary by však pre AI určite mala určovať zákonná regulácia. Či sa osvedčí doterajší komplexný proaktívny prístup EÚ (Akt o umelej inteligencii) alebo skôr zdržanlivý prístup USA v štýle „laissez-faire“, to ukáže blízka budúcnosť.
