Ostatné roky sme svedkami obrovského pokroku v oblasti umelej inteligencie (AI), ktorá so sebou prináša obrovské možnosti na jednej strane, a na druhej strane veľké riziká.
Ako sme informovali v predchádzajúcom čísle, po celom svete nastupuje regulácia AI, pričom v Európskej únii bol po dlhšej legislatívnej procedúre nedávno schválený Akt o umelej inteligencii.
Téma hľadania vhodných pravidiel pre AI je pritom oveľa hlbšia, ako by sa na prvý pohľad mohlo zdať, pretože využívanie umelej inteligencie bude v EÚ regulované aj v oblastiach, v ktorých by to len málokto čakal, napríklad pri výťahoch, dopravných značeniach, alebo dokonca v niektorých medicínskych aplikáciách. Cieľom tohto článku je zoznámiť čitateľov so základným okruhom subjektov, ktorých sa táto regulácia dotkne.
Akt o umelej inteligencii (AI Akt) vychádza z kategorizácie rizík, ktoré predstavuje konkrétny systém umelej inteligencie. Rozlišujú sa štyri typy rizík:
- Zakázané systémy: Systémy s najvyšším rizikom.
- Systémy s významným rizikom: Označované ako vysoko rizikové systémy. Práve tieto sú v AI Akte najviac regulované.
- Systémy s obmedzeným rizikom: Tieto sú veľmi regulované, najmä v článku 50 AI Aktu.
- Systémy s minimálnym rizikom: Nie sú regulované, pretože ich riziko je veľmi limitované.
Vedeli ste, že aj technológia OCR je považovaná za systém AI? Pravdepodobne však prináša iba minimálne riziko. Naopak systém tzv. sociálneho bodovania bude prinášať riziko, že bude zakázaný.
Zakázané systémy
Zakázané systémy AI sú tie, ktoré môžu spôsobiť fyzickú alebo psychologickú ujmu prostredníctvom manipulácie správania alebo využívania zraniteľností ľudí, ktorými sú deti či starší ľudia. Zakázané je aj sociálne bodovanie a také využitie systému AI, ktoré diskriminuje na základe správania či charakteristík, a tiež vzdialené biometrické identifikovanie osôb na verejných miestach v reálnom čase, s výnimkou veľmi špecifických okolností.
Pre ilustráciu uvádzame stručný zoznam zakázaných systémov využívajúcich AI:
- Manipulatívne techniky na ovplyvňovanie správania osôb bez ich vedomia: Napríklad aplikácia, ktorá pomocou vizuálnych alebo zvukových signálov manipuluje užívateľov, aby si kúpili konkrétny produkt.
- Využívanie zraniteľností osôb na základe veku, zdravotného postihnutia, alebo sociálnej či ekonomickej situácie na ovplyvňovanie ich správania: Môže sa jednať o reklamný systém, ktorý cielené reklamy na drahé lieky zobrazuje starším ľuďom alebo osobám so zdravotnými problémami.
- Sociálne skórovanie osôb na základe ich spoločenského správania a osobných charakteristík s negatívnymi dôsledkami: Príkladom je systém, ktorý prideľuje sociálne skóre občanom na základe ich online aktivity a ovplyvňuje ich prístup k službám ako je napríklad bývanie alebo zamestnanie.
- Posudzovanie rizík spáchania trestného činu na základe profilovania alebo osobnostných vlastností: AI systém, ktorý predpovedá budúce kriminálne správanie osôb iba na základe ich minulých záznamov a osobnostných čŕt, bez ďalších dôkazov.
- Vytváranie alebo rozširovanie databáz na rozpoznávanie tváre prostredníctvom širokej extrakcie podôb tváre: Systém, ktorý zbiera a analyzuje tváre ľudí z verejných kamerových (CCTV) záznamov bez ich vedomia a súhlasu.
- Rozpoznávanie emócií na pracovisku a vo vzdelávacích inštitúciách (okrem zdravotných alebo bezpečnostných dôvodov): AI systém, ktorý monitoruje a analyzuje emócie zamestnancov počas pracovného dňa na účely hodnotenia ich výkonnosti.
- Biometrická kategorizácia osôb na základe biometrických údajov na odvodenie rasy, politických názorov, členstva v odboroch, náboženských presvedčení, sexuálneho života alebo orientácie: Systém, ktorý analyzuje biometrické údaje, aby určil náboženské presvedčenie alebo politické názory osoby, a používa tieto údaje na diskriminačné účely.
- Používanie AI systémov na diaľkovú biometrickú identifikáciu v reálnom čase vo verejných priestoroch na účely presadzovania práva (s výnimkami pre určité vážne prípady): Systém, ktorý nepretržite monitoruje verejné priestranstvá a identifikuje osoby v reálnom čase, napríklad na letisku, bez adekvátneho právneho základu.
Vysokorizikové systémy AI
Všeobecne sa za vysokorizikové systémy na základe spôsobu ich využitia považujú vybrané spôsoby podľa AI Aktu. Tieto spôsoby sú všetky vymenované v AI Akte, i keď sa môžu priebežne meniť rozhodnutím Európskej komisie. Sumárne sú za vysokorizikové považované tieto systémy AI používané na nasledovné oblasti:
- Biometria
- Kritická infraštruktúra: Bezpečnostné komponenty pri riadení a prevádzke kritickej infraštruktúry vrátane digitálnej.
- Vzdelávanie a odborná príprava
- Zamestnanosť, riadenie pracovníkov a prístup k samostatnej zárobkovej činnosti
- Prístup k základným súkromným službám a základným verejným službám a dávkam a ich využívanie
- Presadzovanie práva: Pokiaľ je ich použitie povolené podľa príslušných právnych predpisov Únie alebo vnútroštátnych právnych predpisov.
- Migrácia, azyl a riadenie kontroly hraníc
- Výkon spravodlivosti a demokratické procesy
Ďalším spôsobom ako identifikovať vysokorizikový systém je posúdenie, či systém slúži ako bezpečnostný prvok a je bezpečnostným komponentom výrobku, na ktorý sa vzťahujú harmonizačné právne predpisy Európskej únie. Tento výrobok musí podstúpiť posúdenie zhody treťou stranou s cieľom uviesť ho na trh alebo do prevádzky podľa európskych predpisov. Táto časť je dôležitá pre prevádzkovateľov alebo dovozcov, pretože ak ich výrobok musí podstúpiť posúdenie zhody treťou stranou, pravdepodobne ide o vysoko rizikový systém a vzťahuje sa naň mnoho povinností.
Príklady oblastí vysoko rizikových systémov:
- Bezpečnosť hračiek
- Rekreačné plavidlá a vodné skútre
- Výťahy a bezpečnostné komponenty do výťahov
- Zariadenia a ochranné systémy v potenciálne výbušnej atmosfére
- Rádiové zariadenia
- Tlakové zariadenia
- Lanovkové zariadenia
- Osobné ochranné prostriedky
- Spotrebiče spaľujúce plynné palivá
- Zdravotnícke pomôcky a diagnostické zdravotnícke pomôcky in vitro, vrátane niektorých zdravotníckych aplikácií
Tieto príklady ilustrujú širokú škálu oblastí, v ktorých môže byť AI systém považovaný za vysoko rizikový, a preto podlieha prísnym reguláciám a posúdeniam zhody.
Kto by to povedal, že sa AI Akt bude okrem super moderných aplikácií vzťahovať napríklad na výťahy, ochranné osobné prostriedky, alebo dokonca hračky v prípade, že sa použije niektorá časť, ktorá bude zakladať na použití AI. A definícia AI je pomerne široká! Radi by sme vás preto upozornili, že tieto povinnosti sa netýkajú len výrobcov. V prípade, že sa jedná o vysoko rizikový systém, platia aj pre takmer všetky zúčastnené strany v dodávateľskom reťazci.
Povinné subjekty
Z praktického hľadiska je najdôležitejšie posúdiť, aké osoby budú mať povinnosti, v prípade ak konkrétna aplikácia alebo obchodný model boli identifikované v nejakej oblasti, ktorá sa považuje za vysokorizikovú ako napríklad biometria, bezpečnosť hračiek a podobne. Regulačné povinnosti sa uplatnia napríklad na nasledovné osoby:
- Výrobca AI výrobkov: Osoba alebo firma, ktorá vyvíja a vyrába produkty obsahujúce umelú inteligenciu a uvádza ich na trh pod svojím menom alebo značkou.
- Poskytovateľ AI: Osoba alebo organizácia, ktorá vyvíja alebo si nechá vyvinúť systém AI a ponúka ho na trhu pod svojím menom alebo značkou. Môže to byť firma, vládny úrad, agentúra alebo iný subjekt, ktorý systém AI sprístupňujú na používanie, či už za poplatok alebo zadarmo.
- Nasadzujúci subjekt (používateľ AI): Osoba alebo organizácia, ktorá používa systém AI v rámci svojej práce alebo činnosti, s výnimkou prípadov, keď sa systém AI používa na osobné a neprofesionálne účely.
- Dovozca: Osoba alebo firma, ktorá sa nachádza v Európskej únii a uvádza na trh systém AI vyrobený a označený menom alebo značkou spoločnosti z inej krajiny mimo EÚ.
- Distribútor: Osoba alebo firma v dodávateľskom reťazci, ktorá sprístupňuje systém AI na trhu Európskej únie, ale nie je to poskytovateľ ani dovozca.
Na každého z týchto vymenovaných osôb sa vzťahuje AI Akt a mnoho povinností z neho vyplývajúcich.
Regulácia umelej inteligencie prostredníctvom AI Aktu predstavuje významný krok smerom k bezpečného využívania technológií AI. Tieto nové pravidlá sa dotknú širokého spektra oblastí a zavádzajú povinnosti pre výrobcov, poskytovateľov, používateľov, dovozcov a distribútorov systémov AI, a to aj pri nečakaných oblastiach ako sa môžu javiť napríklad hračky.
Ak ste identifikovali, že vaša aplikácia alebo obchodný model môže patriť do kategórie vysokorizikových systémov, je dôležité podniknúť potrebné kroky na splnenie všetkých povinností vyplývajúcich z AI Aktu. Neváhajte sa obrátiť na odborníkov, ktorí vám pomôžu s nastavením vášho systému tak, aby bol v súlade s regulačnými požiadavkami.
Implementácia AI technológií prináša obrovský potenciál pre inovácie a rast, avšak len v prípade, že sa uskutočňuje s dôrazom na bezpečnosť a ochranu jednotlivcov. AI Akt je krokom správnym smerom a jeho dodržiavanie prispieva k dôvere verejnosti v umelú inteligenciu a jej pozitívne prínosy pre spoločnosť.
