Od augusta 2024 nadobúda účinnosť európsky akt o umelej inteligencii, ktorý je prvým komplexným nariadením o umelej inteligencii na svete. Akt o umelej inteligencii je navrhnutý tak, aby zabezpečil dôveryhodnosť umelej inteligencie vyvinutej a používanej v EÚ so zárukami na ochranu základných práv ľudí. Cieľom nariadenia je vytvoriť harmonizovaný vnútorný trh s umelou inteligenciou v EÚ, podporiť zavádzanie tejto technológie a vytvoriť priaznivé prostredie pre inovácie a investície.

V akte o umelej inteligencii sa zavádza perspektívne vymedzenie umelej inteligencie založené na prístupe založenom na bezpečnosti výrobkov a riziku v EÚ:

• Minimálne riziko: Väčšina systémov umelej inteligencie, ako sú odporúčacie systémy založené na umelej inteligencii a spamové filtre, patrí do tejto kategórie. Tieto systémy nemajú žiadne povinnosti podľa aktu o umelej inteligencii z dôvodu ich minimálneho rizika pre práva a bezpečnosť občanov. Spoločnosti môžu dobrovoľne prijať ďalšie kódexy správania.
• Osobitné riziko transparentnosti: Systémy umelej inteligencie, ako sú chatboty, musia používateľom jasne oznámiť, že komunikujú so strojom. Určitý obsah vytvorený umelou inteligenciou vrátane deepfakes musí byť takto označený a používatelia musia byť informovaní o používaní systémov biometrickej kategorizácie alebo rozpoznávania emócií. Okrem toho budú poskytovatelia musieť navrhnúť systémy tak, aby syntetický obsah (napr. audio, video, texty a obrázky) bol označený v strojovo čitateľnom formáte a identifikovateľný ako umelo vygenerovaný alebo manipulovaný.

• Vysoké riziko: Systémy umelej inteligencie identifikované ako vysokorizikové budú musieť spĺňať prísne požiadavky vrátane systémov na zmiernenie rizika, vysokej kvality súborov údajov, záznamov o činnosti, podrobnej dokumentácie, jasných informácií pre používateľov, ľudského dohľadu a vysokej úrovne spoľahlivosti, presnosti a kybernetickej bezpečnosti. Experimentálne regulačné prostredie uľahčí zodpovednú inováciu a vývoj systémov umelej inteligencie spĺňajúcich pravidlá. Takéto vysokorizikové systémy umelej inteligencie zahŕňajú napríklad systémy umelej inteligencie používané na nábor alebo na posúdenie toho, či je niekto oprávnený získať úver alebo prevádzkovať autonómne roboty.

• Neprijateľné riziko: Systémy umelej inteligencie považované za jasnú hrozbu pre základné práva ľudí budú zakázané. Patria sem systémy alebo aplikácie umelej inteligencie, ktoré manipulujú ľudské správanie s cieľom obísť bezplatnú vôľu používateľov, ako sú hračky využívajúce hlasovú pomoc podporujúcu nebezpečné správanie maloletých, systémy, ktoré umožňujú „sociálne hodnotenie“ zo strany vlád alebo spoločností, a určité aplikácie prediktívnej policajnej práce. Okrem toho niektoré použitia biometrických systémov však budú zakázané: napríklad systémy rozpoznávania emócií používané na pracoviskách a niektoré systémy kategorizácie ľudí alebo biometrická identifikácia na diaľku v reálnom čase na účely presadzovania práva vo verejnom priestore (s niekoľkými výnimkami).

Na doplnenie tohto systému sa v akte o umelej inteligencii zavádzajú aj pravidlá pre tzv. modely umelej inteligencie na všeobecné účely, ktoré sú vysoko schopné modely umelej inteligencie, ktoré sú navrhnuté tak, aby vykonávali širokú škálu úloh, ako je vytváranie textu podobného človeku. Modely umelej inteligencie na všeobecné účely sa čoraz častejšie používajú ako komponenty aplikácií umelej inteligencie. Aktom o umelej inteligencii sa zabezpečí transparentnosť v celom hodnotovom reťazci a budú sa riešiť možné systémové riziká najschopnejších modelov.

Uplatňovanie a presadzovanie pravidiel umelej inteligencie

Členské štáty musia do 2. augusta 2025 určiť príslušné vnútroštátne orgány, ktoré budú dohliadať na uplatňovanie pravidiel pre systémy umelej inteligencie a vykonávať činnosti dohľadu nad trhom. Úrad Komisie preumelú inteligenciu bude kľúčovým vykonávacím orgánom aktu o umelej inteligencii na úrovni EÚ, ako aj orgánom presadzovania pravidiel pre modely umelej inteligencie na všeobecné účely.

Vykonávanie pravidiel budú podporovať tri poradné orgány. Európska rada pre umelú inteligenciu zabezpečí jednotné uplatňovanie aktu o umelej inteligencii vo všetkých členských štátoch EÚ a bude pôsobiť ako hlavný orgán pre spoluprácu medzi Komisiou a členskými štátmi. Vedecká skupina nezávislých odborníkov bude poskytovať technické poradenstvo a podnety týkajúce sa presadzovania práva. Tento panel môže úradu pre umelú inteligenciu najmä vydávať upozornenia o rizikách spojených s modelmi umelej inteligencie na všeobecné účely. Úrad pre umelú inteligenciu môže takisto získať usmernenia od poradného fóra zloženého z rôznych zainteresovaných strán.

Spoločnosti, ktoré nebudú dodržiavať pravidlá, budú pokutované. Pokuty by sa mohli zvýšiť až na 7 % celosvetového ročného obratu za porušenia zakázaných aplikácií umelej inteligencie, až 3 % za porušenie iných povinností a až o 1,5 % za poskytnutie nesprávnych informácií.

Ďalšie kroky

Väčšina pravidiel aktu o umelej inteligencii sa začne uplatňovať 2. augusta 2026. Zákazy systémov umelej inteligencie, ktoré predstavujú neprijateľné riziko, sa však budú uplatňovať už po šiestich mesiacoch, zatiaľ čo pravidlá pre takzvané modely umelej inteligencie na všeobecné účely sa budú uplatňovať po 12 mesiacoch.

S cieľom preklenúť prechodné obdobie pred úplným vykonávaním Komisia spustila Pakt o umelej inteligencii. Táto iniciatíva vyzýva vývojárov umelej inteligencie, aby dobrovoľne prijali kľúčové povinnosti vyplývajúce z aktu o umelej inteligencii pred uplynutím zákonných lehôt. 

Komisia takisto vypracúva usmernenia s cieľom vymedziť a podrobne opísať, ako by sa mal akt o umelej inteligencii vykonávať, a uľahčiť koregulačné nástroje, ako sú normy a kódexy postupov. Komisia uverejnila výzvu na vyjadrenie záujmu o účasť na vypracovaní prvého všeobecného kódexu postupov v oblasti umelej inteligencie, ako aj konzultácie s viacerými zainteresovanými stranami, ktoré všetkým zainteresovaným stranám poskytli príležitosť vyjadriť sa k prvému kódexu postupov podľa aktu o umelej inteligencii.

Súvislosti

Komisia 9. decembra 2023 uvítala politickú dohodu o akte o umelej inteligencii. Komisia 24. januára 2024 spustila balík opatrení na podporu európskych startupov a MSP pri rozvoji dôveryhodnej umelej inteligencie. Komisia 29. mája 2024 predstavila úrad pre umelú inteligenciu. Dňa 9. júla 2024 nadobudlo účinnosť zmenené nariadenie o spoločnom podniku EuroHPC, čím sa umožnilo zriadenie tovární umelej inteligencie. To umožňuje používať špecializované superpočítače umelej inteligencie na trénovanie modelov umelej inteligencie na všeobecné účely (GPAI).

Pokračujúci nezávislý výskum založený na dôkazoch, ktorý vypracovalo Spoločné výskumné centrum (JRC), má zásadný význam pre formovanie politík EÚ v oblasti umelej inteligencie a zabezpečenie ich účinného vykonávania.

Viac informácií

Európsky akt o umelej inteligencii

Nové pravidlá pre umelú inteligenciu – otázky a odpovede 

Európsky úrad pre umelú inteligenciu | Formovanie digitálnej budúcnosti Európy

Komisia uverejnila druhú správu o stave digitálneho desaťročia, v ktorej poskytuje komplexný prehľad o pokroku dosiahnutom v úsilí o dosiahnutie digitálnych cieľov a zámerov stanovených na rok 2030 v rámci politického programu Digitálne desaťročie (DDPP). Tento rok je k správe po prvýkrát pripojená analýza vnútroštátnychstrategických plánov digitálneho desaťročia, ktoré predložili členské štáty, v ktorej sa podrobne opisujú plánované vnútroštátne opatrenia, činnosti a financovanie s cieľom prispieť k digitálnej transformácii EÚ.

Z analýzy Komisie vyplýva, že v súčasnom scenári kolektívne úsilie členských štátov nedosiahne úroveň ambícií EÚ. Medzi zistené nedostatky patrí potreba dodatočných investícií na úrovni EÚ aj na vnútroštátnej úrovni, najmä v oblasti digitálnych zručností, vysokokvalitnej pripojiteľnosti, využívania umelej inteligencie a analýzy údajov podnikmi, výroby polovodičov a ekosystémov startupov.

EÚ aj členské štáty zohrávajú dôležitú úlohu pri presadzovaní nového právneho rámca, prijímaní opatrení na podporu šírenia digitálnych technológií a zabezpečení toho, aby ich občania mali primerané digitálne zručnosti, aby mohli v plnej miere využívať výhody digitálnej transformácie. Preto je tohtoročná správa výzvou na posilnenie opatrení pre členské štáty, aby boli ambicióznejšie, keďže dosiahnutie cieľov digitálneho desaťročia v oblasti digitálnej infraštruktúry, podnikov, zručností a verejných služieb má zásadný význam pre budúcu hospodársku prosperitu a spoločenskú súdržnosť EÚ.

V tejto súvislosti Komisia aktualizovala aj odporúčania pre jednotlivé krajiny a prierezové odporúčania pre každý členský štát EÚ s cieľom riešiť zistené nedostatky.

Konkurencieschopná, zvrchovaná a odolná EÚ: digitálna infraštruktúra a podniky

Prijatie a rozvoj inovačných technológií má zásadný význam pre konkurencieschopnosť Európy, najmä v súčasnom geopolitickom prostredí a vzhľadom na rastúce hrozby v oblasti kybernetickej bezpečnosti, čo si vyžaduje zvýšenú odolnosť a spoľahlivé bezpečnostné opatrenia.

V správe sa zdôrazňuje, že EÚ ani zďaleka nedosiahla ciele v oblasti pripojiteľnosti stanovené v DDPP: Optické siete, ktoré sú rozhodujúce pre zabezpečenie gigabitového pripojenia a umožňujú zavádzanie špičkových technológií, ako sú umelá inteligencia, cloud a internet vecí, majú dosah len na 64 % domácností. Vysokokvalitné siete 5G dnes dosahujú len 50 % územia EÚ a ich výkonnosť je stále nedostatočná na poskytovanie pokročilých služieb 5G. V záujme riešenia týchto výziev by členské štáty a Komisia mali spolupracovať na podpore skutočne funkčného jednotného digitálneho trhu.

V roku 2023 bolo využívanie umelej inteligencie, cloudu a/alebo veľkých dát európskymi spoločnosťami výrazne pod cieľovou hodnotou digitálneho desaťročia 75 %. Podľa súčasných trendov bude do roku 2030 využívať cloud len 64 % podnikov, 50 % veľkých dát a len 17 % umelej inteligencie. Na dosiahnutie digitalizácie podnikateľského sektora je mimoriadne dôležité stimulovať využívanie inovačných digitálnych nástrojov zo strany MSP, najmä cloudu a umelej inteligencie, ako aj mobilizovať ďalšie súkromné investície do rýchlo rastúcich startupov. Je to nevyhnutné na zachovanie konkurencieschopnosti Európy, pokiaľ ide o inovácie, efektívnosť a rast založené na údajoch.

Ďalšou veľkou výzvou, ktorej čelí digitálna transformácia EÚ, je aj naďalej obmedzené šírenie digitálnych technológií mimo veľkých miest. Na riešenie tejto digitálnej priepasti je nevyhnutné podporovať spoluprácu medzi európskymi aktérmi na cezhraničnej a miestnej úrovni, napríklad prostredníctvom viacnárodných projektov, európskych centier digitálnych inovácií (EDIH) a konzorcií pre európsku digitálnu infraštruktúru ( EDIC). Od minulého roka sa v tejto súvislosti dosiahol rad úspechov, pričom do konca mája 2024 boli zriadené tri centrá EDIC.

Digitálna politika pre ľudí a spoločnosť: digitálne zručnosti a verejné služby

Jadrom digitálneho desaťročia a prvej zásady Deklarácie o digitálnych právach a zásadách je to, aby sa ľudia stali stredobodom digitálnej transformácie našich spoločností a hospodárstiev.

V súčasnosti sa ciele v oblasti digitálnych zručností stanovené v digitálnom desaťročí ešte zďaleka nedosiahli, pričom len 55,6 % obyvateľstva EÚ má aspoň základné digitálne zručnosti. Podľa súčasného trendu bude počet odborníkov v oblasti IKT v EÚ v roku 2030 približne 12 miliónov, pričom pretrváva rodová nerovnováha. Na dosiahnutie cieľov by členské štáty mali uplatňovať mnohostranný prístup na podporu digitálnych zručností na všetkých úrovniach vzdelávania a motivovať mladých ľudí, najmä dievčatá, aby sa zaujímali o vedné, technologické, inžinierske a matematické (STEM) disciplíny.

Členské štáty napredujú smerom k cieľu sprístupniť občanom a podnikom všetky kľúčové verejné služby a elektronické zdravotné záznamy online, ako aj poskytnúť im bezpečnú elektronickú identifikáciu (eID). Napriek nerovnomernému využívaniu v členských štátoch je elektronická identifikácia v súčasnosti k dispozícii 93 % obyvateľstva EÚ a očakáva sa, že európska peňaženka digitálnej identity bude stimulovať jej používanie. V scenári nezmeneného prístupu je však dosiahnutie 100 % digitálnych verejných služieb pre občanov a podniky do roku 2030 naďalej náročné.

Ďalšie kroky

Členské štáty budú teraz musieť do 2. decembra 2024 preskúmať a upraviť svoje vnútroštátne plány tak, aby boli v súlade s ambíciou politického programu Digitálne desaťročie. Ako sa uvádza v DDPP, Komisia bude monitorovať a posudzovať vykonávanie týchto odporúčaní a v roku 2025 podá správu o pokroku dosiahnutom v nasledujúcej správe o stave digitálneho desaťročia.

Súvislosti

Cesta k digitálnemu desaťročiu, ktorá bola navrhnutá v septembri 2021, stanovuje jasnú cestu k dosiahnutiu digitálnej transformácie v Európskej únii. V decembri 2022 ho doplnilo Európske vyhlásenie o digitálnych právach a zásadách stanovením zásad a záväzkov, ktoré by mala nasledovať digitálna transformácia EÚ. Prvá správa o stave digitálneho desaťročia bola uverejnená v septembri 2023.

Tohtoročnú správu dopĺňa komplexný balík pracovných dokumentov, správ a štúdií útvarov Komisie, v ktorých sa ďalej uvádza pokrok v rôznych rozmeroch DDPP. K tomuto monitorovaniu prispelo aj Spoločné výskumné centrum Komisie (JRC), pričom poskytlo metodiku na agregáciu vnútroštátnych digitálnych cieľov na úrovni EÚ a mapovalo objem investícií z nástrojov financovania EÚ, ktoré sa týkajú iniciatív s digitálnou zložkou.

Počas súčasného mandátu EÚ prijala významné opatrenia na dosiahnutie pokroku v plnení cieľov a zámerov digitálneho desaťročia. Návrhom a prijatím kľúčových právnych predpisov aktívne podporuje bezpečnejší online priestor pre európskych občanov a ochranu spotrebiteľa a zároveň chráni inovačný potenciál európskych spoločností. Značné finančné prostriedky EÚ boli sprístupnené aj na podporu digitálnej transformácie, najmä prostredníctvom Mechanizmu na podporu obnovy a odolnosti (150 miliárd EUR), DIGITAL Europe (7,9 miliardy EUR) a Nástroja na prepájanie Európy 2 Digitalizácia (1,7 miliardy EUR).

Viac informácií

Správa o stave digitálneho desaťročia v roku 2024

Informačná stránka o stave digitálneho desaťročia

Fakty o správach o jednotlivých krajinách v rámci digitálneho desaťročia

Eurobarometer o stave digitálneho desaťročia 2024

Európske digitálne desaťročie

Európske vyhlásenie o digitálnych právach a zásadách