Európsky akt o umelej inteligencii nadobúda účinnosť

Od augusta 2024 nadobúda účinnosť európsky akt o umelej inteligencii, ktorý je prvým komplexným nariadením o umelej inteligencii na svete. Akt o umelej inteligencii je navrhnutý tak, aby zabezpečil dôveryhodnosť umelej inteligencie vyvinutej a používanej v EÚ so zárukami na ochranu základných práv ľudí. Cieľom nariadenia je vytvoriť harmonizovaný vnútorný trh s umelou inteligenciou v EÚ, podporiť zavádzanie tejto technológie a vytvoriť priaznivé prostredie pre inovácie a investície.

V akte o umelej inteligencii sa zavádza perspektívne vymedzenie umelej inteligencie založené na prístupe založenom na bezpečnosti výrobkov a riziku v EÚ:

• Minimálne riziko: Väčšina systémov umelej inteligencie, ako sú odporúčacie systémy založené na umelej inteligencii a spamové filtre, patrí do tejto kategórie. Tieto systémy nemajú žiadne povinnosti podľa aktu o umelej inteligencii z dôvodu ich minimálneho rizika pre práva a bezpečnosť občanov. Spoločnosti môžu dobrovoľne prijať ďalšie kódexy správania.
• Osobitné riziko transparentnosti: Systémy umelej inteligencie, ako sú chatboty, musia používateľom jasne oznámiť, že komunikujú so strojom. Určitý obsah vytvorený umelou inteligenciou vrátane deepfakes musí byť takto označený a používatelia musia byť informovaní o používaní systémov biometrickej kategorizácie alebo rozpoznávania emócií. Okrem toho budú poskytovatelia musieť navrhnúť systémy tak, aby syntetický obsah (napr. audio, video, texty a obrázky) bol označený v strojovo čitateľnom formáte a identifikovateľný ako umelo vygenerovaný alebo manipulovaný.

• Vysoké riziko: Systémy umelej inteligencie identifikované ako vysokorizikové budú musieť spĺňať prísne požiadavky vrátane systémov na zmiernenie rizika, vysokej kvality súborov údajov, záznamov o činnosti, podrobnej dokumentácie, jasných informácií pre používateľov, ľudského dohľadu a vysokej úrovne spoľahlivosti, presnosti a kybernetickej bezpečnosti. Experimentálne regulačné prostredie uľahčí zodpovednú inováciu a vývoj systémov umelej inteligencie spĺňajúcich pravidlá. Takéto vysokorizikové systémy umelej inteligencie zahŕňajú napríklad systémy umelej inteligencie používané na nábor alebo na posúdenie toho, či je niekto oprávnený získať úver alebo prevádzkovať autonómne roboty.

• Neprijateľné riziko: Systémy umelej inteligencie považované za jasnú hrozbu pre základné práva ľudí budú zakázané. Patria sem systémy alebo aplikácie umelej inteligencie, ktoré manipulujú ľudské správanie s cieľom obísť bezplatnú vôľu používateľov, ako sú hračky využívajúce hlasovú pomoc podporujúcu nebezpečné správanie maloletých, systémy, ktoré umožňujú „sociálne hodnotenie“ zo strany vlád alebo spoločností, a určité aplikácie prediktívnej policajnej práce. Okrem toho niektoré použitia biometrických systémov však budú zakázané: napríklad systémy rozpoznávania emócií používané na pracoviskách a niektoré systémy kategorizácie ľudí alebo biometrická identifikácia na diaľku v reálnom čase na účely presadzovania práva vo verejnom priestore (s niekoľkými výnimkami).

Na doplnenie tohto systému sa v akte o umelej inteligencii zavádzajú aj pravidlá pre tzv. modely umelej inteligencie na všeobecné účely, ktoré sú vysoko schopné modely umelej inteligencie, ktoré sú navrhnuté tak, aby vykonávali širokú škálu úloh, ako je vytváranie textu podobného človeku. Modely umelej inteligencie na všeobecné účely sa čoraz častejšie používajú ako komponenty aplikácií umelej inteligencie. Aktom o umelej inteligencii sa zabezpečí transparentnosť v celom hodnotovom reťazci a budú sa riešiť možné systémové riziká najschopnejších modelov.

Uplatňovanie a presadzovanie pravidiel umelej inteligencie

Členské štáty musia do 2. augusta 2025 určiť príslušné vnútroštátne orgány, ktoré budú dohliadať na uplatňovanie pravidiel pre systémy umelej inteligencie a vykonávať činnosti dohľadu nad trhom. Úrad Komisie preumelú inteligenciu bude kľúčovým vykonávacím orgánom aktu o umelej inteligencii na úrovni EÚ, ako aj orgánom presadzovania pravidiel pre modely umelej inteligencie na všeobecné účely.

Vykonávanie pravidiel budú podporovať tri poradné orgány. Európska rada pre umelú inteligenciu zabezpečí jednotné uplatňovanie aktu o umelej inteligencii vo všetkých členských štátoch EÚ a bude pôsobiť ako hlavný orgán pre spoluprácu medzi Komisiou a členskými štátmi. Vedecká skupina nezávislých odborníkov bude poskytovať technické poradenstvo a podnety týkajúce sa presadzovania práva. Tento panel môže úradu pre umelú inteligenciu najmä vydávať upozornenia o rizikách spojených s modelmi umelej inteligencie na všeobecné účely. Úrad pre umelú inteligenciu môže takisto získať usmernenia od poradného fóra zloženého z rôznych zainteresovaných strán.

Spoločnosti, ktoré nebudú dodržiavať pravidlá, budú pokutované. Pokuty by sa mohli zvýšiť až na 7 % celosvetového ročného obratu za porušenia zakázaných aplikácií umelej inteligencie, až 3 % za porušenie iných povinností a až o 1,5 % za poskytnutie nesprávnych informácií.

Ďalšie kroky

Väčšina pravidiel aktu o umelej inteligencii sa začne uplatňovať 2. augusta 2026. Zákazy systémov umelej inteligencie, ktoré predstavujú neprijateľné riziko, sa však budú uplatňovať už po šiestich mesiacoch, zatiaľ čo pravidlá pre takzvané modely umelej inteligencie na všeobecné účely sa budú uplatňovať po 12 mesiacoch.

S cieľom preklenúť prechodné obdobie pred úplným vykonávaním Komisia spustila Pakt o umelej inteligencii. Táto iniciatíva vyzýva vývojárov umelej inteligencie, aby dobrovoľne prijali kľúčové povinnosti vyplývajúce z aktu o umelej inteligencii pred uplynutím zákonných lehôt. 

Komisia takisto vypracúva usmernenia s cieľom vymedziť a podrobne opísať, ako by sa mal akt o umelej inteligencii vykonávať, a uľahčiť koregulačné nástroje, ako sú normy a kódexy postupov. Komisia uverejnila výzvu na vyjadrenie záujmu o účasť na vypracovaní prvého všeobecného kódexu postupov v oblasti umelej inteligencie, ako aj konzultácie s viacerými zainteresovanými stranami, ktoré všetkým zainteresovaným stranám poskytli príležitosť vyjadriť sa k prvému kódexu postupov podľa aktu o umelej inteligencii.

Súvislosti

Komisia 9. decembra 2023 uvítala politickú dohodu o akte o umelej inteligencii. Komisia 24. januára 2024 spustila balík opatrení na podporu európskych startupov a MSP pri rozvoji dôveryhodnej umelej inteligencie. Komisia 29. mája 2024 predstavila úrad pre umelú inteligenciu. Dňa 9. júla 2024 nadobudlo účinnosť zmenené nariadenie o spoločnom podniku EuroHPC, čím sa umožnilo zriadenie tovární umelej inteligencie. To umožňuje používať špecializované superpočítače umelej inteligencie na trénovanie modelov umelej inteligencie na všeobecné účely (GPAI).

Pokračujúci nezávislý výskum založený na dôkazoch, ktorý vypracovalo Spoločné výskumné centrum (JRC), má zásadný význam pre formovanie politík EÚ v oblasti umelej inteligencie a zabezpečenie ich účinného vykonávania.

Viac informácií

Európsky akt o umelej inteligencii

Nové pravidlá pre umelú inteligenciu – otázky a odpovede 

Európsky úrad pre umelú inteligenciu | Formovanie digitálnej budúcnosti Európy