Komisia zriadila úrad pre umelú inteligenciu s cieľom posilniť vedúce postavenie EÚ v oblasti bezpečnej a dôveryhodnej umelej inteligencie

Komisia predstavila úrad pre umelú inteligenciu, ktorý bol zriadený v rámci Komisie. Cieľom úradu preumelú inteligenciu je umožniť budúci vývoj, zavádzanie a používanie umelej inteligencie spôsobom, ktorý podporuje spoločenské a hospodárske prínosy a inovácie a zároveň zmierňuje riziká. Úrad bude zohrávať kľúčovú úlohu pri vykonávaní aktu o umelej inteligencii, najmä pokiaľ ide o modely umelej inteligencie na všeobecné účely. Bude tiež pracovať na podpore výskumu a inovácií v oblasti dôveryhodnej umelej inteligencie a o postavení EÚ ako lídra v medzinárodných diskusiách.

Úrad pre umelú inteligenciu sa skladá z:

  • Oddelenie regulácie a súladu, ktoré koordinuje regulačný prístup s cieľom uľahčiť jednotné uplatňovanie a presadzovanie aktu o umelej inteligencii v celej Únii, pričom úzko spolupracuje s členskými štátmi. Oddelenie bude prispievať k vyšetrovaniam a možným porušeniam, pričom bude uplatňovať sankcie;
  • Oddelenie pre bezpečnosť umelej inteligencie so zameraním na identifikáciu systémových rizík veľmi schopných modelov všeobecného účelu, možné zmierňujúce opatrenia, ako aj prístupy hodnotenia a testovania;
  • Excelentnosť v oblasti umelej inteligencie a robotiky, ktorá podporuje a financuje výskum a vývoj s cieľom posilniť ekosystém excelentnosti. Koordinuje iniciatívu GenAI4EU a stimuluje vývoj modelov a ich integráciu do inovačných aplikácií;
  • Oddelenie umelej inteligencie pre spoločenské blaho navrhovať a vykonávať medzinárodnú angažovanosť úradu pre umelú inteligenciu v prospech umelej inteligencie, ako je modelovanie počasia, diagnostika rakoviny a digitálne dvojčatá na rekonštrukciu;
  • Oddelenie pre inovácie a politiku v oblasti umelej inteligencie, ktoré dohliada na vykonávanie stratégie EÚ v oblasti umelej inteligencie, monitoruje trendy a investície, stimuluje zavádzanie umelej inteligencie prostredníctvom siete európskych centier digitálnych inovácií a zriaďovanie tovární v oblasti umelej inteligencie a podporuje inovačný ekosystém podporou experimentálnych regulačných prostredí a testovania v reálnych podmienkach.

Úrad pre umelú inteligenciu bude viesť vedúci úradu pre umelú inteligenciu a bude pracovať pod vedením vedúceho vedeckého poradcu s cieľom zabezpečiť vedeckú excelentnosť pri hodnotení modelov a inovačných prístupov a poradcu pre medzinárodné záležitosti, ktorý nadviaže na náš záväzok úzko spolupracovať s medzinárodnými partnermi v oblasti dôveryhodnej umelej inteligencie.

Zriadenie a úlohy úradu pre umelú inteligenciu

Úrad pre umelú inteligenciu bude na vykonávanie svojich úloh zamestnávať viac ako 140 zamestnancov. Medzi zamestnancov budú patriť technickí špecialisti, administratívni asistenti, právnici, politickí špecialisti a ekonómovia.

Úrad zabezpečí jednotné vykonávanie aktu o umelej inteligencii. Dosiahne to podporou riadiacich orgánov v členských štátoch. Úrad pre umelú inteligenciu bude takisto priamo presadzovať pravidlá pre modely umelej inteligencie na všeobecné účely. Úrad pre umelú inteligenciu bude v spolupráci s vývojármi umelej inteligencie, vedeckou obcou a inými zainteresovanými stranami koordinovať vypracúvanie najmodernejších kódexov postupov, vykonávať testovanie a hodnotenie modelov umelej inteligencie na všeobecné účely, požadovať informácie a v prípade potreby uplatňovať sankcie.

S cieľom zabezpečiť informované rozhodovanie bude úrad pre umelú inteligenciu spolupracovať s členskými štátmi a širšou komunitou odborníkov prostredníctvom špecializovaných fór a expertných skupín. Na úrovni EÚ bude úrad pre umelú inteligenciu úzko spolupracovať s Európskou radou pre umelú inteligenciu zloženou zo zástupcov členských štátov. Vedecká skupina nezávislých odborníkov zabezpečí silné prepojenie s vedeckou komunitou a ďalšie odborné znalosti sa zhromaždia v poradnom fóre, ktoré bude zastupovať vyvážený výber zainteresovaných strán vrátane priemyslu, startupov a MSP, akademickej obce, think tankov a občianskej spoločnosti.

Úrad pre umelú inteligenciu bude podporovať inovačný ekosystém EÚ pre dôveryhodnú umelú inteligenciu. Prispeje k tomu poskytovaním poradenstva o najlepších postupoch a umožnením prístupu k experimentálnym prostrediam pre umelú inteligenciu, testovaniu v reálnych podmienkach a iným európskym podporným štruktúram na zavádzanie umelej inteligencie, ako sú testovacie a experimentálne zariadenia v oblasti umelej inteligencie, európske centrá digitálnych inovácií a továrne umelej inteligencie. Bude podporovať výskumné a inovačné činnosti v oblasti umelej inteligencie a robotiky a vykonávať iniciatívy, ako je GenAI4EU, s cieľom zabezpečiť, aby sa univerzálne modely umelej inteligencie vyrobené v Európe a vyškolené prostredníctvom superpočítačov EÚ doladili a začlenili do nových aplikácií v celom hospodárstve, čím sa stimulujú investície.

Úrad pre umelú inteligenciu napokon zabezpečí strategický, súdržný a účinný európsky prístup k umelej inteligencii na medzinárodnej úrovni a stane sa globálnym referenčným bodom.

Ďalšie kroky

Uvedené organizačné zmeny nadobudnú účinnosť 16. júna. Prvé zasadnutie rady pre umelú inteligenciu by sa malo uskutočniť do konca júna. Úrad pre umelú inteligenciu pripravuje usmernenia týkajúce sa vymedzenia systému umelej inteligencie a zákazov, ktoré sa majú predložiť šesť mesiacov po nadobudnutí účinnosti aktu o umelej inteligencii. Úrad sa takisto pripravuje na koordináciu vypracovania kódexov postupov pre povinnosti týkajúce sa modelov umelej inteligencie na všeobecné účely, a to 9 mesiacov po nadobudnutí účinnosti.

Súvislosti

V apríli 2021 Komisia navrhla akt EÚ o umelej inteligencii a nový koordinovaný plán s členskými štátmi s cieľom zaručiť bezpečnosť a základné práva ľudí a podnikov a zároveň posilniť investície a inovácie vo všetkých krajinách EÚ. Akt EÚ o umelej inteligencii predbežne schválili spoluzákonodarcovia v decembri 2023 a je prvým komplexným zákonom o umelej inteligencii na svete. Akt o umelej inteligencii by mal nadobudnúť účinnosť do konca júla 2024.

V januári 2024 Komisia spustila balík opatrení na podporu európskych startupov a MSP pri rozvoji dôveryhodnej umelej inteligencie. V rámci týchto opatrení bolo prijaté rozhodnutie Komisie o zriadení úradu pre umelú inteligenciu.

Viac informácií

Úrad pre umelú inteligenciu

Európsky prístup k umelej inteligencii

Akt o umelej inteligencii

Inovačný balík v oblasti umelej inteligencie

Pakt o umelej inteligencii

Čítať ďalej...

Komisia víta politickú dohodu o akte o umelej inteligencii

Komisia víta politickú dohodu, ktorú Európsky parlament a Rada dosiahli pri akte o umelej inteligencii, ktorý Komisia navrhla v apríli 2021.

Predsedníčka Európskej komisie Ursula von der Leyenová v tejto súvislosti uviedla: „Umelá inteligencia už mení náš každodenný život. A toto je iba začiatok. Rozumne a široko používaná umelá inteligencia sľubuje obrovské výhody pre naše hospodárstvo a spoločnosť. Preto veľmi vítam dnešnú politickú dohodu Európskeho parlamentu a Rady o akte o umelej inteligencii. Akt EÚ o umelej inteligencii je vôbec prvým komplexným právnym rámcom pre umelú inteligenciu na celom svete. Čiže toto je historický moment. Aktom o umelej inteligencii sa európske hodnoty transponujú do novej éry. Tým, že sa regulácia zameria na identifikovateľné riziká, dnešná dohoda podporí zodpovedné inovácie v Európe. Zaručením bezpečnosti a základných práv ľudí a podnikov podporí rozvoj, zavádzanie a využívanie dôveryhodnej umelej inteligencie v EÚ. Náš akt o umelej inteligencii významne prispeje k rozvoju celosvetových pravidiel a zásad pre umelú inteligenciu sústredenú na človeka.“ 

Európska koncepcia dôveryhodnej umelej inteligencie

Nové pravidlá sa budú uplatňovať priamo vo všetkých členských štátoch. Základom bude nadčasové vymedzenie umelej inteligencie. Sú orientované na koncepciu rizika:

Minimálne riziko: Prevažná väčšina systémov umelej inteligencie spadá do kategórie s minimálnym rizikom. Na aplikácie s minimálnym rizikom, ako sú odporúčacie systémy na základe umelej inteligencie alebo spamové filtre, sa nebudú vzťahovať žiadne obmedzenia ani povinnosti, pretože nepredstavujú žiadne alebo len minimálne riziko pre práva či bezpečnosť občanov. Spoločnosti sa môžu napriek tomu dobrovoľne zaviazať uplatňovať pri nich dodatočné kódexy správania.

Vysoké riziko: Systémy umelej inteligencie identifikované ako vysokorizikové budú musieť dodržiavať prísne požiadavky vrátane povinných systémov na zmierňovanie rizika, vysokokvalitných dátových súborov, logovania činností, podrobnej dokumentácie, jednoznačných informácií pre používateľov, ľudského dohľadu a vysokej úrovne spoľahlivosti, presnosti a kybernetickej bezpečnosti. Experimentálne regulačné prostredie uľahčí zodpovednú inováciu a vývoj systémov umelej inteligencie spĺňajúcich pravidlá.

Medzi takéto vysokorizikové systémy umelej inteligencie patria okrem iných určité kritické infraštruktúry napríklad v oblasti vody, plynu a elektriny, zdravotnícke pomôcky, systémy na určovanie prístupu do vzdelávacích zariadení alebo na nábor pracovníkov do zamestnania, či určité systémy používané v oblasti presadzovania práva, kontroly hraníc, výkonu spravodlivosti a demokratických procesov. Aj systémy biometrickej identifikácie, kategorizácie a rozpoznávania emócií sa považujú za vysokorizikové. 

Neprijateľné riziko: Systémy umelej inteligencie považované za jednoznačné ohrozenie základných ľudských práv ľudí budú zakázané. Do tejto kategórie patria systémy alebo aplikácie umelej inteligencie, ktoré manipulujú ľudské správanie s cieľom obísť slobodnú vôľu používateľa (napr. hračky s hlasovým asistentom, ktoré nabádajú neplnoletých k nebezpečnému správaniu), alebo systémy, ktoré vládam alebo podnikom umožňujú „spoločenské bodovanie“ a určité aplikácie na prediktívne vykonávanie policajných funkcií. Okrem toho niektoré použitia biometrických systémov však budú zakázané: napríklad systémy rozpoznávania emócií používané na pracoviskách a niektoré systémy kategorizácie ľudí alebo biometrická identifikácia na diaľku v reálnom čase na účely presadzovania práva vo verejnom priestore (s niekoľkými výnimkami).

Osobitné riziko pri transparentnosti: používatelia systémov umelej inteligencie, ako sú chatboty by si mali byť vedomí, že ich interakcia prebieha so strojom. Deepfake a iný obsah, ktorý generuje umelá inteligencia, budú musieť ako také byť označené. Rovnako bude povinné informovať používateľov v prípadoch, keď sa používa biometrická kategorizácia alebo rozpoznávanie emócií. Okrem toho budú poskytovatelia musieť navrhnúť systémy tak, aby syntetický obsah (napr. audio, video, texty a obrázky) bol označený v strojovo čitateľnom formáte a identifikovateľný ako umelo vygenerovaný alebo manipulovaný.

Pokuty

Spoločnosti, ktoré nebudú dodržiavať pravidlá, budú pokutované. Pokuty sa budú pohybovať od 35 miliónov EUR alebo 7 % celosvetového ročného obratu (podľa toho, ktorá suma je vyššia) za porušenie zakázaných aplikácií umelej inteligencie, 15 miliónov EUR alebo 3 % za porušenie iných povinností a 7,5 milióna EUR alebo 1,5 % za poskytnutie nesprávnych informácií. Pre MSP a startupy sa stanovujú proporcionálnejšie stropy správnych pokút v prípade porušenia aktu o umelej inteligencii.

Umelá inteligencia na všeobecné použitie

Akt o umelej inteligencii zavádza špecializované pravidlá pre modely umelej inteligencie na všeobecné použitie, ktoré zaručia transparentnosť v celom hodnotovom reťazci. Pri veľmi silných modeloch, ktoré by mohli predstavovať systémové riziko, budú platiť dodatočné záväzné povinnosti súvisiace s riadením rizík a monitorovaním vážnych incidentov, vykonávaním modelového hodnotenia a kontradiktórnym testovaním. Tieto nové povinnosti budú fungovať na základe kódexov postupov, ktoré zostaví sektor, vedecká obec, občianska spoločnosť a iné zainteresované strany spolu s Komisiou.

Pokiaľ ide o riadenie, na dodržiavanie nových pravidiel na vnútroštátnej úrovni budú dohliadať vnútroštátne príslušné orgány dohľadu nad trhom. Koordináciu na európskej úrovni zabezpečí novo vytvorený európsky úrad pre umelú inteligenciu v rámci Európskej komisie. Nový úrad pre umelú inteligenciu bude dohliadať aj na vykonávanie a presadzovanie nových pravidiel týkajúcich sa modelov umelej inteligencie na všeobecné použitie. Úrad pre umelú inteligenciu bude spolu s vnútroštátnymi orgánmi dohľadu nad trhom prvým orgánom na celom svete, ktorý presadzuje záväzné pravidlá týkajúce sa umelej inteligencie, a preto sa očakáva, že sa stane medzinárodnou referenciou. V prípade modelov na všeobecné použitie bude ústrednú úlohu zohrávať vedecká skupina nezávislých odborníkov, ktorá bude vydávať varovania o systémových rizikách a prispievať ku klasifikácii a testovaniu modelov.

Ďalšie kroky

Politickú dohodu teraz formálne schváli Európsky parlament a Rada a nadobudne účinnosť 20 dní po uverejnení v úradnom vestníku. Akt o umelej inteligencii sa začne uplatňovať dva roky po nadobudnutí jeho účinnosti, s výnimkou niektorých osobitných ustanovení: zákazy sa budú uplatňovať už po šiestich mesiacoch, zatiaľ čo pravidlá o umelej inteligencii na všeobecné použitie sa budú uplatňovať po 12 mesiacoch.

S cieľom preklenúť prechodné obdobie, než sa nariadenie stane všeobecne uplatniteľným, Komisia zavedie pakt o umelej inteligencii. Zvolá vývojárov umelej inteligencie z Európy a celého sveta, ktorí sa dobrovoľne zaviažu k dodržiavaniu kľúčových povinností aktu o umelej inteligencii už pred oficiálnym dátumom začiatku ich platnosti.

V záujme presadzovania pravidiel dôveryhodnej umelej inteligencie na medzinárodnej úrovni bude Európska únia naďalej pracovať na fórach, ako sú G7, OECD, Rada Európy, G20 a OSN. Práve nedávno sme podporili dohodu vedúcich predstaviteľov skupiny G7 v rámci procesu umelej inteligencie v Hirošime o medzinárodných základných zásadách a dobrovoľnom kódexe správania pre pokročilé systémy umelej inteligencie.

Súvislosti

Komisia už roky uľahčuje a posilňuje spoluprácu v oblasti umelej inteligencie v celej EÚ v snahe zlepšiť jej konkurencieschopnosť a zabezpečiť dôveru založenú na hodnotách EÚ. 

Po uverejnení európskej stratégie v oblasti umelej inteligencie v roku 2018 a po rozsiahlych konzultáciách so zainteresovanými stranami expertná skupina na vysokej úrovni pre umelú inteligenciu vypracovala v roku 2019 usmernenia pre dôveryhodnú umelú inteligenciu a v roku 2020 zoznam bodov na posudzovanie dôveryhodnej umelej inteligencie. Súčasne sa v decembri 2018 uverejnil prvý koordinovaný plán v oblasti umelej inteligencie ako spoločný záväzok s členskými štátmi.

Biela kniha Komisie o umelej inteligencii uverejnená v roku 2020 vytýčila jednoznačnú víziu umelej inteligencie v Európe ako ekosystému excelentnosti a dôvery a vytvorila tak predpoklady predloženej politickej dohody. Verejná konzultácia k bielej knihe o umelej inteligencii zaznamenala širokú účasť respondentov z celého sveta. Sprievodný dokument k bielej knihe tvorila „Správa o vplyve umelej inteligencie, internetu vecí a robotiky na bezpečnosť a zodpovednosť“, ktorej záver tvorí konštatovanie, že aktuálne právne predpisy o bezpečnosti výrobkov obsahujú viaceré medzery, ktoré treba riešiť, a to predovšetkým v smernici o strojových zariadeniach.

Nezávislý výskum založený na dôkazoch, ktorý vypracovalo Spoločné výskumné centrum (JRC), má zásadný význam pri formovaní politík EÚ v oblasti umelej inteligencie a zabezpečovaní ich účinného vykonávania. JRC pomocou dôkladného výskumu a analýzy podporuje vývoj aktu o umelej inteligencii, poskytuje vstupy k terminológii umelej inteligencie, klasifikácii rizík, technickým požiadavkám a prispieva k stálemu vývoju harmonizovaných noriem.   

Ďalšie informácie

Vyhlásenie predsedníčky von der Leyenovej k politickej dohode o akte EÚ o umelej inteligencii

Nové pravidlá pre umelú inteligenciu – otázky a odpovede 

Nové pravidlá umelej inteligencie – fakty

Hirošimský proces k umelej inteligencii: Usmerňujúce zásady a kódex správania v oblasti umelej inteligencie

Koordinovaný plán o umelej inteligencii

Nariadenie o strojníckych výrobkoch

Pravidlá zodpovednosti v oblasti umelej inteligencie

Európske centrum pre transparentnosť algoritmov, Spoločné výskumné centrum  

Čítať ďalej...

Komisia otvára prístup k superpočítačom EÚ s cieľom urýchliť vývoj umelej inteligencie

Komisia a spoločný podnik pre európsku vysokovýkonnú výpočtovú techniku (EuroHPC) sa zaviazali otvoriť a rozšíriť prístup k superpočítačom EÚ svetovej úrovne pre európske startupy v oblasti umelej inteligencie, malé a stredné podniky a širšiu komunitu zaoberajúcu sa umelou inteligenciou, a to v rámci iniciatívy EÚ pre startupy v oblasti umelej inteligencie. Na podporu ďalšieho vývoja a rozšíriteľnosti modelov umelej inteligencie má zásadný význam prístup k špičkovým superpočítačom, ktoré urýchľujú výcvik a testovanie umelej inteligencie, čím sa čas odbornej prípravy trvajúci obvykle niekoľko mesiacov či rokov skráti na niekoľko týždňov.

Vyhlásenie bolo vydané v súvislosti so štvrtým zhromaždením Aliancie pre umelú inteligenciu v Madride a nadväzuje na oznámenie predsedníčky EK Ursuly von der Leyenovej, ktoré urobila v prejave o stave Únie v roku 2023Európski aktéri v oblasti umelej inteligencie a vysokovýkonnej výpočtovej techniky budú úzko spolupracovať na podpore prelomových inovácií a zvýšení konkurencieschopnosti európskeho priemyselného ekosystému umelej inteligencie. Urýchli sa tým rozvoj umelej inteligencie a Európska únia sa v tejto oblasti stane svetovým lídrom.

Predsedníčka Európskej komisie Ursula von der Leyenová v tejto súvislosti uviedla: „Európa je vďaka investíciám, ktoré sme v posledných rokoch zrealizovali, lídrom v oblasti superpočítačov. V EÚ máme tri najmodernejšie superpočítače. Túto silu musíme využiť. Prístup k európskej superpočítačovej infraštruktúre, ktorý dnes oznamujeme, pomôže startupom riadiť vývoj a rozširovanie umelej inteligencie, a to zodpovedne a v súlade s európskymi hodnotami.“

Európska únia je v súčasnosti jedným zo svetových lídrov v oblasti superpočítačov. Tri superpočítače EÚ – LEONARDOLUMI a MareNostrum5 – sú vďaka úsiliu spoločného podniku EuroHPC na svetovej úrovni. S blížiacim sa rozšírením pôsobnosti spoločného podniku EuroHPC na exaflopovú a vyššiu výkonnosť – vďaka exaflopovým superpočítačom JUPITER a JULES VERNE, ktoré budú pri práci s modelmi umelej inteligencie ešte výkonnejšie – zohrajú európske superpočítačové zdroje zásadnú úlohu pri vytváraní a trénovaní rozsiahlych modelov základnej umelej inteligencie.

Ďalšie kroky

Štáty zapojené do spoločného podniku EuroHPC s podporou Európskej komisie urýchlia úsilie v oblasti výskumu, vývoja, demonštrácie a zavádzania európskej superpočítačovej infraštruktúry. Tento záväzok by mal prispieť k všeobecnému cieľu Únie, ktorým je vytvorenie dôveryhodného a zodpovedného globálneho ekosystému umelej inteligencie. Predbežné ciele:

  • Spustenie Veľkej výzvy v oblasti umelej inteligencie: Táto súťaž, ktorá sa aktuálne otvára, je výsledkom spolupráce v rámci projektu AI-BOOST financovaného z prostriedkov EÚ, pričom prístup k európskym superpočítačom zabezpečuje spoločný podnik EuroHPC. Snahou je prilákať čo najviac európskych startupov, ktoré majú skúsenosti s rozsiahlymi modelmi umelej inteligencie. Očakáva sa, že víťazi súťaže sprístupnia vyvinuté modely v rámci licencie s otvoreným zdrojovým kódom na nekomerčné použitie, alebo výsledky svojho výskumu zverejnenia. V rámci tejto výzvy sa vyberú maximálne štyri sľubné európske startupy v oblasti umelej inteligencie, ktoré získajú prístup k superpočítačom spoločného podniku EuroHPC s cieľom podporiť vývoj rozsiahlych modelov umelej inteligencie v Európe. Víťazi si rozdelia cenu vo výške 1 milión EUR.
  • Sprístupnenie európskej superpočítačovej kapacity: Zabezpečí sa prístup pre etické a zodpovedné startupy v oblasti umelej inteligencie, vďaka čomu budú môcť efektívne trénovať svoje modely pomocou európskych superpočítačov.
  • Rozšírené činnosti a služby: Spoločný podnik EuroHPC bude rozvíjať činnosti a služby využívajúce vysokovýkonnú výpočtovú techniku s cieľom podporiť dôveryhodnú umelú inteligenciu v Európe. Cieľom tohto úsilia bude uľahčiť prístup komunitám zaoberajúcim sa umelou inteligenciou a podporiť optimálne a efektívne využívanie vysokovýkonnej výpočtovej techniky na vedecké a priemyselné inovácie.

Okrem toho budú v rámci pracovného programu Komisie na rok 2024 navrhnuté zmeny nariadenia o spoločnom podniku EuroHPC, vďaka ktorým sa európskym startupom v oblasti umelej inteligencie zabezpečí udržateľný a trvalý prístup k európskej superpočítačovej kapacite.

Súvislosti

Predsedníčka Komisie Ursula von der Leyenová v správe o stave Únie v roku 2023 vyzvala, aby Európa využila svoje vedúce postavenie v oblasti superpočítačov. Oznámila preto novú iniciatívu, ktorej cieľom je sprístupnenie vysokovýkonných počítačov v Európe startupom v oblasti umelej inteligencie, aby mohli trénovať svoje modely, a podporiť tak inovácie v oblasti umelej inteligencie.

Ďalšie informácie

Vysokovýkonná výpočtová technika Európskej komisie

Spoločný podnik pre európsku vysokovýkonnú výpočtovú techniku

Európsky prístup k umelej inteligencii

Európska aliancia pre umelú inteligenciu

Čítať ďalej...
Prihláste sa k odberu tohto RSS kanála
Login