Nastupující české předsednictví sdílelo pracovní dokument s ostatními vládami EU, aby získalo jejich názory na definici umělé inteligence, vysoce rizikové systémy, správu a národní bezpečnost.

Dokument, který vidí EURACTIV, poslouží jako základ pro diskuse v pracovní skupině pro telekomunikace 5. července s cílem předložit aktualizovaný kompromisní text do 20. července. Členské státy pak budou vyzvány, aby do 2. září předložily písemné připomínky k novému kompromisu.

„České předsednictví identifikovalo čtyři klíčové otevřené otázky, které vyžadují další diskusi a ke kterým by bylo klíčové získat rady od členských států, aby se jednání posunula do další fáze,“ uvádí dokument.

Dokument je prvním z českého předsednictví, které oficiálně začíná v červenci. Projekt navazuje na směr francouzského předsednictví a obsahuje hlavní otázky, na které se Česká republika zaměří.

definice

Interní dokument uvádí, že „velký počet“ zemí EU zpochybnil definici toho, co je systém poháněný umělou inteligencí. Současná definice je považována za příliš širokou a nejednoznačnou, s rizikem, že by mohl být zahrnut i jednoduchý software.

V této souvislosti také vyvstává otázka, do jaké míry by měla mít Komise možnost upravit přílohu I nařízení prostřednictvím sekundárního práva. Tato příloha definuje techniky a přístupy v oblasti umělé inteligence.

České předsednictví nabízí různé alternativy, jak tyto obavy řešit.

Obezřetnější možností je ponechat návrh Komise nebo se řídit zněním navrženým francouzským předsednictvím a přidat některé prvky upřesnění tím, že se zahrnou odkazy na učení, uvažování a modelování těchto technologií.

V tomto scénáři si exekutiva EU ponechává své přenesené pravomoci a změny lze provádět pouze řádným legislativním postupem.

Další možnosti zahrnují užší definici, která pokrývá systémy umělé inteligence, které jsou vyvíjeny buď samotnými technikami strojového učení, nebo strojovým učením a přístupy založenými na znalostech.

V tomto případě bude příloha I vypuštěna a techniky umělé inteligence budou zahrnuty přímo do textu, buď v preambuli zákona, nebo v příslušném článku.

Komise by měla pouze pravomoc přijímat prováděcí akty k lepšímu vymezení stávajících kategorií.

vysoce rizikové systémy

Příloha III zákona o AI obsahuje seznam aplikací umělé inteligence, které představují vysoké riziko pro lidské blaho a základní práva. Pro některé členské státy je však znění příliš široké a měly by být zahrnuty pouze případy použití, pro které bylo provedeno posouzení dopadů.

V tomto případě je nejrozumnější možností zachovat text podle francouzského kompromisu.

Alternativně mohou země EU obhajovat odstranění nebo přidání určitých případů použití nebo vyjasnění formulace.

České předsednictví také navrhlo přidat další prvek, a to kritéria vysoké úrovně pro určení toho, co konkrétně představuje významné riziko. Prodejci by pak sami zhodnotili, zda jejich systém splňuje tato kritéria.

Dalším způsobem, jak klasifikaci zpřesnit, by bylo rozlišit, zda systém AI umožňuje plně automatizované rozhodování, které by automaticky představovalo vysoké riziko, nebo zda pouze informuje lidská rozhodnutí.

V druhém případě by byl systém považován za rizikový pouze tehdy, pokud by informace generované AI byly relevantní pro rozhodování. Komise by však měla prostřednictvím sekundárních právních předpisů dále objasnit, co se rozumí rozhodujícím faktorem.

Země EU jsou dotázány, zda by si Komise měla ponechat pravomoc přidávat do seznamu nové vysoce rizikové případy.

Kromě toho by členské státy měly mít možnost rozhodnout, zda exekutiva EU může za určitých podmínek odstranit případy užití nebo zda by tyto pravomoci měly být zrušeny.

Správa a vymáhání

Několik zemí EU vyjádřilo obavy, že „příliš decentralizovaný rámec správy na vnitrostátní úrovni by mohl omezovat účinné prosazování“.

Členské státy se obávají zejména toho, že nemají dostatečnou kapacitu a odborné znalosti k prosazování pravidel umělé inteligence.

České předsednictví zároveň poznamenává, že legislativa by měla poskytovat „určitou míru flexibility pro vnitrostátní právní předpisy a specifika“ a že „přenesení donucovacích pravomocí na centrálnější úroveň rovněž vyžaduje pečlivé zvážení praktických důsledků a rozpočtu“.

Jak bylo vysvětleno během francouzského předsednictví, současný rámec správy se řídí nařízením EU o dozoru nad trhem, za které jsou odpovědné vnitrostátní orgány. O koordinaci by se měl starat výbor pro umělou inteligenci a Komise by měla zasahovat pouze v krajních případech.

Další možností by bylo pokračovat v podpoře členských států prostřednictvím testovacích zařízení EU, skupiny odborníků a nouzového mechanismu pro urychlení podpory.

Také by mohl být posílen výbor pro umělou inteligenci, aby podporoval vnitrostátní orgány. Kromě toho by výboru mohl být udělen jednoznačnější mandát na základě nařízení o zdravotnických prostředcích při řízení a koordinaci činností dozoru nad trhem.

Konečně by Komise mohla být zmocněna k zahájení přímých šetření za výjimečných okolností, ale „se značnými praktickými a finančními důsledky“.

Výjimka národní bezpečnosti

Dokument uvádí, že velká většina zemí EU chce výslovně vyjmout aplikace AI sloužící národním bezpečnostním a vojenským účelům z nařízení o AI. Domnívají se však, že koncept ještě není dostatečně definován.

„Toto nařízení se nevztahuje na systémy umělé inteligence, které jsou vyvinuty nebo používány výhradně pro vojenské nebo národní bezpečnostní účely,“ uvádí se v aktuálním kompromisu.

Toto by mohlo být změněno tak, aby bylo odstraněno slovo „výhradně“, ačkoli to může vytvářet nejednoznačnost.

Na druhou stranu by se znění mohlo změnit tak, aby odkazovalo pouze na systémy umělé inteligence uváděné na trh nebo do provozu pro vojenské účely nebo účely národní bezpečnosti, čímž by byla vyloučena fáze vývoje.

[Bearbeitet von Nathalie Weatherald]