Projekt a Nařízení EU o regulaci umělé inteligence (AI) je odborníky posuzována odlišně. Oznámilo to na veřejném slyšení Digitální výbor dne Pondělí 26. září 2022 uvolnění. V dubnu 2021 byl předložen návrh prvotního právního rámce, který mimo jiné stanoví také klasifikaci rizik systémů umělé inteligence s ohledem na základní práva, bezpečnost a soukromí. Například, zatímco Učitel. Dr. Patrik Glauner z Technická univerzita v Deggendorfu varoval před nadměrnou regulací, která by postihla především malé a střední podniky (MSP). doktor Joachim Bühler, jednatel sdružení TÜV, „přístup založený na riziku“ nařízení. Pouze vysoce riziková oblast, která představuje 5-15 %, je podle něj regulována.

Glauner: Definice Komise byla příliš široká

Patrick Glauner kritizoval, že definice umělé inteligence v návrhu nařízení Evropské komise je příliš široká. Obsahuje dokonce i kalkulačku, která samozřejmě není AI. Předchozí pokusy o zmenšení nebyly úspěšné, zjistil. Přesnější definice je důležitá, protože to výslovně není a Software– Předpisy by měly zmizet.

V podstatě každý vidí návrh právě teď Google-Hledat jako vysoce rizikovou aplikaci, Glaunerova recenze. Požadavky na vysoce rizikové aplikace jsou však prostě technicky nevyhovující. Došel k závěru, že regulace umělé inteligence v této podobě by umělou inteligenci v Evropě znemožnila.

Andrulis: Musíte chtít být aktivně zapojeni

Z hlediska Jonas Andrulis, zakladatel a generální ředitel společnosti s umělou inteligencí Aleph Alpha, AI se zásadně mění. Tam, kde se kdysi vyznačoval velkým počtem individuálních algoritmů, bude v budoucnu méně uživatelů, kteří nabízejí zobecněnou inteligenci „a umožňují věci, které definují novou éru spolupráce člověka a stroje“.

Vliv na ekonomický růst se obecně odhaduje jako velmi vysoký – větší než u parního stroje, tiskárny nebo elektřiny. „Otázkou není, zda k tomuto vývoji dojde, ale pouze to, zda jej chceme aktivně utvářet,“ řekl Andrulis. „Pokud nedokážeme vytvořit AI sami, náš svět budou ovládat jiní,“ říká expert.

Backes: milník pro Německo a Evropu

Učitel. Dr. hcMichael Backes, zakládající ředitel a výkonný ředitel CISPA Helmholtz Centrum zabezpečení informací, řekl, že nařízení o AI by mohlo být pro Německo a Evropu důležitým krokem k vytvoření právní jistoty a regulaci používání AI.

Předchozí návrh byl však „na některých místech až příliš široký“. Zahrnuty jsou v podstatě všichni Software. Ti, kdo vyvíjejí transparentní a spravedlivé systémy od nuly, by se neměli nechat zahanbit, požadoval. Jedině tak lze zajistit, aby evropští výzkumníci „nebyli strukturálně znevýhodněni ve srovnání s Čínou a Spojenými státy“. Regulace AI proto musí být navržena tak, aby podporovala inovace.

Bühler: Zachování schopnosti inovovat bez zanedbání bezpečnostních zájmů

Podle generálního ředitele TÜV Bühlera umožňuje přístup k regulaci založený na rizicích inovace pro podniky a zároveň bere v úvahu legitimní bezpečnostní zájem společnosti tváří v tvář novým technologiím. Tímto způsobem bude zachována schopnost Evropy inovovat, aniž by byly zanedbány bezpečnostní zájmy, řekl.

Odborník Jürgen Geuter domnívá se, že projekt je silně založen na budoucích narativech. „Nyní se snažíme napsat pravidla pro fikci, která by se měla stát realitou za pět až deset let,“ řekl. Otázkou je, zda systémy AI opravdu potřebují regulovat. Je pravda, že by skutečně mohly být diskriminační, „pokud by byly použity tímto způsobem“. To však vždy vyplývá ze situace, ve které jsou systémy AI implementovány, často jako součást větších infrastrukturních systémů.

Müller volá po zpřísnění povinností pro operátory

Doktor od Angely Müllerové z AW AlgorithmWatch gGmbH poukázal na to, že navrhované předpisy se zaměřují na dodavatele. Diskriminační a nespravedlivé účinky však nejsou způsobeny pouze technickými účinky.

„Systémy založené na umělé inteligenci jsou sociotechnické systémy nasazené ve specifickém společenském kontextu, který nevyhnutelně ovlivňuje dopad systému,“ řekla. Proto je třeba se zaměřit také na to, jak jsou systémy umělé inteligence využívány. Pro provozovatele systémů jsou proto nutné mnohem přísnější povinnosti.

Muller: Pohled na regulaci z hlediska základních práv

Katelijne Mullerová z organizace ALLAI uvítal vyrovnání, „i když není dokonalé“. Cílem nařízení je chránit zdraví, bezpečnost a základní práva před negativními vlivy AI. Je například problematické, zda by při trestním stíhání proti AI mohla k zahájení trestního řízení stačit shoda povahových rysů s jinými podezřelými.

Lidem by také mohlo být zabráněno v účasti na povolených demonstracích, protože by museli předpokládat, že biometrické systémy rozpoznávání obličeje se neustále používají a vzbuzují podezření. Na nařízení o umělé inteligenci je proto třeba pohlížet z hlediska základních práv, požadoval Muller.

Suchy: Vytvoření právní jistoty pro společnosti

Projekt by mohl vytvořit větší právní jistotu pro společnosti, „což významně přispívá ke zvýšení akceptace používání umělé inteligence v německé ekonomice“. Olivier Suchý z Konfederace německých odborových svazů (DGB). To je naléhavé vzhledem ke stále základnímu používání umělé inteligence na pracovišti.

K tomu, aby byl návrh EU účinný, je však stále zapotřebí výrazných zlepšení, uvedl zástupce DGB. To se týká zejména rozsahu plánované oblasti s vysokým rizikem i plánovaných předpisů týkajících se ověřování posuzování shody a struktury vztahu mezi poskytovateli, uživateli a třetími stranami. (hau/09/26/2022)