Evropská komise chce umělou inteligenci blíže regulovat. V dubnu 2021 za to navrhla vyrovnání Zákon AI. Od té doby je pokrok v Bruselu pomalý a Rada ani Parlament se nedokázaly shodnout na postoji.

V Berlíně se také dále projednává zákon o AI. V pondělí byl jeden v Bundestagu Slyšení odborníků na projekt namísto. Odborníci se rozcházeli zejména v otázce, který software by vůbec měl spadat pod pojem umělá inteligence.

Současný projekt je velmi široká definice: nejde jen o technologie strojového učení, ale také o statistické procesy. To by mělo zahrnovat nějaký software, který se jinak nenazývá univerzální umělá inteligence.

Neshoda ohledně definice AI

Kritika k tomu přichází především od zástupců firem: uvnitř. Jonas Andrulis, zakladatel AI startupu Aleph Alpha, nazývá definici příliš širokou. Varuje, že přílišná regulace by mohla ublížit zejména malým podnikům. Podobně to zní ve vyjádření Patricka Glaunera z KI Bundesverband a Michaela Backese z Helmholtzova centra pro informační bezpečnost.

Angela Müller z organizace AlgorithmWatch vidí věci jinak. Oblast působnosti práva IA musí být široká, protože méně složité systémy by také mohly mít významný dopad na základní práva. Jako příklad uvádí software, který používají nizozemské úřady ke kontrole žádostí o rodinné přídavky a odhalování podvodů. V roce 2020 bylo zjištěno, že software v tisících případů učinil špatná rozhodnutí – často na základě rasové zaujatosti.

Müllerův závěr: Rozhodující by neměla být použitá technologie, ale její dopady na základní práva. Pokud je navíc definice příliš úzká, mohlo by to potlačit inovace, protože společnosti by pak mohly být v pokušení používat méně složité systémy, aby se vyhnuly regulaci.

Počítačový vědec a publicista Jürgen Geuter, známý online jako teta, při slyšení řekl, že skutečnou výzvou nebylo „regulovat“ konkrétní technologie poté. Namísto toho by měla být v popředí nařízení práva subjektů údajů a sociální a ekologické dopady technologií. Jede také na vysoká spotřeba energie systémy strojového učení. Není to zmíněno v zákoně AI.

Nezávislé testy a větší transparentnost

Srdcem zákona o AI je takzvaný přístup založený na riziku. Systémy založené na umělé inteligenci musí být klasifikovány do rizikových tříd, pro které platí jiná pravidla. Jeden je považován za „vysokorizikový“. soubor systémůvčetně autonomních vozidel, biometrické identifikace a softwaru používaného při prosazování práva, hraničních kontrolách nebo kritické infrastruktuře.

Na tyto vysoce rizikové systémy by se měly vztahovat určité požadavky, včetně povinností týkajících se dokumentace a požadavků na bezpečnost IT a kvalitu školicích dat. Splnění těchto požadavků však musí zajistit sami poskytovatelé. Podle generálního ředitele TÜV Joachima Bühlera a Olivera Suchého ze Spolkové rady Německé konfederace odborových svazů to nestačí. Oba jsou pro nezávislé testování systémů.

Podle návrhu Komise se počítá i s veřejnou unijní databází, v níž musí být registrovány všechny vysoce rizikové systémy. Angela Müller žádá, aby bylo také uvedeno, kde a k čemu se systémy skutečně používají. Systémy používané veřejnými orgány by také měly být obecně zveřejněny – i když nejsou považovány za vysoce rizikové.

Zákaz s mnoha mezerami

Některé aplikace umělé inteligence by byly zakázány zákonem o AI. Patří mezi ně například tzv. sociální ratingové systémy. Bylo by také nezákonné používat „systémy biometrické identifikace na dálku v reálném čase“ na veřejných prostranstvích pro účely vymáhání práva, tj. video sledování, které dokáže identifikovat lidi podle jejich tváří nebo jejich uliček.

Jsou zde však uvedeny výjimky, například takový software lze použít v případě teroristické hrozby nebo pátrání po pohřešovaném dítěti. Obecně platí, že formulace ponechává mnoho mezer, takže použití softwaru pro rozpoznávání obličeje mimo orgány činné v trestním řízení by stále bylo možné. Není také vyloučeno, že videozáznamy veřejných prostranství lze následně nahlížet. Angela Müller a Catelijne Muller z Nizozemská organizace ALLAI proto kritizují zákaz jako nedostatečný. Muller byl jedním z expertů, kteří dříve seděli ve skupině odborníků radí Evropské komisi v oblasti regulace.

O budoucnosti práva AI se pravděpodobně rozhodne během příštího roku. Evropský parlament bude o své verzi návrhu zákona hlasovat v listopadu a v současné době o ní jedná Rada nedávno zveřejněný kompromisní návrh českého předsednictví. Poté se oba orgány musí dohodnout na společném postoji.