Níže je celý přepis rozhovoru:

Łukasz Kaźmierczak: Jsme ve volební kampani, takže se trochu zaměřím na politiku. Používají v kampaních politici ChatGPT, generátor určitých textů? Nacházíte takovou stopu umělé inteligence?

Dariusz Szostek: Pokud se to nepoužívá, bude to na ně v dnešní době mít špatný vliv. Mám pocit, že nejchytřejší formulace, které slyšíte, jsou generovány ChatGPT, protože živé verze těchto zásad se výrazně liší od toho, co jsem někdy četl, zejména v posledních týdnech.

Připadají vám chytřejší?

Jsou mnohem inteligentnější než klasici, kterými jsme roky krmeni.

Může za nás tedy umělá inteligence napsat volby?

položím takovou otázku. A od kdy, že? Když se podíváme na to, co se stalo s Brexitem, aférou Cambridge Analytic, když se podíváme na zvolení Trumpa, problémy spojené s Facebookem a mnoha dalšími, pak se stále používají nástroje IT, profilování, umělá inteligence, i když mají archaický volební zákon. protože zakazuje veškerou reklamu za posledních 48 hodin, ale to se netýká internetu a světa, takže počítačové nástroje neustále používají politické strany, politici, celé kampaně se připravují, analýzy, analýzy, prostě jsme je neustále rámováno.

Politika se tedy trochu učí, málo využívá, ale stále více se necháváme oblbovat. Byly tam takové ty slavné projevy stranických tajemníků, byl tam stůl a podle tohoto modelu se dalo hodinu střídat, kombinovat různé termíny, takže ChatGPT je jako letadlo ve srovnání s vagónem, dalo by se říct.

Slyšel jsem Karla Gotta, než jsem šel do éteru, každopádně miluji českou hudbu a kulturu, takže když vstoupíme do Čech nebo na Slovensko, máme barkery. Ostatně na sloupech jsou stále velmi často takové tubusy, kde se kdysi v letech minulé éry vysílaly projevy, prohlášení atd. I dnes máme to samé, ale znásobili jsme to, protože to máme prakticky všude, máme billboardy, máme tyto prvky v televizi, i když společnost sleduje různé kanály televize, máme prohlášení v rádiu, ale bohužel i internet, profilování, tiktoky, vliv na voliče. Každopádně se podívejte, za koho tito politici celou dobu bojují. Máme na jedné straně deklarovanou skupinu, na druhé deklarovanou skupinu a jazyk pozornosti se týká jen pár procent nerozhodnutých, jsou manipulováni jakkoli, včetně technologických.

Pravděpodobně mluvíte o deepfakes, tedy o této situaci s Mateuszem Morawieckim, jehož hlas byl změněn, navíc jsem četl různé názory, Łukasz Olejnik z blogrywnik.pl napsal, že jakékoli politické názory, pokud je takový deepfake nahrán, aniž by tím naznačoval, že je synteticky vyrobený obsah nebo zkreslení, je to střela do nohy. V tomto případě to byla rána do nohy Občanské platformě.

Deepfakes se používají již mnoho let. Vlastně jsme to nejdříve získali ze situací, které známe, opakuji ze známých situací, které se vynořily, přičemž ve světě je to docela běžný model, který se používá. Dokonce jsme před chvílí před éterem mluvili, že voláte z rádia, že mi pánev neprodáte, musel jsem vám věřit. Ale dnes už nemůžeme věřit tomu, co vidíme, co slyšíme; v minulosti byla fotografie nevyvratitelným důkazem, film byl nevyvratitelným důkazem. Moji synové dnes dokážou triviálním způsobem manipulovat s jakoukoliv fotografií, takže ji naivní laici jednoduše vyfotí. Deepfake jsou na vyšší úrovni a neustále se používají, podívejte se prosím i na TV a média, zatímco v Polsku byl politicky někdo poprvé přistižen a to sice není přijatelné, ale je přijatelnější se profilovat a cílit zprávy na internetu? Každopádně se musíme podívat na to, jak se to dělá, zde vám mohu poskytnout nějaký výzkum, který vyšel najevo ve Spojených státech ohledně zvolení Trumpa, protože buď můžeme posílit danou osobu, danou entitu, pokud jde o ochotu vybrat konkrétní skupinu. Například se mnou nelze takto manipulovat, protože mám patřičné názory, takže je zřejmé, že pro určitou variantu hlasovat nebudu, ale můžete mě zkusit od hlasování odradit.

negativní výběr.

A teď se podívejte, po zacílení na určité skupiny reklama na určité politické strany nebude fungovat vůbec, ale manipulativní akce ano.

Slyšel jsem například o volebních průzkumech, které mohou lidi odradit od toho, aby šli k volbám, a existují různé typy průzkumů. Existují průzkumy uklidnění, mobilizační průzkumy, vyjednávací průzkumy atd.

Ano, pane. Pamatujete si na kampaň „Vezměte si babičku“ před několika lety? Taky to tak bylo. Teď se to naklání na druhou stranu. To všechno jsou manipulace. Jediným problémem není ani tak internet, ani využívání ChatuGPT, umělá inteligence či spíše big data a analýzy dat, které politické strany získávají pro přípravu voličů, ale špatné společenské svědomí.

Jak se proti tomu bránit? Samozřejmě musí existovat konkrétní právní řešení.

Být upřímný. Zákon se dá připravit rychle, ale musí existovat instituce, které budou tento zákon sledovat, implementovat a ověřovat, kdy volební komise je odborná komise, pro kterou je například deepfake nebo analýza algoritmů, činnosti spojené s velkými daty, pokud existuje pokud by v této oblasti platily předpisy, byly by zcela zrušeny. Přesné vyjádření ohledně referenda, jeho přípustnosti a způsobu jeho konání však dnes neexistuje. Zákon nám tedy nic neřeší, ale pamatujte, že zákon lze napsat velmi jednoduše, ale lze jej aplikovat a následně rozebírat…

Nemohou být logické algoritmy rychlejší než zákon? Stejně jako to bylo s legálními drogami. Něco vytvoříme a už je to před dvěma dny hotové.

Dnes již máme algoritmy, které snadno analyzují jiné algoritmy. Velmi mě pobavilo, když se objevila vládní koncepce o svobodě projevu, kde Facebook zablokoval několik pravicových politiků. Měla tu být komise, která bude analyzovat slova, a ta komise jich měla podle mého názoru přečíst tisíce, protože by se objevilo tolik závěrů, tolik různých typů prohlášení, které by se objevily. To jen ukazuje, že mentálně nejsme připraveni, protože ve skutečnosti se to dělá, vždyť YouTube nahraje 400 000 videí za hodinu, z nichž všechna jsou analyzována z hlediska různých právních aspektů, v různých částech světa. Chceme-li tedy skutečně bojovat proti podprahovým aktivitám na internetu, proti analytikám, musíme nejen vytvořit vhodnou legislativu, ale také zavést nástroje, a co víc, IT nástroje, které to budou umět.

Zdá se mi, že musíme najít jiné algoritmy pro algoritmy, protože si myslím, že volební komise se nemůže podívat na celý internet.

Přesně tak. Možná se posuneme k realitám, jako je kybernetická bezpečnost, kde existují algoritmy, které útočí, a my máme druhé, takzvané dobré algoritmy, které nás proti nim chrání, jen se učí, takže si myslím, že bychom se měli ubírat tímto směrem.

Četl jsem rozhovor, který jste kdysi poskytl, v němž jste řekl, že pokud jde o kybernetickou bezpečnost, velké společnosti, některé státní instituce, a to je v naší zemi vše, takové realizace skutečně mají.

Myslím, že jsem to přehnal, pokud jde o řádnou implementaci veřejných institucí. Někteří ano, ale při pohledu na tyto menší subjekty to tak radostné nevypadá, stejně jako místní samosprávy, které byly ponechány svému osudu. Ať tak či onak, pokud chceme bojovat proti tomu, co se děje, a mnoho věcí se děje na internetu podprahově, musíme použít správné algoritmy. Ale kdo? Vhodnou institucí by podle mého názoru měla být volební komise, ale tyto volby, které jsou dnes zcela nepřipravené, nebudou volbami, kde se můžeme chránit před činy všech stran, řekněme si upřímně.

Ale může to být vnější akce. Máme důkazy o aktivitě v amerických volbách, je to ruská stopa, ale jsou tam i čínské stopy. To je pravděpodobně poučení z Kremlu a Pekingu a je třeba se toho bát.

Přesně tak. Výzkum Cambridge Analytic navíc ukazuje, kdo se staral o brexit a jak velký vliv měl. Jeho vliv byl velmi orientální. Univerzity jsou pod velmi silnými a častými útoky. V současnosti se skutečně jedná o statisíce kybernetických útoků. Ptal jsem se svých IT lidí, svých specialistů na kybernetickou bezpečnost, proč byla naše univerzita, Slezská univerzita, napadena. Především jde o signalizaci nebezpečí. Představte si situaci, kdy by těsně před volbami v Polsku došlo k hacknutí vládních, informačních a rozhlasových systémů a k sociálnímu chaosu, který by to způsobilo, včetně převrácení stolu, který politici připravili na předvolební kampaň. Každopádně takto probíhala tzv. speciální akce neboli začátek války na Ukrajině, kde byl nejprve vypuštěn virus, který měl napadnout všechny vládní weby a všechny informační stránky včetně televize a rozhlasu, tzn. společnost je najednou zcela odříznuta od všech informací a po třech dnech měla dorazit spásná armáda, která měla společnost ochránit před zlem, které se stalo, totiž nedostatečným přístupem k čemukoli, dokonce i k platebním kartám. Zde byl virus během čtyř hodin detekován a opraven, díky čemuž se Rusové stále musí snažit, naštěstí marně, ale Ukrajina uspěla.

Pak se to musíme naučit.

Když to vezmeme do roviny třeba před volbami, stalo by se něco neméně závažného i na společenské úrovni. To by mohlo být zajímavé. Podívejte se prosím také na to, že stále existují algoritmy a externí aktivity, existují algoritmy, které jsou v některých zemích z hlediska administrativy zakázány.

Možná si tedy vezmeme obyčejný leták, podíváme se na něj a přečteme si tvrzení, možná to bude nejlepší řešení.

Myslím si, že ano a pojďme si otestovat, co vlastně chceme, jaký máme profil a nevěřit politikům v tom, co říkají a co dělají, zejména v předvolební kampani. Podívejme se, co udělali a jaké mají politické programy.