Dnes všichni mluví o AI. Je to nástroj, který v mnoha oblastech nahrazuje člověka. Může ji používat kdokoli, včetně podvodníků. Co je AI a proč může být nebezpečná? Co jsou podvody s umělou inteligencí? Ověřte si, jak se chránit před podvody pomocí AI a jak rozpoznat zprávu od umělé inteligence?

Zločinci už pro své účely využívají umělou inteligenci. Ve Spojených státech se loni díky jejich pomoci podařilo od obyčejných lidí vymámit více než 11 miliard dolarů! Podobné případy jsou stále častější i v Evropě. Brzy budeme čelit lavině podvodů pomocí tohoto nástroje. Na co se připravit a proti čemu se bránit?

Co je AI a proč může být nebezpečná?

Umělá inteligence (AI) je rozsáhlý počítačový systém, tvořený tzv. neuronovými sítěmi (algoritmy, matematické a lingvistické modely). Byl vytvořen člověkem, ale může fungovat sám o sobě, růst a „učit se“ stejně jako lidský mozek. Algoritmy umělé inteligence zpracovávají každý den obrovské množství dat, znalosti získávají přizpůsobováním se situaci. Nepotřebují lidskou kontrolu. Stačí jim dát cíl a oni ho dosáhnou sami.

Jedním z prvních cílů umělé inteligence v 50. letech bylo vyhrát šachový turnaj. Později se „myslící“ počítače začaly používat mimo jiné i v samořiditelných autech bez řidiče. Dnes se umělá inteligence rychle rozvíjí prostřednictvím takzvaného hlubokého učení. Je to např. schopnost rozumět lidské řeči, předvídat události a rozhodovat se.

Programy na něm založené (nazývané chatboti) mohou mluvit, vytvářet filmy, hudbu a obrázky. Pozornost! Je stále obtížnější odlišit jednání chatbotů od účinků lidské činnosti. To je důvod, proč je AI v rukou zločinců tak nebezpečná.

Co jsou podvody s umělou inteligencí?

Klonují hlas kohokoli. Dosud se podvodník mohl za někoho pouze vydávat a nyní může mluvit hlasem někoho jiného – doslova. V telefonu můžeme slyšet skutečný hlas milovaného člověka nebo přítele. Volající bude mluvit přesně jako on, s realistickou intonací, emocemi a stejnou slovní zásobou. Řekne například, že se ocitl v těžké situaci, že měl nehodu a požádá o rychlý převod peněz nebo BLIK kód.

Klonování hlasu umožňují snadno použitelné aplikace dostupné na internetu za malý poplatek nebo dokonce zdarma. Chcete-li naklonovat něčí hlas, nahrání skutečné řeči nebo zachycené konverzace trvá jen minutu. Podvodník může také zavolat pod jakoukoli záminkou a nahrát hlasový vzorek.

Poté zavolá oběti, ale nic neřekne: do počítače zadá, co má aplikace „říkat“ naklonovaným hlasem. Píší zprávy, které nevzbuzují žádné podezření. V minulosti jsme rozpoznali textové zprávy nebo e-maily zaslané podvodníky prostřednictvím jazykových chyb. Umělá inteligence vytváří zprávy bez chyb, v jasné polštině.

Podvodníci také používají chatboty, které simulují písemnou konverzaci. Posílají SMS nebo zprávu v Messengeru, WhatsApp a předstírají, že jsou někým z našeho seznamu kontaktů. Když zareagujeme, okamžitě dostaneme odpověď, jako by partner byl skutečně na druhé straně. Pozornost! V takovém rozhovoru může podvodník vydávající se za přítele požádat o cokoliv od bankovního převodu až po ponechání klíče pod rohožkou. Jsou klamné.

Umělou inteligenci využívají i nepoctiví podnikatelé, kteří poskytují placené poradenství online (např. právní, daňové, účetní). Pokud jsou tipy napsány programem založeným na umělé inteligenci, zdají se být spolehlivé a úplné, ale mohou obsahovat závažné chyby, protože umělá inteligence často spoléhá na falešná nebo zastaralá data. Když se takovými radami řídíme, můžeme ztratit mnohem více, než jsou peníze za ně zaplacené – například chybné sepsání odvolání, zmeškání důležité lhůty a dokonce i prohraný spor u soudu.

Mnoho zdravotních informací vytvořených pomocí umělé inteligence začíná kolovat také na internetu. Lékaři a odborníci bijí na poplach: nepravdivé informace je těžké rozpoznat. Když jim důvěřujete, můžete se vážně zranit!

Jak se chránit proti podvodům s umělou inteligencí?

V současnosti je nejlepší ochranou znalost, tedy povědomí o tom, jak mohou zločinci fungovat. Proto stojí za to sdílet tyto informace s co největším počtem lidí.

• Pokud vám zavolá člen vaší rodiny, aby vás požádal o peníze nebo důvěrné informace, například identifikační číslo, PIN ke kartě, nikdy takovou žádost ihned nesplňujte. Vždy si zkontrolujte, s kým vlastně mluvíte: zavěste a zavolejte dané osobě sami.
• Pozornost! Může být dobrý nápad nastavit si s rodinou „heslo“ jako druh ověření po telefonu. Ať už se jedná například o událost, o které víte pouze vy. Když vám zavolá „příbuzný“ s neobvyklým požadavkem a neví, co to je, uvědomíte si, že jde o podvodníka.
• Zkuste si zkontrolovat zprávy, které jsou pro vás důležité (zkontrolujte si například, zda stejné informace poskytují spolehlivé zpravodajské portály). V případě online poradenství se zeptejte nebo si ověřte, kdo (podle jména) je dal. S kontroverzními a šokujícími informacemi zacházejte opatrně, například s videi o politicích nebo celebritách v překvapivých situacích. Mohou to být výtvory podvodníků, kteří chtějí upoutat vaši pozornost nebo vás přimět k něčemu.

Jak rozpoznat zprávu od umělé inteligence?

Je tak obtížné, že počítačoví vědci vytvářejí speciální programy pro rozpoznávání textů napsaných umělou inteligencí.

• Texty vytvořené umělou inteligencí vypadají na první pohled logicky, ale pozorným čtením si můžete všimnout rozporuplných nebo velmi obecných informací.
• Důležitá je rychlost odezvy: pokud dostanete okamžitou, podrobnou a úplnou odpověď na své otázky (například telefonicky, SMS, chat), může to znamenat, že se vám líbí chatbot, tedy aplikace využívající umělou inteligenci, nikoli chatbot. skutečná osoba.
• Varovným signálem je také absence chyb. Chatboti s umělou inteligencí, jako je chatGPT, jsou jazykové modely, které si nelze splést. Nedělají žádné překlepy, gramatické nebo stylistické chyby. Text je bezvadný, ale také působí neosobně a příliš korektně.

Jak podvodníci vymáhali peníze pomocí AI?

Loni ve Spojených státech podvodníci, kteří pomocí umělé inteligence simulovali hlasy, okradli pomocí vylepšené metody „vnučky“ více než 5000 lidí.

• Ve Spojených státech matka 15leté dívky slyšela plačtivý hlas své dcery, která říkala, že byla unesena. Pak někdo požadoval výkupné za jeho „propuštění“. Vyděšená žena peníze složila, přestože její dcera byla v bezpečí u příbuzných. Dívčin hlas byl naklonován.
• Ve Spojeném království se sekretářce generálního ředitele energetické společnosti zavolal její nadřízený, který ji požádal, aby převedla velkou částku peněz na určený účet. Naklonován byl i prezidentův hlas. Peníze se nepodařilo získat zpět.
• Člověku žijícímu v Číně zavolal „přítel“, který ho během falešného videohovoru pomocí umělé inteligence požádal o vysokou půjčku. Oběť nepochybovala, že mluví s přítelem, protože to nejen slyšela, ale také to viděla na obrazovce svého telefonu. A peníze dal zločinci.