AI podvody s identitou: keď technológie spôsobujú spúšť

Umelá inteligencia (AI) mení náš svet očakávaným, ale aj nepredvídaným spôsobom. Pre spotrebiteľov táto technológia znamená presnejšie prispôsobený digitálny obsah, lepšiu diagnostiku v zdravotníctve, preklad jazyka v reálnom čase (napríklad na dovolenke) a generatívnych AI asistentov na zvýšenie produktivity v práci. Vďaka umelej inteligencii sú produktívnejší aj kyberzločinci, najmä pokiaľ ide o podvody s identitou, ktoré sú v súčasnosti najčastejším typom podvodov.

Viac ako tretina lídrov pôsobiacich v oblasti bankových rizík a inovácií v Spojenom kráľovstve, Španielsku a USA považuje za najväčšiu výzvu súčasnosti nárast podvodov a deepfakov generovaných umelou inteligenciou. Ako AI podvody fungujú a čo môžete urobiť, aby ste zostali v bezpečí?

Ako funguje AI podvod s identitou?

Podvod s identitou znamená zneužitie vašich informácií o totožnosti na spáchanie trestného činu, napríklad na vytvorenie dlhu na kreditnej karte vo vašom mene alebo na prístup k bankovému či inému účtu. Podľa jedného odhadu AI podvody v súčasnosti predstavujú viac ako dve pätiny (43 %) všetkých pokusov o podvod zaznamenaných vo finančnom a v platobnom sektore. Takmer tretina (29 %) týchto pokusov je úspešná. Ako umelá inteligencia pomáha kyberzločincom?

Existuje niekoľko rôznych taktík:

• Prevzatie kontroly nad účtami a ich vytváranie pomocou technológie deepfake: Podvodníci používajú deepfake zvukové a obrazové podobizne legitímnych používateľov, aby obišli kontroly založené na princípe „poznaj svojho klienta“ (Know Your Customer; KYC), ktorý poskytovatelia finančných služieb uplatňujú s cieľom overiť totožnosť zákazníkov. Obrázok alebo video s vašou podobizňou získajú podvodníci z webu a nahrajú do nástroja na tvorbu deepfakov alebo do nástroja generatívnej umelej inteligencie. Výslednú podobizeň vložia do dátového toku medzi používateľom a poskytovateľom služieb v rámci tzv. injekčných útokov (útoky vo forme vloženia kódu), ktorých cieľom je oklamať overovacie systémy. Podľa jednej správy sa deepfaky v súčasnosti využívajú pri štvrtine (24 %) podvodných pokusov o biometrické overenie založené na pohybe a pri 5 % statických overení založených na selfie.
• Falšovanie dokumentov: Podvodníci kedysi na otvorenie nových bankových účtov na mená nič netušiacich obetí používali falzifikáty fyzických dokladov, napríklad sfalšované cestovné pasy. V súčasnosti častejšie volia digitálnu cestu. V jednej správe sa uvádza, že digitálne falzifikáty sa používajú pri viac ako 57 % všetkých podvodov s dokumentmi, čo predstavuje 244 % ročný nárast. Podvodníci zvyčajne získajú šablóny dokumentov online alebo si stiahnu obrázky dokladov odcudzených pri únikoch údajov a potom ich upravia vo Photoshope. Nástroje generatívnej umelej inteligencie im túto prácu urýchľujú a umožňujú robiť vo veľkom.
• Syntetický podvod: V tomto prípade podvodníci vytvoria novú, tzv. syntetickú identitu buď kombináciou skutočných (ukradnutých) a vymyslených informácií o totožnosti, alebo len pomocou vymyslených údajov. Túto identitu potom použijú napríklad na otvorenie nových bankových účtov a získanie kreditných kariet. Môžu pritom využiť aj falzifikáty dokumentov a deepfaky, čím sa zvyšujú ich šance na úspech. Podľa jednej správy si 76 % amerických odborníkov na podvody a riziká myslí, že ich organizácia má syntetických zákazníkov. Odhaduje sa, že počet podvodov tohto typu sa každoročne zvýši o 17 %.
• Deepfaky, ktoré oklamú priateľov aj rodinu: Niekedy môžu podvodníci použiť falošné video alebo zvukovú nahrávku, ktoré dokážu oklamať aj vašich najbližších. Jednou z taktík je virtuálny únos, keď podvodník zavolá vašim príbuzným a tvrdí im, že vás uniesol. Ako dôkaz im prehrá falošnú nahrávku vášho hlasu a potom požaduje výkupné. Podvodníci môžu takto využiť generatívnu umelú inteligenciu aj pri hľadaní možnej obete. Globálny bezpečnostný poradca spoločnosti ESET Jake Moore predstavil, čo všetko je v súčasnosti možné, tu a tu.
• Credential stuffing (na prevzatie kontroly nad účtami): Pri útokoch typu credential stuffing sa ukradnuté prihlasovacie údaje použijú pri automatizovaných pokusoch o prístup k iným účtom, pre ktoré ste si mohli nastaviť rovnaké prihlasovacie meno a heslo. Nástroje využívajúce umelú inteligenciu by dokázali rýchlo generovať zoznamy prihlasovacích údajov z viacerých zdrojov, čo by kyberzločincom pomohlo vykonávať útoky väčšieho rozsahu. A mohli by ich použiť aj na presné napodobnenie ľudského správania počas prihlasovania s cieľom oklamať ochranné filtre.

Aký dosah majú AI podvody?

Podvod nemožno považovať za neškodný čin, jeho dôsledky zasahujú reálnych ľudí. Podvod využívajúci umelú inteligenciu môže:

• spôsobiť podvedenej osobe veľké emocionálne utrpenie (v jednej správe sa uvádza, že 16 % obetí trestného činu zneužitia identity uvažovalo o samovražde),
• byť s väčšou pravdepodobnosťou úspešný a znížiť zisky spoločností, čo ich následne núti zvyšovať ceny pre všetkých,
• ovplyvniť národné hospodárstvo (nižšie zisky spoločností znamenajú nižšie príjmy z daní, čo zase znamená menej peňazí na verejné služby),
• podkopávať dôveru verejnosti v právny štát a dokonca aj v demokraciu,
• podkopávať dôveru firiem, čo by mohlo viesť k nižším investíciám do krajiny.

---

---

Ako ochrániť svoju identitu pred AI podvodmi

V boji proti zneužívaniu umelej inteligencie na kybernetické útoky organizácie čoraz viac siahajú po obranných AI nástrojoch, ktoré im pomôžu rozpoznať varovné signály podvodu. Čo môžete urobiť? Pravdepodobne najúčinnejšou stratégiou je minimalizovať príležitosti útočníkov na získanie vašich informácií o totožnosti a údajov v podobe zvukových nahrávok a videa. To znamená nasledovné:

• Nezverejňujte na sociálnych sieťach príliš veľa informácií a sprísnite nastavenia ochrany súkromia.
• Dávajte si pozor na phishing: kontrolujte domény odosielateľov, všímajte si preklepy a gramatické chyby a nikdy neklikajte na odkazy ani neotvárajte prílohy v nevyžiadaných e‑mailoch.
• Zapnite si dvojfaktorovú autentifikáciu pre všetky účty.
• Vždy používajte silné a jedinečné heslá uložené v nástroji na správu hesiel.
• Pravidelne aktualizujte softvér vo všetkých notebookoch a mobilných zariadeniach.
• Pozorne sledujte pohyby na bankových účtoch a platobných kartách, pravidelne kontrolujte, či nedošlo k podozrivým aktivitám, a ak sa vám niečo nepozdáva, okamžite zmrazte účty.
• Na všetky zariadenia si nainštalujte viacvrstvový bezpečnostný softvér od renomovaného dodávateľa.

Takisto by bolo dobré mať prehľad o najnovších podvodných taktikách využívajúcich umelú inteligenciu a informovať o deepfakoch a podobných typoch podvodov svojich priateľov a rodinu.

Podvody využívajúce umelú inteligenciu budú stále pribúdať, pretože táto technológia je čoraz lacnejšia a účinnejšia. A keďže sa tieto nové preteky v kybernetickom zbrojení odohrávajú medzi ochrancami firemných sietí a ich protivníkmi, spotrebitelia sa ocitnú uprostred. Postarajte sa o to, aby ste sa nestali ďalšou obeťou v poradí.