Neskoro v noci sme pri bezmyšlienkovitom prechádzaní obsahu na YouTube narazili na video, ktoré objasňovalo desivý podvod využívajúci platformy hlasovej umelej inteligencie. Odhalilo sa v ňom potenciálne zneužitie tejto technológie, v praxi známej ako virtuálny únos. Tento článok sa zaoberá koncepciou virtuálnych únosov, používanými metódami a dôsledkami toho, ako dokáže umelá inteligencia vykonať virtuálny únos.
Pochopenie virtuálneho únosu
Virtuálny únos je druh podvodu, ktorý využíva strach a paniku vznikajúcu z toho, keď sa niekto domnieva, že došlo k únosu jeho blízkej osoby. Namiesto fyzického únosu sa podvodník snaží vylákať peniaze alebo získať nejakú výhodu vytvorením presvedčivej ilúzie únosu.
Tradičná metóda s nízkou technickou náročnosťou
Jeden z bežnejších prístupov k virtuálnemu únosu spočíva v podvrhnutí (tzv. spoofingu) telefónneho čísla obete. Podvodník zavolá členovi rodiny obete alebo niektorému z jej priateľov a v pozadí nasimuluje chaotickú a hlučnú atmosféru, aby sa zdalo, že obeť je v bezprostrednom nebezpečenstve. Podvodník potom požaduje výkupné za bezpečný návrat obete domov.
SPOOFING: Falšovanie identity odosielateľa (v angličtine „spoofing“) je rozšírenou technikou, pri ktorej útočník úmyselne mení meno alebo e‑mailovú adresu odosielateľa v snahe oklamať príjemcu e‑mailu. Spoofing sa používa aj na falšovanie identity volajúceho, na utajenie polohy podvodníka či dokonca na napodobňovanie telefónneho čísla dôveryhodnej organizácie.
Na zvýšenie dôveryhodnosti podvodu páchatelia často využívajú informácie z verejne dostupných zdrojov na zhromažďovanie údajov o obeti a jej blízkych. Tieto informácie pomáhajú podvodníkom vytvoriť spoľahlivejšie klamstvo, napríklad sa zameriavajú na osoby, o ktorých vedia, že cestujú alebo sú mimo domova, a sledujú ich účty na sociálnych sieťach.
Špičkové klonovanie hlasu
Pokročilejšia a dokonalejšia verzia virtuálneho únosu pozostáva zo získania vzoriek hlasu obete a z použitia platforiem umelej inteligencie na vytvorenie hlasového klonu. Podvodník potom môže zavolať rodine alebo priateľom obete, vydávať sa za ňu a žiadať znepokojivé požiadavky.
Realizovateľnosť klonovania hlasu
Rozhodli sme sa experimentovať s bezplatným softvérom na úpravu videí a zvuku s podporou umelej inteligencie, aby sme demonštrovali uskutočniteľnosť hlasového klonovania. Nahrávaním útržkov hlasu Jakea Moora (globálny bezpečnostný expert spoločnosti ESET) sme sa pokúsili vytvoriť jeho presvedčivý klon.
Pomocou softvéru sme nahrali Jakeov hlas z rôznych videí dostupných online. Nástroj vygeneroval zvukový súbor a prepis, ktorý sme následne odoslali službe na klonovanie hlasu založenej na umelej inteligencii. Hoci sme ohľadom úspešnosti experimentu boli skeptickí, do 24 hodín nám prišlo e-mailové oznámenie, že hlasový klon je pripravený na použitie.
A tu sú výsledky:
AUDIO DOWNLOAD: Jake’s AI generated fake plea
Obmedzenia a možné zneužitie
Hoci prvý pokus o klonovanie hlasu vykazoval nedostatky v tempe a tóne, ako aj obmedzenú slovnú zásobu, potenciál na nekalé využitie tejto technológie zostáva zrejmý. Zločinci by mohli využiť virtuálny únos zasielaním hlasových správ, ktoré by obsahovali osobné informácie získané prostredníctvom techník OSINT (z verejne dostupných zdrojov na zhromažďovanie údajov o obeti a jej blízkych), čím by podvod nabral na presvedčivosti.
Okrem toho by sa vysokopostavené osoby, ako napríklad výkonní riaditelia technologických spoločností, mohli stať terčom krádeže hlasu vzhľadom na ich verejné pôsobenie. Odcudzením ich hlasov by mohli podvodníci manipulovať zamestnancov organizácie s cieľom prinútiť ich vykonávať nekalé aktivity. V kombinácii s ďalšími taktikami sociálneho inžinierstva by sa tak virtuálny únos mohol stať silným nástrojom a zároveň náročným problémom, proti ktorému je potrebné bojovať, keďže technológie sa neustále zdokonaľujú.
ODPORÚČANÝ ČLÁNOK: Umelá inteligencia nestačí. Kľúčom ku kybernetickej bezpečnosti je spolupráca technológií a ľudskej odbornosti
Dôvod na obavy?
Táto nová modifikácia existujúcej techniky virtuálneho únosu, prostredníctvom ktorej podvodníci vytvárajú ilúziu únosu bez toho, aby niekoho fyzicky vzali, predstavuje znepokojujúci vývoj v oblasti počítačovej kriminality. Zneužívanie platforiem hlasovej umelej inteligencie na klonovanie hlasov vyvoláva vážne etické a bezpečnostné obavy.
Vzhľadom na technologický pokrok je pre jednotlivcov, organizácie a vývojárov platforiem s umelou inteligenciou veľmi dôležité, aby boli ostražití, pokiaľ ide o možné zneužitie klonovania hlasu a iných podobných prípadov. Zabezpečenie osobných údajov, obozretnosť pri pôsobení v online priestore a implementácia spoľahlivých bezpečnostných opatrení a školení môže pomôcť zmierniť riziká spojené s virtuálnymi únosmi a ochrániť pred neoprávnenými pokusmi o klonovanie hlasu.
Zaujal vás tento článok? Prihláste sa na odber nášho newslettra a získajte každý mesiac praktické rady o bezpečnosti na internete.
Spracoval: tím ESET
Zdroj: WeLiveSSecurity – Raj Kapoor: The grand theft of Jake Moore’s voice: The concept of a virtual kidnap
