Umelá inteligencia nestačí. Kľúčom ku kybernetickej bezpečnosti je spolupráca technológií a ľudskej odbornosti

Roman Kováč ESET

Akú úlohu zohráva progres v kybernetickej bezpečnosti? Budeme mať bezpečnostné riešenie založené len na umelej inteligencii? A sme dnes, čo sa týka kybernetickej bezpečnosti, dostatočne pripravení čeliť hrozbám, ktoré nás čakajú v budúcnosti? Svoje pohľady do budúcnosti kybernetickej bezpečnosti nám poskytol Roman Kováč, riaditeľ  výskumu v spoločnosti ESET.

  • ako technologický progres v kybernetickej bezpečnosti ovplyvňuje naše životy,
  • akú úlohu dnes zohráva umelá inteligencia v prípade kybernetickej bezpečnosti,
  • a odpoveď na to, aká budúcnosť kybernetickej bezpečnosti nás čaká?

Môžeš v skratke našim čitateľom predstaviť to, čomu sa profesijne venuješ?

Venujem sa kybernetickej bezpečnosti a rôznym témam, ktoré s tou oblasťou súvisia. V ESET-e som zodpovedný za tímy, ktoré majú na starosti analýzu rôznych typov kybernetických útokov a ochranu voči nim. Našou úlohou je pochopiť, aké nástroje a aké taktiky, techniky a procedúry (TTPs) útočníci používajú, aká je ich motivácia a získané vedomosti sa snažíme využiť na lepšiu ochranu našich zákazníkov. Taktiež sa venujeme téme „threat intelligence“, kde naša expertíza a znalosti pomáhajú organizáciám lepšie sa pripraviť na kybernetické útoky.

Čo ťa inšpirovalo k tomu, aby si sa venoval tejto oblasti?

Úplne v úvode to bola túžba po zmene. Predtým som dlhé roky pracoval skôr na vývoji softvéru, v ESET-e som pred 13 rokmi začínal ako analytik malvéru. Bola to vtedy pre mňa vítaná zmena a odvtedy sa venujem už len kybernetickej bezpečnosti.

Technologický progres nám v súčasnosti umožňuje robiť veci, ktoré sa zdali v minulosti nemožné. Čo pre teba znamená progres?

Progres je o posúvaní vecí dopredu, o realizovaní nových riešení rôznych problémov – riešení, ktoré v minulosti neboli možné, napríklad kvôli technickým limitom. Dobrým príkladom je oblasť „big data“ alebo „machine learning“, teda strojové učenie. Posun vo vývoji hardwaru za posledných 10+ rokov, nižšia cena, efektívnejšie úložiská, rýchlejšie spracovanie dát umožnili rozvoj týchto dvoch oblastí a otvorili cestu k aplikáciám komplexných algoritmov a novým riešeniam na širokej báze. To, čo bolo kedysi možné dosiahnuť len v drahom dátovom centre sa dnes dá realizovať oveľa jednoduchšie.

Ako pozitívne technologický progres v kybernetickej bezpečnosti ovplyvňuje naše životy?

Keď sa na to pozriem z hľadiska našej práce, technologický progres je nenahraditeľný. Pred 20 rokmi bola množina dát, ktorú sme potrebovali denne spracovať, zanalyzovať v porovnaní s dneškom taká malá, že to šlo vykonať „ručne“ – rozumej, skúsenými analytikmi škodlivého kódu. Dnes je množstvo dát, ktoré spracovávame také veľké, že bez pomoci technológií by sme nemali šancu. Treba samozrejme povedať, bez ľudí, expertov to nejde ani dnes.

Každý pokrok a inovácia technológií vytvára nové príležitosti pre tých, ktorí majú zlé úmysly. Aké výzvy z pohľadu kybernetickej bezpečnosti so sebou prináša technologický progres?

Presne tak, každá nová technológia prináša okrem nesporných benefitov aj riziká. Nové technológie a riešenia nemusia byť hneď na začiatku úplne dokonalé, často môžu obsahovať zraniteľnosti alebo otvárať nové výzvy, ktoré dovtedy neexistovali a nevedeli sme si ich ani predstaviť. Plus, samozrejme, tým ľudom a skupinám, ktoré majú zlé úmysly, často nič nebráni využívať tie isté technológie, ten istý pokrok na svoje nekalé účely. Ako jednoduchý príklad môžeme použiť samotný vznik internetu. Dnes sa veľká časť našich životov doslova odohráva v online priestore. Zostali tí, ktorí majú zlé úmysly, v offline svete? Samozrejme, že nie. Rýchlo identifikovali nové možnosti ako sa napríklad obohatiť a tiež presunuli svoje aktivity do online priestoru.

Veľkou témou progresu a budúcnosti ako takej je umelá inteligencia. Akú úlohu dnes zohráva v prípade kybernetickej bezpečnosti?

Určite veľkú, ale tu už zohrávala aj pred pár rokmi. Ale pomenujme veci správne. To, o čom dnes tak často počúvame, patrí skôr pod pojem machine learning, teda strojové učenie. Dnes je pojem „artificial intellitence“ veľmi nadužívaný?. Keď bežný človek číta médiá alebo počúva vyjadrenia firiem a ich propagáciu rôznych produktov, mohol by nadobudnúť dojem, že umelá inteligencia dokonale a tak nejako automaticky vyrieši každý problém. Pravda je samozrejme trošku komplikovanejšia.

ESET používa rôzne metódy strojového učenia v kybernetickej bezpečnosti už vyše 10 rokov, akurát sme nekričali do sveta, že všetko riešime len pomocou umelej inteligencie. Predsa len, sme technologická firma a zároveň firma, ktorá komunikuje veci férovo.

Ako sa podľa teba zmení kybernetická bezpečnosť v najbližších rokoch aj z hľadiska jej implementácie? Myslíš si, že niekedy budeme mať bezpečnostné riešenie založené len na umelej inteligencii, ktoré bude pracovať bez ľudského zásahu? Alebo je to niečo, čo je veľmi ďaleká budúcnosť?

Ako som už povedal, napriek nespochybniteľným výhodám – ktoré sa aj my snažíme naplno využiť, aj riešenia pomocou strojového učenia majú svoje úskalia a riziká. Algoritmy potrebujú na vstupe kvalitné a správne klasifikované dáta, tu sa vie však ESET spoliehať na tri desaťročia práce našich expertov a samozrejme na naše technológie. Okrem toho, spracovanie dát v oblasti kybernetickej bezpečnosti má svoje špecifiká. Áno, aj v mnohých iných oblastiach dochádza k rôznym zmenám podmienok, dát na vstupe a podobne – ale v oblasti kybernetickej bezpečnosti je „hra“, ktorú hráme ešte viac dynamická – a plus máme na druhej strane aktívneho protivníka, ktorý za behu mení pravidlá tejto hry. Strojové učenie, alebo dajme tomu umelá inteligencia, nám vie veľmi pomôcť, ale tvrdiť, že bude v blízkej budúcnosti bezchybne riešiť celú problematiku kybernetickej bezpečnosti, je prehnané. Kľúč je v správnej kombinácii technológií a ľudskej odbornosti.

Napriek tomu, že umelá inteligencia je užitočným nástrojom, ktorý nám pomáha brániť sa pred hrozbami, objavujú sa názory o tom, že nástroje umelej inteligencie demokratizujú počítačovú kriminalitu a v budúcnosti bude ľahko zneužiteľná jednotlivcami bez technických zručností. Aký máš na to názor?

Určite, nič nebráni tým, ktorí majú zlé úmysly, používať alebo skôr zneužívať hocijakú novú technológiu na svoje obohatenie sa alebo na rôzne iné neetické až kriminálne účely. Ale stále platí, že daný jednotlivec alebo skupina musí mať určité technické zručnosti, bez toho to nejde. Výnimkou je, ak si jednotlivec bez potrebných zručností kúpi a použije nejaké hotové, komerčné riešenie – čo sa samozrejme bežne deje aj dnes (napríklad: RaaS – Ransomware as a Service, BYOB frameworky – Build Your Own Botnet) a v budúcnosti môžu takéto riešenia samozrejme využívať aj to, čo ponúka strojové učenie alebo umelá inteligencia.

Pri hrozbách ešte zostaneme. Pozrime sa na aktuálnu situáciu. Pandémia, zrýchlenie digitalizácie v mnohých oblastiach a k tomu vojna na Ukrajine. To všetko zvýšilo hrozbu kybernetických útokov po celom svete. Ako hodnotíš aktuálnu situáciu z pohľadu kybernetickej bezpečnosti?

Útočníci sú kreatívni a snažia sa využiť každú príležitosť. Napríklad tému očkovania proti COVID-19 alebo zbierku na pomoc Ukrajine vedia útočníci použiť ako návnadu a znížiť ostražitosť užívateľa s cieľom, aby klikol na nejakú linku. Počas pandémie sa stala práca z domu bežnou vecou, organizácie museli vo väčšej miere otvoriť prístupy k firemným serverom zvonku. To často útočníci využívali na prienik do infraštruktúry týchto organizácií – najmä ak prístup nebol dôsledne zabezpečený (napríklad pomocou 2FA). A tiež, hlavne zo začiatku pandémie, boli často zvonku dostupné aj tie servery, pre ktoré nebol takýto prístup nutný.

Vo všeobecnosti platí, že v každom problematickom regióne, kde sa odohráva nejaký konflikt, má tento konflikt dnes aj kybernetický rozmer. To samozrejme platí aj pre Ukrajinu, kde môžeme už kľudne hovoriť o kybervojne.

Očakávaš, že budú v budúcnosti kybernetické útoky narastať?

Určite netreba ľudí strašiť alebo šíriť paniku. Na druhej strane, kybernetické útoky sú realitou a netreba očakávať, že v budúcnosti nebudú alebo že ich bude menej. Dôležité je sa na takéto útoky, či už sú za nimi kriminálne skupiny alebo štáty a nimi platené organizácie, dôsledne a systematicky pripravovať. Len zvýšením našej ostražitosti, kybernetickej odolnosti vieme držať s útočníkmi krok. To platí aj pre domácich používateľov aj pre privátny sektor, rôzne typy organizácií, kritickú infraštruktúru a vládne inštitúcie.

Sme dnes, čo sa týka kybernetickej bezpečnosti, dostatočne pripravení čeliť hrozbám, ktoré nás čakajú v budúcnosti? Dá sa vôbec na to pripraviť?

Ak by som povedal, že sme na hrozby perfektne pripravení – či už Slovenská republika, Európska Únia alebo štáty NATO, bolo by to asi trošku optimistické tvrdenie. Na druhej strane, tvrdiť opak by zase devalvovalo to, čo štáty a organizácie za posledné roky spravili. Myslím si, že nikdy nebudeme v stave, kedy si budeme môcť povedať hotovo, sme pripravení, netreba už nič viac robiť. Veci sa totiž dynamicky vyvíjajú, útočníci a útoky takisto, takže dôležitý je systematický dlhodobý prístup k rizikám a k budovaniu kybernetickej odolnosti.

Ak to celé zhrnieme, aká budúcnosť kybernetickej bezpečnosti nás čaká? Či už sa bavíme o domácom používateľovi ale aj firemnom prostredí.

Citoval by som výrok Yogi Berra: „Je ťažké robiť predpovede, najmä o budúcnosti“. V každom prípade je na mieste byť ostražitý a investovať do vzdelania, technických aj netechnických riešení, ktoré nám našu odolnosť zvýšia. Úspešný útok vylúčiť na 100% nevieme, takže je tiež dôležité byť pripravený a vedieť, ako v takých prípadoch reagovať.

Bonusová otázka: Bez ktorého technologického výdobytku či technológie si dnes nevieš predstaviť život.

Asi by som to poňal všeobecne a odpoveďou by bol „internet“.


Získajte praktické rady o bezpečnosti na internete. Prihláste sa na odber nášho newslettra.