Tento článok je súčasťou globálnej iniciatívy spoločnosti ESET Safer Kids Online.
V dnešnej digitálnej dobe deti vyrastajú obklopené technológiami a čoraz rozšírenejšou umelou inteligenciou (AI). Hoci je umelá inteligencia užitočná a efektívna, s jej všadeprítomnosťou v životoch detí sú spojené aj nové obavy, najmä vzostup digitálneho vydierania zameraného na najmladších členov našej spoločnosti.
Nástroje umelej inteligencie siahajúce od platforiem sociálnych médií až po online herné komunity sa stali obrovskou súčasťou života detí, čo vytvára podmienky na nové spôsoby ich zneužitia a dáva deťom do rúk nový nástroj, ktorý môžu použiť proti sebe.
Podľa nedávneho varovania FBI rastie trend sexuálneho vydierania využívajúceho umelú inteligenciu. Nové nástroje a technológie, ako napríklad deepfaky a klonovanie hlasu, umožňujú zločincom a tyranom nájsť si nové spôsoby, ako vydierať a ubližovať iným.
Sexuálne vydieranie
Sextortion označuje situáciu, keď niekto núti iných k sexuálnym praktikám alebo zdieľaniu explicitných fotografií či videí pod vyhrážkou, že o nich zverejní kompromitujúce informácie.
Kyberzločinci si uvedomili, že pomocou deepfake modelov môžu vytvoriť nové videá, osoby v nich upraviť tak, aby sa na niekoho podobali, a potom obeť prinútiť urobiť niečo, čo by inak neurobila. Tieto modely možno trénovať na malom množstve materiálu, čo veľmi uľahčuje ich zneužitie. Na nových videách a fotkách nie sú vyobrazené skutočné osoby, avšak stačia na to, aby obeť uviedli do rozpakov, a tým ju urobili zraniteľnejšou. Vzniká tak priestor na to, aby zločinec s využitím falošného videa požadoval peniaze alebo informácie.
Deti vytvárajúce deepfake porno?
Áno, čítate správne. Zločinci môžu zneužiť tvár vášho drahého dieťaťa na vytváranie najrôznejšieho explicitného obsahu. A nielen to – takýto obsah tvoria aj samotné deti.
Zistiť, ako vytvoriť deepfake, je pomerne jednoduché a pre technicky zdatné deti je to hračka. A tak sa zrodila nová vlna kyberšikany. Deti (väčšinou tie staršie) prišli na to, že explicitný obsah môžu použiť proti svojim rovesníkom. Taktiež objavili rôzne skryté stránky nových technológií a teraz ich využívajú na to, aby si navzájom ubližovali.
Odporúčaný článok
Deepfakes ako nástroj šikanovania?
Emocionálny vplyv
Niektoré deti to môžu robiť pre zábavu, iné zo zvedavosti a ďalšie sa snažia ublížiť svojim spolužiakom. Jedno je však isté: stať sa obeťou sexuálneho vydierania je emocionálne vyčerpávajúce a veľmi ťažko sa z toho „dostáva“.
Táto nová forma kyberšikany posúva obavy rodičov, pedagógov a IT odborníkov na úplne novú úroveň. Následky pre dieťa sú oveľa vážnejšie, než si možno uvedomujú. Zoznam dlhodobých následkov je nekonečný – od traumy, ktorá môže trvať roky, cez stratu dôvery až po strach z toho, že to zistia budúci zamestnávatelia a potenciálni životní partneri.
Sú riešením prísnejšie limity?
Niektorí tvrdia, že šíreniu problému, ako je tento, môžu zabrániť iba prísnejšie pravidlá a predpisy. Ďalší požadujú, aby si účty na sociálnych sieťach mohli zakladať len staršie deti, a iní volajú po prísnejších pravidlách, pokiaľ ide o moderovanie obsahu.
Čo môžu urobiť rodičia?
- Pokúste sa pochopiť svet, v ktorom žijú vaše deti. Keď ste boli v ich veku, sociálne siete neexistovali, ale vaše deti vyrastajú v úplne novej dobe. Pochopenie sveta, ktorý ich obklopuje, je kľúčom k akémukoľvek pokroku.
- Vysvetľujte, vysvetľujte, vysvetľujte – už dávno sa ukázalo, že pokiaľ ide o používanie technológií, prísne pravidlá nefungujú. Deti si vždy nájdu cestu. Lepšie je teda porozprávať sa s nimi a vysvetliť im riziká a nevýhody sociálnych sietí alebo nesprávnej netikety a ubližovania iným na internete.
- Buďte pre ne bezpečným prístavom – páchateľ aj obeť sa potrebujú s niekým porozprávať. Tým, že budete pre svoje deti osobou, s ktorou sa budú cítiť v bezpečí a ktorá ich nebude odsudzovať, ich môžete ochrániť pred mnohými ujmami online aj offline.
- Ukážte im ich hodnotu – zdravé sebavedomie sa začína doma. Ak ho majú, nebudú si ho musieť dokazovať inde.
- Vaše deti nikdy nie sú príliš malé na to, aby sa začali učiť o technológiách – čím viac im o nich poviete, tým lepšie budú pripravené, keď sa stane niečo zlé. Musíte byť vzorovým príkladom správneho používania internetu a ich sprievodcom.
Buďte príkladom
Nárast kyberšikany, ktorú uľahčujú nástroje umelej inteligencie, predstavuje dnes problém. S rozvojom technológií musia byť rodičia a pedagógovia v strehu a informovaní. Riešiť problémy, ako je sexuálne vydieranie a kyberšikana, nikdy nebolo jednoduché, ale ak chceme uspieť, musíme sa s deťmi rozprávať a uistiť sa, že chápu, čo je na internete dobré a čo zlé. Jedna vec je vytvoriť etickú umelú inteligenciu a presadzovať jej správne používanie, ale ďalšou dôležitou úlohou je budovať kultúru empatie, rešpektu a zodpovedného správania v online aj offline priestore. Buďte príkladom pre svoje deti a vytvorte im bezpečnejšie prostredie na internete.
Spracoval: tím ESET
Autor: Alžbeta Kovaľová
Safer Kids Online je globálnou iniciatívou spoločnosti ESET. Cieľom iniciatívy je zvýšiť povedomie o konkrétnych hrozbách, ktoré na deti na internete číhajú, a zvýšiť povedomie o príležitostiach a pozitívach, ktoré im moderné technológie ponúkajú.
