Tento článok je súčasťou globálnej iniciatívy spoločnosti ESET Safer Kids Online.
Spravodajský kanál BBC v júli 2024 informoval o prípade 12‑ročného dievčaťa, ktoré sa stalo obeťou novej formy kyberšikany, takzvaného deepfaku. Digitálne upravenú fotografiu uverejnil na Snapchate niekto z jej školy. Pomocou nástrojov umelej inteligencie prirobil tvár dievčaťa na pornografický obrázok, čím vytvoril deepfake. Spolužiaci dievčaťa fotku prezdieľavali, čo obeť stále viac traumatizovalo. Žiaľ, nejde o ojedinelý prípad, pretože deepfaky sa dajú vytvárať veľmi ľahko. O to vážnejšie sú problémy, ktoré dokážu obeti privodiť.
Čo je deepfake?
Ako už možno viete, deepfaky využívajú hĺbkové učenie (ktoré je podmnožinou strojového učenia) na vytváranie veľmi realistických obrázkov, videí alebo zvukových nahrávok. Táto technológia simuluje hlas alebo podobu svojho cieľa a vkladá ich do existujúcej nahrávky alebo obrázku. Aplikácie a softvér na tvorbu deepfakov sa zvyčajne používajú pomerne jednoducho a intuitívne a dokážu vytvárať presvedčivé výstupy. Hoci môžu byť prínosné pre rôzne kreatívne projekty, zlou správou je, že sa začínajú vo veľkom využívať aj pri šikane.
Jednoduché verzie deepfakov možno vytvoriť aj pomocou aplikácií, ako sú FaceApp alebo FaceSwap. Niektoré deepfaky sa stali virálnymi, napríklad videá verejných osobností ako Elon Musk, Joe Biden alebo Volodymyr Zelenskyj. Takéto videá boli použité najmä na šírenie falošných správ.
Ako sa deepfaky používajú
Podľa štúdie spoločnosti Deeptrace, ktorá sa zaoberá umelou inteligenciou, je 96 % deepfake videí kolujúcich na internete pornografického charakteru a veľmi často bez súhlasu dotknutých osôb. Tento problém zostáva z pohľadu práva nevyriešený. Deepfaky sa tiež využívajú na poškodenie reputácie a zničenie kariéry, no menej pozornosti sa venuje tomu, aký neblahý vplyv majú na deti.
Vzhľadom na jednoduchosť používania sa deepfaky stali obľúbeným nástrojom na šikanovanie. Tvár dieťaťa môže byť vložená napríklad do videa so sexuálne provokatívnym tancom. Emocionálna ujma a poníženie, ktoré dieťa v dôsledku takéhoto videa zažije, môžu negatívne ovplyvniť jeho sebavedomie a vzťahy v škole.
Samozrejme, deepfaky sa dajú používať aj pozitívnym spôsobom. Deti sa napríklad môžu stať hviezdami vo svojich obľúbených filmoch či hrách alebo sa virtuálne stretnúť s vysnívanou celebritou. Múzeum Salvadora Dalího na Floride využíva technológiu deepfake na vytvorenie interaktívneho zážitku pre návštevníkov, ktorých víta realistická podoba umelca. Hoci deepfaky môžu podporovať kreativitu a prinášať vyššiu úroveň interakcie, je dôležité mať o tomto fenoméne aktuálny prehľad a učiť deti, ako sa chrániť pred praktikami zneužívajúcimi technológiu deepfake.
Nové epizódy, nové výzvy a stále viac záhad na obzore! Pripojte sa k Bajtovcom na ich ďalšej ceste, kde sa digitálny svet prelína s každodennými dobrodružstvami.
Ako sa s deťmi rozprávať o deepfakoch
1. Pozrite sa spolu na deepfaky a diskutujte o nich
Začnite tým najjednoduchším krokom – pozrite si spolu príklady deepfakov. Možno vás prekvapí, ako sú vaše deti v technológiách zbehlé a že už možno dokážu rozpoznávať falošný obsah na internete. Nasmerujte ich pozornosť na dôležité témy, ako sú zodpovednosť, dôležitosť súhlasu a to, že bez povolenia by nikto nemal používať ich tvár ani hlas. Vytvorte pre ne bezpečné prostredie a dajte im najavo, že sa vždy môžu obrátiť na vás alebo na vedenie školy, ak sa stanú obeťou šikany zneužívajúcej deepfaky.
2. Naučte deti rozpoznať deepfaky
Hoci sú deepfaky čoraz ťažšie rozpoznateľné, niektoré znaky vám ich môžu pomôcť odhaliť. Všímajte si nezrovnalosti, ako je neprirodzené žmurkanie, pohyby pier nezodpovedajúce zvuku alebo chybné zobrazenie v línii vlasov či tváre. Varovným signálom môže byť aj nekonzistentné osvetlenie, napríklad nerovnomerné tiene alebo líšiace sa odrazy v očiach. Zamyslite sa aj nad samotným obsahom – ak sa zdá šokujúci alebo emocionálne manipulatívny, môže ísť o deepfake. Majte však na pamäti, že čím viac sa bude táto technológia zdokonaľovať, o to ťažšie bude si varovné znaky všimnúť.
3. Veďte deti k zodpovednému správaniu na internete
Porozprávajte sa s deťmi o tom, prečo je nebezpečné zdieľať vlastné fotografie a videá vo verejných skupinách. Vysvetlite im, ako ľahko môžu byť zneužité na vytvorenie deepfakov, a predstavte im spôsoby, ako sa na internete správať zodpovedne. Odporučte im, aby fotografie zdieľali iba v súkromných skupinových četoch s blízkymi priateľmi alebo rodinou a aby sa v rámci možností čo najmenej vystavovali rizikám. Ak tieto opatrenia sformulujete ako cestu k posilneniu vlastnej ochrany, nie ako striktné obmedzenia, deti ich lepšie prijmú.
4. Objavujte a vzdelávajte sa spoločne
Tak ako vy vzdelávate svoje dieťa, aj ono vás môže na oplátku naučiť niečo nové. Možno už aktívne používa aplikácie ako FaceApp alebo FaceSwap, a tak si spolu môžete vytvoriť neškodné a zábavné videá, pričom sa vzájomne niečo naučíte. Vaše dieťa si týmto spôsobom prehĺbi poznatky o technológii deepfake a zároveň sa dozvie o jej etickom používaní.
Komplexná ochrana vášho digitálneho života
Komplexná ochrana vášho digitálneho života. Vyberte si úroveň podľa svojich potrieb.
5. Zvážte ďalšie bezpečnostné opatrenia
Ak hľadáte dodatočnú ochranu, preskúmajte bezpečnostné riešenia určené na monitorovanie a správu rizík číhajúcich na deti v online svete, napríklad balíky ESET HOME Security. Prostredníctvom rodičovskej kontroly vám umožňujú sledovať, ktoré stránky vaše deti navštevujú. Okrem toho ponúkajú ochranu online identity a šifrovanie citlivých údajov a fotografií.
Zopár myšlienok na záver
Technológia deepfake má veľký potenciál a ponúka deťom mnoho kreatívnych príležitostí, súčasne však prináša aj riziká, o ktorých by ste mali vedieť. Ak chcete byť pre svojich potomkov lepším sprievodcom digitálnym svetom, udržiavajte si prehľad o možných nebezpečenstvách, ale zároveň deti podporujte v tvorivom využívaní tejto technológie. Vysvetlite im etické aspekty deepfakov a povzbuďte ich, aby neváhali vyhľadať pomoc, ak sa stanú obeťou šikany.
Safer Kids Online je globálnou iniciatívou spoločnosti ESET. Cieľom iniciatívy je zvýšiť povedomie o konkrétnych hrozbách, ktoré na deti na internete číhajú, a zvýšiť povedomie o príležitostiach a pozitívach, ktoré im moderné technológie ponúkajú.
