Sú aplikácie s umelou inteligenciou bezpečné pre deti?

Umelá inteligencia a deti náhľadový obrázok ESET

Žijeme v ére, kde je bežné upravovať a publikovať fotografie. V podstate sa už nedá vrátiť späť. S aplikáciami na úpravu fotiek sa stretávame od počiatku fungovania sociálnych médií. Vieme si vďaka nim predstaviť, ako by sme mohli vyzerať o 50 rokov alebo s ružovými vlasmi. Poskytujú nám nielen zábavu, ale aj možnosť byť kreatívny. Aplikácie vo veľkom využívajú deti aj dospelí.

Nový trend programov na editáciu s využitím umelej inteligencie (AI) si získava popularitu medzi všetkými používateľmi sociálnych sietí. Zábava spočíva v tom, že takáto aplikácia vezme vašu fotografiu a vytvorí jej alternatívne verzie, avatary v rôznych umeleckých štýloch. Nepredstavuje však táto sféra nebezpečenstvo pre vaše deti?

Najpoužívanejšia a najznámejšia aplikácia na úpravu fotiek s využitím AI, Lensa, sľubuje, že spracuje váš obrázok a vytvorí avatara, alternatívne ja v rôznych umeleckých štýloch. Znie to ako skvelá zábava, však? Celá podstata takýchto aplikácií spočíva v tom, že nahráte svoju fotografiu a daný softvér vám vygeneruje niekoľko upravených obrázkov. Čo sa však stane so všetkými vašimi údajmi?

Pri inštalácii novej aplikácie je vždy dobré pozrieť sa do obchodu App Store či Google Play a skontrolovať recenzie, výrobcu a pravidlá používania. Aplikácia Lensa sa priznáva k zhromažďovaniu údajov, ako aj k ich zdieľaniu s tretími stranami.

Predovšetkým však nevyužíva rodičovskú kontrolu ani nevyžaduje overenie veku. Hoci aplikácia uvádza, že selfie môžu pridávať len osoby staršie než 13 rokov, prakticky to nemožno nijak zaistiť. Ako môže rodič chrániť svoje dieťa v aplikácii, ktorá na to sama neponúka riešenie? Tak, že sa jednoducho spoľahne na dôveryhodný nástroj rodičovskej kontroly.


ESET Parental Control 3d box 2023

Pomáha chrániť deti pri používaní internetu a limitovať čas strávený s technológiami. Poskytuje možnosť zistiť aktuálnu polohu dieťaťa, zobraziť iba vami povolený webový obsah a mnoho ďalších funkcií. Viac informácií o produkte


Dôsledky používania takejto aplikácie na súkromie sú jedna vec. Ďalší problém nastane, keď začneme premýšľať o jej obsahu. V súvislosti s aplikáciou Lensa sa objavili správy o hypersexualizovaných obrázkoch, oslabovaní etnických čŕt, zoštíhľovaní tiel a nerealistických štandardoch krásy, čo môže mať negatívny vplyv na psychiku dieťaťa.

Keď do aplikácie vložíte svoje fotografie, neviete, čo presne vám vypľuje späť. Je nepredvídateľná, čo znamená, že vám môže poskytnúť nevhodné alebo sexualizované portréty, v niektorých prípadoch dokonca také, kde ste hore bez.

Hoci vaše dieťa používa aplikáciu s nevinným úmyslom, môže sa stretnúť s presexualizovanu verziou seba samého. Ak si však položíme otázku, či by sa takéto nástroje mohli v budúcnosti používať so škodlivými úmyslami iných, je to ešte horšie.

Ak dieťa práve náhodou nenatrafí na nevhodného avatara, možno mu aplikácia vygeneruje jeho „dokonalú“ verziu. Sociálne siete a online svet sú už teraz plné nerealistických očakávaní, ktorými sú naše deti denne kŕmené. Toto je však úplne iná úroveň. Ide priamo o ich vylepšenú podobu. O ich vlasy, ale lesklejšie. Ich telo, ale štíhlejšie. Dieťa môže pocítiť vnútornú túžbu podobať sa svojim falošným verziám. Prirodzené štandardy krásy potlačí do úzadia a začne zvádzať vnútorný boj o to, aby vyzeralo ako nerealistická alternatíva bez prirodzených ľudských chýb, s upravenou, dokonalou pleťou a črtami, ktoré by nenadobudlo ani plastickou operáciou. Takéto predstavy sú škodlivé pre dieťa, dospievajúceho aj dospelého.

Vytváranie umelých obrázkov s našou podobou či predstava, ako by sme mohli vyzerať, keby sme sa narodili pred stovkami rokov, sú naozaj zábavné a vzrušujúce. Rovnako podmanivý je aj obraz toho, ako ďaleko pokročili technológie, čo všetko dokáže dobre napísaný algoritmus a koľko sa toho dokáže naučiť. Nezabudnite však, že všetko, čo vaše dieťa používa online, je potenciálnou hrozbou pre jeho bezpečnosť a duševné zdravie. Otvorený a úprimný vzťah s dieťaťom je nesmierne dôležitý. Rozprávajte sa s ním o hrozbách a zázrakoch digitálneho sveta. Urobte z neho miesto, ktorého sa netreba báť, ale na ktoré sa treba pripraviť. Pamätajte, že všetci máme v rukách možnosť spraviť z internetu bezpečnejšie prostredie pre deti.


Autor: Alžbeta Kovaľová

logo-safer-kids-online

Safer Kids Online je globálnou iniciatívou spoločnosti ESET. Cieľom iniciatívy je zvýšiť povedomie o konkrétnych hrozbách, ktoré na deti na internete číhajú, a zvýšiť povedomie o príležitostiach a pozitívach, ktoré im moderné technológie ponúkajú.