Film Ona (v anglickom origináli „Her“) rozpráva príbeh romantického vzťahu hlavnej postavy so sofistikovaným systémom umelej inteligencie, ktorý sa napokon neskončí šťastne. V čase premiéry filmu v roku 2013 spadal takýto príbeh ešte pod žáner sci‑fi. S nástupom generatívnej umelej inteligencie (GenAI) a veľkých jazykových modelov (LLM) však už podobná predstava nie je vôbec taká vzdialená. Počet aplikácií, ktoré fungujú ako dôverný spoločník používateľa, v súčasnosti rýchlo rastie.
Dôverné rozhovory s AI chatbotmi so sebou nevyhnutne nesú riziká. Akú máte istotu, že vaše osobné údaje nebudú poskytované tretím stranám alebo ukradnuté hackermi? Podobné otázky vám pomôžu spraviť si lepší obraz o tom, aké sú riziká a čo môžete stratiť.
ODPORÚČANÝ ČLANOK
Ako vaše city nevedomky pomáhajú digitálnym podvodníkom
Hľadanie (digitálnej) lásky
Aplikácie fungujúce ako dôverní spoločníci reagujú na rastúci dopyt trhu. Digitálni AI partneri dokážu s používateľmi komunikovať konverzačným štýlom s vysokou mierou personalizácie vďaka sile LLM a modelov spracovania prirodzeného jazyka (NLP). Aplikácie ako Character.AI, Nomi či Replika napĺňajú psychologické a niekedy aj romantické potreby používateľov. Pre vývojárske firmy sa tento trhový segment stáva čoraz zaujímavejším.
Na novú vlnu už nabiehajú dokonca aj veľké platformy. Spoločnosť OpenAI nedávno oznámila, že čoskoro povolí erotický obsah pre dospelých po overení veku a vývojárom zrejme umožní vytvárať aplikácie pre dospelých postavené na modeli ChatGPT. Elon Musk so svojou spoločnosťou xAI už tiež spustil flirtujúce chatboty v aplikácii Grok.
Výskum publikovaný v júli ukázal, že takmer tri štvrtiny tínedžerov používajú AI spoločníkov, pričom polovica z nich pravidelne. Ešte znepokojujúcejšie je, že tretina pri vážnych rozhovoroch uprednostnila AI chatboty pred ľuďmi a štvrtina im poskytla osobné informácie.
Pomaly sa začínajú objavovať konkrétne príbehy, ktoré sú jasným varovaním pre používateľov. V októbri výskumníci upozornili na dve konverzačné aplikácie (Chattee Chat a GiMe Chat), z ktorých nekontrolovane unikli veľmi citlivé dáta používateľov. Nesprávne nakonfigurovaný Kafka Broker v oboch aplikáciách spôsobil, že systémy na prenos a doručovanie obsahu zostali bez kontroly prístupu. Ktokoľvek tak mohol získať prístup k viac než 600 000 fotografiám, IP adresám a miliónom intímnych konverzácií vyše 400 000 používateľov.
Komplexná ochrana vášho digitálneho života
Komplexná ochrana vášho digitálneho života. Vyberte si úroveň podľa svojich potrieb.
Riziká vzťahu s botom
Pre útočníkov sa črtá nový spôsob, ako zarobiť peniaze. Všetko, čo obeť poskytne v romantickej konverzácii s AI chatbotom, je možné využiť na jej vydieranie. Fotografie, videá či audionahrávky môžu útočníci vložiť do deepfake nástrojov a výsledok použiť na sexuálne vydieranie, takzvané „sextortion“. Osobné údaje zase môžu predať na dark webe alebo rovno využiť na podvody s ukradnutou identitou. V závislosti od zabezpečenia aplikácie sa hackeri môžu dostať aj k číslam platobných kariet uložených pri nákupoch v aplikácii. Podľa Cybernews niektorí používatelia na takéto nákupy míňajú tisíce.
Ako ukazuje vyššie spomenutý príklad, pre mnohých vývojárov AI aplikácií je prioritou generovanie zisku, nie kybernetická bezpečnosť. Útočníkom sa tak môže podariť nájsť bezpečnostné zraniteľnosti alebo chyby v nastaveniach, ktoré dokážu zneužiť. Môžu sa dokonca pokúsiť vytvoriť vlastné konverzačné aplikácie, do ktorých ukryjú škodlivý kód na krádež informácií alebo ktoré zmanipulujú používateľov k tomu, aby prezradili svoje citlivé údaje. Tie sa následne dajú použiť na podvod či vydieranie.
Aj keď používate relatívne bezpečnú aplikáciu, hrozí riziko z pohľadu súkromia. Niektorí vývojári zbierajú čo najviac informácií o používateľoch, aby ich mohli predávať tretím stranám, konkrétne inzerentom. Z nejasných pravidiel ochrany osobných údajov sa dá často len ťažko pochopiť, či a ako sú vaše údaje chránené. Môže sa tiež stať, že vaše informácie a rozhovory s AI chatbotom budú použité na trénovanie alebo vyladenie základného modelu LLM, čo ešte viac umocňuje riziká ohrozujúce súkromie a bezpečnosť.
Objavte svet Bajtovcov, kde sa digitálny svet prelína s každodennými dobrodružstvami. Poučné epizódy, nečakané výzvy a stále viac záhad na obzore! Pozrite si všetky epizódy.
Ako chrániť svoju rodinu
Či už používate konverzačné AI aplikácie sami alebo sa obávate o svoje deti, platia tie isté odporúčania. Predpokladajte, že AI nemá žiadne zabudované zabezpečenie ani opatrenia na ochranu súkromia. Nezadávajte do AI chatbotov žiadne osobné ani platobné údaje, ktoré by ste neprezradili cudzej osobe. Rovnako do chatbota neposielajte potenciálne zahanbujúce alebo šteklivé zábery a videá.
Ak chcete vy alebo vaše deti vyskúšať niektorú z AI aplikácií, najskôr si urobte prieskum a vyberte tie, ktoré ponúkajú najlepšie zabezpečenie a ochranu súkromia. To znamená, že si ku každej aplikácii prečítate zásady ochrany osobných údajov, aby ste zistili, ako používa a ďalej poskytuje údaje používateľov. Vyhnite sa aplikáciám, ktoré jasne nepomenúvajú účel použitia alebo priznávajú predaj používateľských dát.
Ak sa vám podarilo nájsť vhodnú aplikáciu, zapnite v nej bezpečnostné funkcie, ako je napríklad dvojfaktorová autentifikácia. Zabránite tak hrozbe, že niekto prevezme kontrolu nad vaším účtom pomocou ukradnutého hesla alebo technikou hrubej sily. Preskúmajte aj nastavenia súkromia, aby ste čo najviac zvýšili ochranu – napríklad možnosť neukladať konverzácie na trénovanie modelu.
Ak sa obávate, aký vplyv môžu mať konverzačné AI chatboty na bezpečnosť, súkromie a psychiku vašich detí, dôležité je sa s nimi na túto tému rozprávať. Pripomeňte im riziká nadmerného zdieľania a zdôraznite, že AI aplikácie majú na zreteli generovanie zisku, nie blaho používateľov. Jedným zo spôsobov, ako chrániť svoje deti, je tiež stanoviť jasné limity na čas strávený pri obrazovke alebo v aplikáciách, s čím vám môžu pomôcť funkcie a aplikácie rodičovskej kontroly.
Samozrejmosťou je, že deťom by ste nemali dovoliť žiadne aplikácie AI chatbotov, ktoré nemajú dostatočnú ochranu v podobe overenia veku a pravidiel moderovania obsahu.
Budúcnosť ukáže, či regulačné orgány zasiahnu a presadia prísnejšie pravidlá pre vývojárov v tomto segmente trhu. Chatboty zacielené na romantické konverzácie sa v súčasnosti pohybujú v akejsi šedej zóne, hoci pripravovaný „Zákon o digitálnej férovosti“ (Digital Fairness Act) by v EÚ mohol priniesť zákaz nadmerne návykových a personalizovaných digitálnych zážitkov.
Kým vývojári a regulačné orgány nedoriešia vypuklé problémy, je možno lepšie nepristupovať k AI ako k svojmu dôverníkovi či emocionálnej opore.
