Seniori: Ako rozpoznať obsah vytvorený umelou inteligenciou a chrániť sa pred manipuláciou

#SpoločneOnline: Pomôžte svojim blízkym cítiť sa bezpečne v digitálnom svete! Stiahnite si Príručku digitálnej bezpečnosti pre všetky generácie a vyberte sa spoločne na digitálnu misiu za bezpečnejším internetom!

Nedávny prieskum Inštitútu pre verejné otázky, podporený aj Nadáciou ESET, ukázal, že až 41 % seniorov má problém rozlíšiť, či obsah, s ktorým sa stretli na internete, vytvoril človek alebo umelá inteligencia.

V čase, keď sa nástroje umelej inteligencie (AI) šíria veľmi rýchlo a sú súčasťou bežného života, je dôležité vedieť, ako sa v tomto svete správne orientovať a chrániť pred možnou manipuláciou.

Čo je to vlastne umelá inteligencia (AI)?

Možno vám výraz ‚umelá inteligencia‘ znie ako niečo zo sci-fi filmu. V skutočnosti však ide o modernú technológiu, ktorá sa učí z obrovského množstva dát a dokáže riešiť rôzne úlohy na základe promptov, ktoré jej zadáva človek.

Dobré vedieť
Prompt je vstupný text alebo pokyn, ktorý zadávame umelej inteligencii, aby vykonala určitú úlohu, napríklad zodpovedala otázku, vytvorila text, obrázok alebo vykonala analýzu.

Dnes sa AI využíva napríklad na:

• prekladanie cudzích jazykov,
• rozpoznávanie hlasu a reči,
• odporúčanie filmov, hudby či kníh,
• vyhľadávanie informácií na internete,
• pomoc pri nakupovaní,
• pripomenutie užitia liekov,
• alebo aj na ochranu pred internetovými podvodmi.

Vedeli ste, že spoločnosť ESET patrí medzi svetových lídrov vo využívaní umelej inteligencie pri ochrane pred kybernetickými hrozbami?

Umelá inteligencia nie je nepriateľ. Ak ju používame zodpovedne, môže sa stať naším skvelým pomocníkom.

Ako sa AI používa v bežnom živote

Obsah vytvorený umelou inteligenciou môže byť veľmi užitočný, kreatívny a zábavný. No na druhej strane môže byť aj zneužitý na šírenie falošných správ, manipuláciu s verejnou mienkou alebo klamstvá. Preto je dôležité vedieť, ako AI funguje a kde si dať pozor.

AI ako nástroj pre zábavu a inšpiráciu

Keď je AI použitá na tvorivé účely, cieľom je obohatiť človeka, ponúknuť mu nové umelecké zážitky, pobaviť ho alebo ho inšpirovať.

Príklad: Generovanie obrázkov a hudby

Na internete existujú nástroje, ktoré dokážu na základe textového zadania vytvoriť originálny obrázok alebo zložiť hudbu.

Napríklad zadáte umelej inteligencii vetu: „Vytvor futuristické mesto v oblakoch s drakmi lietajúcimi okolo“ a AI vygeneruje farebný obraz ako z rozprávky.

Príklad vygenerovanej grafiky z nástroja ChatGPT na základe zadania: „Vytvor futuristické mesto v oblakoch s drakmi lietajúcimi okolo“.
Zdroj: ESET

Podobne dokáže na základe štýlu vytvoriť melódiu, ktorá znie ako klasická hudba alebo popová skladba.

Cieľom takejto AI tvorby je baviť a inšpirovať, nie manipulovať. Tieto výtvory sa často publikujú pre svoju originalitu alebo vizuálnu príťažlivosť.

Ako rozoznať AI obrázok od reálnej fotografie

Fotografia vľavo: zdroj: https://www.four-paws.org/
Fotografia vpravo: zdroj: vygenerovaná AI Gemini

Vytvorili sme obrázok mačky pomocou nástroja AI Gemini. Porovnali sme ho s reálnou fotografiou. Tu sú hlavné rozdiely:

• Srsť a detaily: Na obrázku vytvorenom umelou inteligenciou (vpravo) je srsť až neprirodzene hladká, bez nedokonalostí. Oči pôsobia sklenene a príliš dokonale. Skutočná mačka (vľavo) má jemné nepravidelnosti, realistické tiene v rôznych častiach a prirodzené svetlo.
• Tiene a svetlo: AI často používa „filmové“ osvetlenie z jedného uhla, ktoré je síce efektné, ale pôsobí umelo. Pri originálnej fotografii sú prechody svetla prirodzenejšie.
• Celkový dojem: Obrázok vytvorený AI môže pôsobiť až príliš dokonale. Skutočné fotografie majú spontánnosť a prirodzenosť, ktorú AI zatiaľ nevie úplne napodobniť.

O tom, ako neuveriteľne rýchlo sa umelá inteligencia vyvíja, svedčí aj video, ktoré nedávno zverejnila spoločnosť Synthesia AI. Ide o nástroj na generovanie štúdiovo kvalitných videí s AI avatarmi a hlasovým komentárom vo viac ako 140 jazykoch. Vo videu je porovnané spracovanie ich AI avatara z rokov 2020, 2022 a súčasnosti. Pri najnovšej verzii je už na prvý pohľad ťažké rozoznať, či ide o skutočného človeka alebo výstup vytvorený umelou inteligenciou. Vedeli by ste pri poslednom videu s istotou povedať, že nejde o reálneho človeka?

Zdroj: https://www.tiktok.com/@synthesia_ai/video

Dobré vedieť
Avatar je grafické alebo digitálne znázornenie používateľa v online prostredí, napríklad vo forme obrázka, postavy alebo 3D modelu v hrách, sociálnych sieťach či virtuálnej realite.

Pomoc pri písaní textov

Umelá inteligencia vie pomôcť aj pri písaní článkov, príspevkov na sociálne siete či popisov k fotografiám. Stačí zadať tému a AI vám navrhne text, ktorý si môžete upraviť.

Táto pomoc je určená najmä tým, ktorí nemajú veľa skúseností s písaním, alebo hľadajú inšpiráciu. Opäť ide o praktické a neškodné využitie technológie.

Na obrázku môžete vidieť, ako ChatGPT na základe zadania vytvoril pre nás básničku o digitálnej bezpečnosti pre seniorov.
zdroj: ESET

AI môže byť aj nástrojom manipulácie

Nie vždy je však úmysel taký nevinný. Umelá inteligencia sa dá použiť aj na klamanie, šírenie falošných informácií či dokonca podvody.

Deepfake videá

Deepfakes sú videá alebo nahrávky, ktoré boli pomocou AI upravené tak, že osoba v nich hovorí alebo robí niečo, čo nikdy neurobila.

AI dokáže napodobniť hlas, tvár aj pohyb. Vznikne tak video, kde známy politik „niečo priznáva“, aj keď v skutočnosti nikdy nič také nepovedal.

Jeden z najvýraznejších príkladov, ako presvedčivé môžu byť deepfake technológie, predstavuje séria videí na TikToku, v ktorých vystupuje „Tom Cruise“. Na prvý pohľad pôsobia tak reálne, že aj skúsenému oku chvíľu trvá, kým si uvedomí, že nejde o skutočného herca. Tieto videá vytvorila spoločnosť špecializujúca sa na vizuálne efekty v spolupráci s hercom, ktorý Toma Cruisea imituje. Technológia však spracovala jeho tvár a mimiku tak dokonale, že výsledok je doslova znepokojujúco autentický. Tento prípad výborne ilustruje, ako ľahko môže umelá inteligencia zmanipulovať realitu a ako ťažké je rozlíšiť pravdu od digitálnej ilúzie.

Zdroj: www.edition.cnn.com

Tieto videá sa používajú aj na manipuláciu pred voľbami, poškodenie povesti alebo dokonca finančné podvody.

Ako ich rozpoznať?

• Ústa sa nepohybujú v súlade s rečou.
• Video je rozmazané alebo má zvláštne svetlo.
• Celkový dojem pôsobí neprirodzene.
• Obsah vás má šokovať alebo vyvolať silné emócie – to je varovný signál.

Vyššie je deepfake video, v ktorom bola spoločnosť ESET zneužitá v investičnom podvode. Hoci celý projekt pôsobí vizuálne dôveryhodne, ide o úplný výmysel. „ESET Trading“ neexistuje a spoločnosť ESET nemá nič spoločné s investovaním ani obchodovaním na finančných trhoch, ani neprevádzkuje algoritmy umelej inteligencie s týmto zameraním.

Ak si pozriete video detailne, ústa nesedia s hovoreným slovom a hlas je úplne mimo synchronizácie s mimikou tváre. Ide o prvé a veľmi silné indikátory deepfaku.

Ďalším varovným signálom je nízka kvalita videa a rozmazanie.

Okrem kvality a spracovania videa je dôležitý aj kontext. Seriózna diskusia o investovaní od kybernetickej bezpečnostnej firmy, ktorá je navyše podaná neobvykle, s vysokou pravdepodobnosťou ide o podvod.

Odporúčané články:

• Impersonifikácia má mnoho podôb. Odhaľte podvodníka skôr, ako vám narobí problémy
• ESET a Pellegrini lákajúci na zázračné zbohatnutie. Ako podvodníci zneužívajú pomocou AI známe osobnosti či firmy?
• Kozmický podvod: kyberzločinci zneužili štart rakety SpaceX

Falošné účty na sociálnych sieťach

Nástroje umelej inteligencie sa môžu použiť na vytváranie a riadenie rozsiahlych sietí falošných účtov (tzv. botov) na sociálnych sieťach, ktoré na prvý pohľad pôsobia ako skutoční ľudia. Tieto účty systematicky šíria a komentujú konkrétny obsah.

Dobré vedieť
Internetový bot je automatizovaný softvér, ktorý vykonáva úlohy na internete bez ľudského zásahu, napríklad vyhľadávanie informácií, odpovedanie na správy alebo zber dát.

Ako to funguje?

AI generuje profilové obrázky (ktoré často vyzerajú realisticky), píše statusy, publikuje články a interaguje s ostatnými používateľmi, aby vyvolala dojem organickej diskusie pri niektorých príspevkoch na sociálnych sieťach.

Cieľom takejto aktivity je opäť manipulácia, šírenie propagandy, vytváranie falošného konsenzu, polarizácia spoločnosti či potláčanie určitých názorov. Napríklad, pred voľbami môžu tisíce takýchto účtov šíriť negatívne informácie o jednom kandidátovi a glorifikovať iného.

---

---

Tipy, ako rozpoznať obsah vytvorený umelou inteligenciou

Tu je niekoľko tipov, ktoré vám pomôžu rozoznať, či obsah na internete vytvorila umelá inteligencia alebo človek.

1. Kontrolujte anomálie a nezrovnalosti

• Jazyk a štýl: Hoci sa AI zlepšuje, niekedy sa môžu objaviť zvláštne formulácie, opakujúce sa frázy alebo text, ktorý znie „príliš dokonale“ a bez ľudskej melódie či emócií. Všímajte si vety, ktoré nedávajú úplný zmysel alebo sú nezvyčajne suché a faktografické.
• Obrazy a videá:
  •  Nedokonalosti v detailoch: Pri obrázkoch generovaných AI si všímajte detaily ako počet prstov na rukách (často ich je viac alebo menej), zvláštne deformácie tvárí, nekorektné pozadie alebo texty v obrazoch, ktoré sú rozmazané alebo nezmyselné. Všímajte si na obrázkoch aj videách okolie. Ak je na obrázku záber na jeden hlavný prvok (človeka alebo auto), skontrolujte aj okolie. Práve v týchto častiach sa vyskytujú rôzne nezrovnalosti (napríklad autá s veľkým počtom kolies, zvláštne odseknuté časti okolia či prírody a pod.)
  • Nekonzistentné osvetlenie alebo tiene: AI môže mať problémy s realistickým zobrazením svetla a tieňov.
  • Pohyb a plynulosť vo videách: „Deepfake“ videá môžu pôsobiť mierne neprirodzene, môžu mať trhaný pohyb alebo zvláštnu synchronizáciu pier s rečou. Menej kvalitné deepfake videá sa dajú naozaj pomerne jednoducho rozoznať, postava hýbe len ústami, ale zvyšok tela je neprirodzene fixovaný, alebo je postava rozmazaná, naopak len hovoriace ústa sú čisté.

2. Overujte zdroj informácií

• Dôveryhodnosť webovej stránky: Kde ste na daný obsah narazili? Je to známy spravodajský portál alebo neznáma stránka s podivným názvom domény? Skontrolujte sekciu „O nás“ alebo kontaktné údaje.
• Autor obsahu: Je autor uvedený? Má autor nejaké predchádzajúce publikácie alebo overiteľnú expertízu v danej oblasti? Ak je autor neznámy alebo sa zdá byť fiktívny, buďte opatrní.
• Dátum zverejnenia: Informácie sa rýchlo menia. Uistite sa, že čítate aktuálny obsah.

3. Kritické myslenie a zdravý rozum

• Príliš dobré na to, aby to bola pravda: Ak sa niečo zdá byť neuveriteľné alebo príliš senzačné, pravdepodobne to nie je pravda. Ľudia so zlými úmyslami jednoducho pomocou AI vytvárajú obsah, ktorý má za cieľ vyvolať silné emócie (strach, hnev, prekvapenie) a zaujali masu ľudí.
• Overte si fakty: Ak si nie ste istí, vyhľadajte informácie z viacerých, overených zdrojov.
• Emocionálna reakcia: Ak vás obsah okamžite vyprovokuje k silnej emocionálnej reakcii, zastavte sa a zamyslite sa. Je to zámer? Má vás to ovplyvniť?

Záver

Orientácia v digitálnom svete plnom AI je pre seniorov výzvou, ale aj príležitosťou. Naučiť sa rozpoznávať obsah vytvorený umelou inteligenciou je kľúčové pre zachovanie kritického myslenia a ochranu pred manipuláciou. Vždy si pamätajte, že aj keď AI dokáže tvoriť úžasné veci, ľudský rozum a kritické myslenie zostávajú našimi najlepšími nástrojmi.