Používanie chatbotov na konzultovanie zdravotného stavu môže byť rizikové z dôvodu nepresných odpovedí a halucinácií AI modelu, no môže byť tiež hrozbou pre vašu bezpečnosť a súkromie. Prečítajte si, čo skutočne riskujete a ako sa chrániť.
Chatboty bezpochyby menia spôsob, akým premýšľame, učíme sa a vnímame svet okolo nás, či už k lepšiemu, alebo k horšiemu. Tento trend je viditeľný v mnohých oblastiach života, no azda najcitlivejšou a často diskutovanou témou je využívanie nástrojov generatívnej umelej inteligencie (GenAI) pri zdravotnej starostlivosti. Popri množstve voľne dostupných AI chatbotov vstúpili na trh umelej inteligencie orientovanej na zdravie a bežných používateľov aj veľké technologické spoločnosti. Priniesli služby ako Copilot Health, ChatGPT Health či Amazon HealthAI, ktoré používateľom umožňujú interpretovať zdravotné záznamy a klásť otázky týkajúce sa symptómov, laboratórnych výsledkov a možností liečby.
Spoliehať sa na AI nástroj ako na náhradu skutočného lekára so sebou nesie riziká. Nebezpečenstvo spočíva nielen v tom, že používateľ dostane od umelej inteligencie nesprávnu radu. Rizikové je tiež zadávanie veľmi citlivých osobných údajov do systémov, ktorých zásady ochrany súkromia, postupy zverejňovania údajov či právne povinnosti môžu byť výrazne odlišné od pravidiel platných pre lekárov alebo nemocnice. Navyše sa tieto citlivé údaje môžu dostať do rúk najrôznejších subjektov, ktoré by používateľ vôbec nečakal. Podľa jednej americkej organizácie zaoberajúcej sa bezpečnosťou pacientov je nesprávne používanie AI chatbotov momentálne najväčším technologickým rizikom v oblasti zdravia.
Komplexná ochrana vášho digitálneho života
Komplexná ochrana vášho digitálneho života. Vyberte si úroveň podľa svojich potrieb.
Od teórie k praxi
Tvorcovia AI modelov sa púšťajú do sféry zdravotníctva z jasného dôvodu, chatboty sa totiž stali mimoriadne obľúbeným spôsobom, ako konzultovať zdravotný stav. Podľa spoločnosti Microsoft ľudia na mobilných zariadeniach diskutujú o svojom zdraví a zdraví svojich blízkych viac než o akejkoľvek inej téme. Chatboty sú k dispozícii nonstop a majú odpoveď na všetko. Navyše komunikujú sebavedomým tónom, ktorý dokáže ustráchaného pacienta upokojiť.
V čase, keď sú národné zdravotnícke systémy pod čoraz väčším tlakom, mnohí ľudia preferujú najskôr použiť AI na zhodnotenie svojho zdravotného stavu a až následne sa rozhodnú, či vyhľadajú odbornú lekársku pomoc. V kontexte toho, aké časovo náročné a často aj komplikované a nákladné je dostať sa k odbornej zdravotnej starostlivosti, sa prvotná samodiagnostika s pomocou AI javí ako jednoduchšia a pohodlnejšia možnosť.
Takáto prax však vyvoláva obavy. Prvým rizikom sú takzvané halucinácie, teda situácie, keď AI model poskytne používateľovi nesprávne alebo zavádzajúce informácie. Na základe štúdie Oxfordskej univerzity z februára tohto roka, ktorá bola uverejnená v časopise Nature Medicine, vyšlo najavo, že:
- používatelia často nevedeli, aké informácie by mali veľkému jazykovému modelu (LLM) poskytnúť,
- LLM modely poskytovali výrazne odlišné odpovede, hoci sa kladené otázky líšili len minimálne,
- modely často generovali dobré aj zlé odporúčania, pričom používatelia mali problém rozlíšiť, čo je správne.
„Napriek veľkému ošiaľu okolo tejto témy platí, že umelá inteligencia ešte nie je pripravená prevziať úlohu lekára,“ upozornila doktorka Rebecca Payneová, hlavná autorka štúdie. „Pacienti by si mali uvedomiť, že konzultovanie symptómov s AI modelom môže byť nebezpečné. Model môže stanoviť nesprávnu diagnózu alebo nemusí rozpoznať vážnosť situácie, ktorá si vyžaduje okamžitú lekársku pomoc.“
Objavte svet Bajtovcov, kde sa digitálny svet prelína s každodennými dobrodružstvami. Poučné epizódy, nečakané výzvy a stále viac záhad na obzore! Pozrite si všetky epizódy.
Riziká z pohľadu súkromia
Okrem zdravotných rizík existujú aj ďalšie dôvody na opatrnosť. Ide predovšetkým o ochranu súkromia. Ak používateľ zadá citlivé zdravotné informácie do verejne dostupného chatbota, tieto údaje môžu byť použité na ďalšie trénovanie modelu a v určitých prípadoch sa môžu objaviť aj v odpovediach poskytovaných iným používateľom. V minulosti už boli zaznamenané prípady, keď modely neúmyselne odhalili informácie, ktoré do nich používatelia zadali počas konverzácie.
Niektorí poskytovatelia využívajú údaje na zlepšovanie svojich modelov, pokiaľ sa používateľ z tohto procesu explicitne neodhlási odobratím súhlasu. Iní zase deklarujú a zaväzujú sa, že zdravotné údaje nepoužívajú na trénovanie. Tak či onak, je lepšie si vždy overiť, aký typ služby používate, a to ešte predtým, než do nej nahráte citlivé údaje. Zdravotné údaje totiž nie sú ako ukradnutá platobná karta, ktorú možno zablokovať a nechať si vydať novú. Zdravotné údaje sú jedinečné a máte ich na celý život. Keď ich poskytnete AI nástroju, môžu sa natrvalo zapísať do digitálneho priestoru.
Pravdou je, že väčšina najznámejších chatbotov zameraných na zdravie sľubuje, že zdravotné údaje používateľov nie sú využívané na trénovanie modelov. Trénovanie je však len jednou časťou širšej problematiky ochrany súkromia. AI služby totiž nemusia poskytovať rovnaké záruky, pokiaľ ide o poskytovanie údajov tretím stranám. Vaše zdravotné informácie sa tak môžu dostať napríklad k dátovým agregátorom, ktorí fungujú ako sprostredkovatelia medzi poskytovateľom AI služby a zdravotníckymi organizáciami. Údaje môžu byť tiež poskytnuté inzerentom, a to buď priamo, alebo prostredníctvom niektorého z dátových agregátorov, hoci pred použitím sú údaje zvyčajne anonymizované. Ani anonymizácia však nemusí úplne odstrániť všetky riziká. Údaje o zdraví sú mimoriadne citlivé a veľká dávka opatrnosti je preto naozaj namieste.
Keď riziko úniku údajov rastie
Čím viac tretích strán a subjektov má prístup k citlivým údajom, tým väčšie je riziko, že sa dostanú do rúk kybernetických útočníkov a podvodníkov. Americkí zákonodarcovia odhadujú, že len hŕstka únikov údajov zo spoločností obchodujúcich s dátami dovedna spôsobila škody vo výške približne 21 miliárd dolárov. Pre podvodníkov sú zdravotné údaje mimoriadne cenné, pretože:
- časom nestrácajú na hodnote, keďže ich nemožno jednoducho zmeniť ani nahradiť,
- môžu obsahovať informácie o zdravotnom poistení, ktoré možno zneužiť na podvody alebo využívanie služieb zdravotnej starostlivosti pod cudzou identitou,
- môžu slúžiť na vydieranie.
Čím viac spoločností údaje uchováva, tým viac príležitostí majú kybernetickí útočníci na ich krádež. Problémom je, že mnohé AI nástroje zamerané na zdravie nepodliehajú regulačným pravidlám, keďže sú klasifikované ako služby určené spotrebiteľom, nie ako služby podnikového charakteru. To znamená, že na týchto poskytovateľov sa nemusia vzťahovať také prísne pravidlá ochrany údajov, aké by ste za normálnych okolností očakávali.
Komplexná ochrana vášho digitálneho života
Komplexná ochrana vášho digitálneho života. Vyberte si úroveň podľa svojich potrieb.
Odporúčania pre pacientov
Ako teda minimalizovať riziká spojené s využívaním generatívnej umelej inteligencie (GenAI) v oblasti zdravia? Ak vás trápi zdravotný problém, vyhnite sa univerzálnym chatbotom a uprednostnite radšej AI riešenia navrhnuté špeciálne na zdravotnícke účely. Pred použitím si overte, ako služba nakladá s údajmi, či používa otázky a vstupy používateľov na trénovanie modelov, či poskytuje údaje tretím stranám a či podlieha regulačným požiadavkám na ochranu osobných údajov.
Neverte slepo všetkému, čo vám AI chatbot poradí, najmä ak odpovede modelu neobsahujú odkazy na dôveryhodné zdroje, kde si môžete overiť správnosť informácií. Dokonca ani v takomto prípade neberte odpovede ako absolútnu pravdu. Vždy sa poraďte s lekárom alebo si informácie overte na oficiálnych zdravotníckych portáloch.
Tu je niekoľko odporúčaní, ako chrániť svoje súkromie:
- Nikdy nenahrávajte zdravotnú dokumentáciu, výsledky laboratórnych vyšetrení ani iné citlivé dokumenty do nástroja umelej inteligencie, pokiaľ presne neviete, ako bude služba s týmito údajmi nakladať.
- Neuvádzajte mená, adresy, údaje o zdravotnom poistení, rodné čísla ani ďalšie identifikátory.
- Vypnite funkcie, ktoré umožňujú používať údaje na trénovanie modelu a ukladať históriu konverzácií.
- Poskytujte iba minimum informácií potrebných na zodpovedanie konkrétnej otázky.
- Predpokladajte, že všetko, čo zadáte, môže byť uložené alebo sprístupnené tretím stranám, a podľa toho formulujte svoje otázky.
AI chatboty môžu byť užitočné pri príprave otázok ohľadom konkrétneho zdravotného problému, ktoré chcete položiť svojmu lekárovi, alebo na vysvetlenie odborných lekárskych pojmov, ktorým nerozumiete. Je však zásadný rozdiel, ak umelú inteligenciu využívate ako doplnok či predprípravu k zdravotnej starostlivosti a ak je pre vás náhradou odbornej lekárskej služby. Nezabúdajte, že sebavedomá odpoveď chatbota nie je diagnóza, a ak pociťujete vážne alebo akútne príznaky, neodkladajte návštevu lekára len preto, že vás upokojila odpoveď stroja.
Spracoval: tím ESET
Zdroj: What to consider before asking an AI chatbot for health advice
