Ľudia sa čoraz častejšie pýtajú AI aj na zdravie. Odborníci však varujú, že sebavedomé odpovede chatbotov môžu viesť k zlým rozhodnutiam.
Ľudia sa na chatboty s umelou inteligenciou čoraz častejšie obracajú aj pri zdravotných ťažkostiach. Dôvod je jednoduchý. Odpovedajú hneď, sú dostupné stále a pôsobia istejšie než bežné vyhľadávanie na internete, píše BBC.
Práve v tom však podľa odborníkov tkvie problém. Odpovede umelej inteligencie môžu pôsobiť odborne aj vtedy, keď sú nepresné.
Ukazujú to aj opísané skúsenosti používateľov, keď chatbot raz pomohol nasmerovať človeka k vhodnej starostlivosti, no inokedy ho zbytočne vystrašil vážnym scenárom.
Obavy neskrývajú ani lekári. Hlavný zdravotnícky predstaviteľ Anglicka Chris Whitty tento rok upozornil, že verejnosť tieto nástroje už reálne používa, no ich odpovede stále nie sú dosť dobré a často bývajú sebavedomé aj nesprávne.
Na podobný problém narazili aj výskumníci z Oxfordskej univerzity. Tí pripravili realistické zdravotné scenáre od ľahších ťažkostí až po stavy, pri ktorých bolo nutné volať záchranku alebo ísť na urgent.
Keď chatboty dostali kompletný opis prípadu, boli podľa výskumníkov presné v 95 percentách prípadov. Úplne inak to však dopadlo vo chvíli, keď s nimi komunikovali ľudia tak, ako to robia v bežnom živote.
V teste s 1300 účastníkmi presnosť klesla na 35 percent. Inými slovami, približne v dvoch tretinách prípadov smerovali používatelia k zlej diagnóze alebo nevhodnej forme pomoci.
Vedci to vysvetlili tým, že ľudia podávajú informácie postupne, niečo vynechajú a pri opise problému odbiehajú. Práve v tejto bežnej komunikácii sa slabiny AI ukázali najvýraznejšie.
Výskum zároveň naznačil, že klasické vyhľadávanie nemusí byť v takýchto situáciách horšou voľbou. Ľudia, ktorí namiesto chatu hľadali informácie tradične, sa často dostali na stránky NHS a boli na rozhodovanie lepšie pripravení.
Praktická lekárka Margaret McCartneyová upozornila, že chatbot vytvára dojem osobného vzťahu a rady šitej na mieru. Práve to môže meniť spôsob, akým ľudia vnímajú jeho odpovede a ako veľmi im veria.
The Washington Post upozornil na dve nové štúdie. V jednej z nich päť AI nástrojov správne odpovedalo len na niečo vyše polovice z 250 zdravotných otázok. Približne pätina nesprávnych odpovedí pritom podľa hodnotenia výskumníka mohla byť nebezpečná.
Druhá štúdia testovala 21 modelov na realistických prípadoch a ukázala, že pri úvodnom posudzovaní stavu, keď chýbajú dôležité informácie, zlyhali v 80 percentách scenárov. Problémom teda nie je len samotná presnosť, ale najmä schopnosť uvažovať pri neúplných údajoch, čo je v medicíne rozhodujúce.
Zo štúdií vychádza, že chatbot môže poslúžiť ako doplnkový nástroj, ktorý človeka nasmeruje alebo mu pomôže zorientovať sa v téme, no nemal by nahrádzať lekára, lekárnika ani overené zdravotnícke weby.
Pozrite si aj reportáž o vplyve umelej inteligencie:
Sledujte Televízne noviny vo full HD a bez reklám na Voyo
