Začiatkom tohto mesiaca bol spustený nový projekt ChatGPT Health, ktorý priniesol integráciu s Apple Health a ďalšími poskytovateľmi zdravotných dát. Myšlienka je lákavá, no zatiaľ nedokonalá. Umelá inteligencia analyzuje obrovské množstvo údajov zo zariadení ako Apple Watch a ponúkne používateľom zrozumiteľný pohľad na ich zdravie. Realita však zatiaľ ukazuje, že tento prístup má výrazné trhliny.
Technologický komentátor denníka The Washington Post Geoffrey A. Fowler sa rozhodol otestovať, čo dokáže ChatGPT Health v praxi. Udelil mu prístup k dátam zo svojich Apple Watch, ktoré zahŕňali približne 29 miliónov krokov a 6 miliónov záznamov o srdcovom tepe. Následne požiadal umelú inteligenciu, aby zhodnotila jeho kardiovaskulárne zdravie. Výsledok ho šokoval, keď mu ChatGPT mu udelil katastrofálnu známku „F“.
ChatGPT Health vyhodnocuje chybné údaje
Fowler priznáva, že ho hodnotenie vystrašilo natoľko, že si okamžite išiel zabehať a správu následne preposlal svojmu lekárovi. Odpoveď odborníka bola jednoznačná, žiadna známka „F“ nehrozí. Podľa lekára má tak nízke riziko srdcového infarktu, že by mu poisťovňa pravdepodobne ani nepreplatila dodatočné vyšetrenia.
ChatGPT začína odhadovať váš vek. Takto rozhodne, čo smiete vidieť
Problém bol v samotnej analýze dát. ChatGPT Health sa výrazne opieral o hodnoty VO2 max, ktoré Apple sám označuje len za orientačné odhady vhodné na sledovanie trendov, nie na presnú diagnostiku. Rovnako nesprávne interpretoval zmeny pokojového srdcového tepu, ktoré v skutočnosti súviseli s prechodom na novší model Apple Watch a presnejšími senzormi, nie so zhoršením zdravotného stavu.
Ďalším alarmujúcim zistením bola nevyrovnanosť odpovedí. Pri opakovaní rovnakej otázky sa Fowlerova známka menila od F až po B. ChatGPT navyše v rôznych konverzáciách zabúdal základné informácie, ako je vek, pohlavie či aktuálne vitálne hodnoty, hoci mal k dispozícii aj výsledky krvných testov.
Napriekt tomu, že podobné správanie nie je pri AI chatbotoch ničím výnimočným, v prípade nástroja, ktorý má slúžiť ako zdroj zdravotných informácií, ide o vážny problém. ChatGPT Health tak zatiaľ pôsobí skôr ako zaujímavý experiment než spoľahlivý partner pre starostlivosť o zdravie.
Nezabudnite tiež na náš SvetApple bazár, v ktorom nájdete viac ako 1200 inzerátov na rôzne Apple zariadenia. Tie sem môžete pridať úplne zadarmo kliknutím na tento odkaz.