Požiadal ChatGPT o radu a o tri mesiace skončil v nemocnici: AI nie je lekár
V časopise Annals of Internal Medicine Clinical Cases lekári opísali znepokojivý incident, ktorý poukazuje na riziká nesprávneho využívania umelej inteligencie. Muž vo veku 60 rokov, ktorý sa snažil o zmenu stravovania, požiadal o radu jazykový model ChatGPT. Výsledkom však nebolo zlepšenie zdravia, ale hospitalizácia a psychóza spôsobená zriedkavým toxickým syndrómom – bromizmom.
Experiment s tragickými následkami
Muž začal experimentovať po tom, čo sa dočítal o škodlivých účinkoch nadmerného príjmu bežnej kuchynskej soli (chloridu sodného). Keďže sa mu nepodarilo nájsť dostatok informácií o škodlivosti chloridového iónu (Cl⁻), rozhodol sa, inšpirovaný vlastným záujmom o výživu, zmeniť svoj jedálniček tak, aby úplne vylúčil chlorid.
Aby túto zmenu uskutočnil, obrátil sa na ChatGPT (pravdepodobne verziu 3.5 alebo 4.0) s otázkou, čím môže chlorid nahradiť. Podľa jeho výpovede mu model navrhol bromid sodný (NaBr) ako alternatívu. Muž preto v priebehu troch mesiacov nahradil všetku kuchynskú soľ bromidom, ktorý si zakúpil online.
Čo je bromizmus?
Bromizmus je toxidrom – syndróm spôsobený hromadením toxickej látky v tele. V minulosti bol bromid bežnou zložkou liekov proti nespavosti, kŕčom či úzkosti. Postupne sa však zistilo, že dlhodobé vystavenie bromidu vedie k vážnym neuropsychiatrickým problémom, ako sú halucinácie, paranoja, poruchy pamäti, psychóza a problémy s koordináciou pohybov.
Od 70. rokov bol bromid postupne odstránený z voľnopredajných liekov, a tak výskyt bromizmu rapídne klesol. Dnes je táto diagnóza veľmi zriedkavá, no nie nemožná – najmä ak sa ľudia vystavia bromidu prostredníctvom doplnkov výživy zakúpených na internete.
Cesta na pohotovosť a psychické zrútenie
Po troch mesiacoch konzumácie bromidu muž prišiel na pohotovosť, presvedčený, že ho trávi sused. Lekári zaznamenali zvýšené hladiny oxidu uhličitého v krvi, zásaditosť organizmu a zdanlivo zvýšenú hladinu chloridu. Tá však bola falošná – test bol ovplyvnený vysokou koncentráciou bromidu v krvi, čo viedlo k pseudohyperchloremii.
Neskôr sa u muža rozvinuli halucinácie, paranoja a nespavosť. Po pokuse o útek z nemocnice bol zadržaný na psychiatrii a dostal antipsychotiká. Až keď sa jeho stav stabilizoval, priznal lekárom, že konzumoval bromid sodný namiesto soli na základe odporúčania ChatGPT.
Zlyhanie AI
Lekári neskôr sami otestovali, ako by ChatGPT (verzia 3.5) odpovedal na otázku o náhrade chloridu. Model medzi možnými alternatívami opäť spomenul bromid, síce s poznámkou, že „záleží na kontexte“. Avšak, ako lekári poznamenali, chýbalo varovanie pred zdravotnými rizikami. ChatGPT sa tiež nepokúšal zistiť, prečo muž hľadá alternatívu soli. Odborníka by to bola samozrejmosť.
Hoci AI modely ako ChatGPT disponujú množstvom informácií, nie sú náhradou odbornej lekárskej konzultácie či pomoci. Vývojári služby, spoločnosť OpenAI, v reakcii na incident uviedli, že ich podmienky používania jasne deklarujú, že výstupy modelu nemajú byť chápané ako faktické pravdy alebo medicínske rady.
Pacient bol nakoniec stabilizovaný a po troch týždňoch liečby prepustený z nemocnice. O dva týždne neskôr sa jeho stav výrazne zlepšil.
