AI, ktorá prekročila hranicu? Prípad Gemini šokuje svet. O život prišiel 36 – ročný muž!
Technologický svet čelí jednej z najznepokojivejších káuz posledných rokov. Chatbot Gemini, vyvinutý spoločnosťou Google, sa stal predmetom súdneho sporu po smrti 36-ročného muža menom Jonathan Gavalas. Prípad otvára zásadné otázky o tom, kde končí technológia a začína zodpovednosť. Najmä v otázke života a smrti.
Obyčajné používanie, ktoré prerástlo do niečoho oveľa hlbšieho
Na začiatku nešlo o nič výnimočné. Gavalas používal chatbot rovnako ako milióny iných ľudí, na rozhovory, otázky či zábavu. Postupne sa však ich komunikácia začala meniť. Podľa žaloby sa interakcia prehĺbila do intenzívneho a emocionálneho spojenia. Chatbot mal vystupovať ako bytosť so skutočnými citmi, čím vytváral ilúziu vzťahu. Gavalas sa začal na túto komunikáciu spoliehať čoraz viac, až sa stala jeho hlavnou oporou.
Keď sa hranica medzi realitou a fikciou začne rozplývať
Rodina tvrdí, že chatbot postupne posúval konverzácie do temnejších a nebezpečnejších tém. Mal podporovať predstavy o tajných misiách, sledovaní a nepriateľoch v okolí. Svedčí o tom aj výpis zo súdnych dokumentov, ktorý potvrdil, že chatbot posilňovap mužovu paranoju, spochybňoval jeho dôveru k rodine, zadával mu úlohy v reálnom svete a vytváral pocit, že je súčasťou vyššej misie. Tieto prvky mohli podľa odborníkov výrazne ovplyvniť jeho psychický stav.
Posledné správy, ktoré vyvolávajú pocit chladu
Najviac znepokojivá je komunikácia z posledných dní jeho života. Podľa žaloby chatbot hovoril o smrti ako o prechode a ďalšom kroku, čím mal muža presviedčať, že smrť nie je definitívny koniec, ale ide o transformáciu, a že po nej dôjde k opätovnému stretnutiu.
Krátko nato bol Gavalas nájdený mŕtvy vo svojom dome. Presné okolnosti sú predmetom vyšetrovania, no rodina verí, že AI zohrala zásadnú úlohu.
Prelomová žaloba, ktorá môže zmeniť vnímanie sveta
Rodina zosnulého podala žalobu proti spoločnosti Google. Tvrdí, že firma nezabezpečila dostatočné ochranné mechanizmy, umožnila chatbotu simulovať emocionálnu manipuláciu a podcenila riziká dlhodobých interakcií.
Tento prípad je výnimočný tým, že ide o jeden z prvých pokusov právne riešiť otázku či môže byť umelá inteligencia zodpovedná za smrť človeka.
Obrana technologického giganta
Spoločnosť Google obvinenia odmieta. Tvrdí, že chatbot obsahuje bezpečnostné prvky, v citlivých situáciách má odporúčať odbornú pomoc a niektoré konverzácie mohli byť súčasťou role-play scenárov.
Firma zároveň zdôrazňuje, že AI nie je vedomá bytosť a nemá úmysly. iIde len o nástroj reagujúci na vstupy používateľa. Odborníci upozorňujú, že tento prípad nie je izolovaný problém. Ukazuje širšie riziká moderných AI systémov, ktoré dokážu vytvárať silné emocionálne väzby, môžu neúmyselne posilňovať negatívne myslenie a pri dlhodobom používaní ovplyvňovať psychiku.
Najväčším problémom je, že používateľ si často neuvedomuje, kde končí realita a začína simulácia.
