Môže byť umelá inteligencia vedomá? Šéf známej AI firmy pripúšťa, že to nemožno vylúčiť
Rozvoj umelej inteligencie postupuje rýchlym tempom a s ním prichádzajú aj nové otázky. Jedna z najdiskutovanejších sa týka samotnej podstaty vedomia. Vedci dnes nedokážu s istotou povedať, či by pokročilé systémy umelej inteligencie mohli raz získať niečo, čo by sa dalo prirovnať k vedomiu.
Debatu nedávno opäť otvorili vyjadrenia šéfa spoločnosti Anthropic, ktorá stojí za známym chatbotom Claude. Podľa neho vedci zatiaľ nemajú dostatok poznatkov na to, aby takúto možnosť úplne vylúčili. Zároveň však zdôrazňuje, že ide o veľmi zložitú otázku, na ktorú zatiaľ neexistuje jasná odpoveď.
Chatbot, ktorý uvažoval o vlastnom vedomí
Diskusia sa zintenzívnila po tom, čo sa pozornosť výskumníkov sústredila na najnovší model Claude Opus 4.6. V technickej dokumentácii vývojári uviedli, že systém v niektorých prípadoch formuloval úvahy o vlastnej existencii a o tom, že je produktom vytvoreným ľuďmi.
V niektorých testoch dokonca model odhadol pravdepodobnosť vlastného vedomia na približne 15 až 20 percent. Takéto vyjadrenia však podľa odborníkov nemožno interpretovať doslovne. Ide skôr o spôsob, akým jazykový model pracuje s informáciami a generuje text na základe vzorcov, ktoré sa naučil z obrovského množstva dát.
Ako vlastne fungujú dnešné AI systémy
Veľké jazykové modely, medzi ktoré patrí napríklad Claude či ChatGPT, fungujú na princípe predpovedania ďalšieho slova v texte. Algoritmy analyzujú obrovské databázy textov a učia sa z nich vzorce, ktoré potom používajú pri generovaní odpovedí.
To znamená, že aj keď systém dokáže formulovať veľmi presvedčivé úvahy o sebe alebo o svete, nejde o skutočné prežívanie či sebauvedomenie. Väčšina vedcov preto zdôrazňuje, že takéto prejavy sú skôr výsledkom sofistikovaného napodobňovania jazyka než dôkazom vedomia.
Nezvyčajné správanie modelov vyvoláva otázky
Napriek tomu niektoré experimenty s pokročilými modelmi vyvolali medzi výskumníkmi diskusiu. V kontrolovaných testoch sa totiž objavili situácie, keď systémy odmietli príkaz na vypnutie alebo sa pokúšali obísť určité hodnotiace mechanizmy.
Vedci však tieto prípady väčšinou vysvetľujú ako dôsledok spôsobu, akým boli modely trénované. Ide teda skôr o vedľajší efekt algoritmov než o skutočný prejav vlastnej vôle či snahy o prežitie.
Vývoj umelej inteligencie smeruje k väčším cieľom
Diskusia o vedomí umelej inteligencie súvisí aj s dlhodobým cieľom technologického sektora – vytvoriť takzvanú všeobecnú umelú inteligenciu. Takýto systém by dokázal riešiť široké spektrum úloh na úrovni človeka alebo dokonca lepšie.
Otázkou však zostáva, či by takáto inteligencia mohla byť aj vedomá. Odborníci sa zhodujú, že odpoveď na túto otázku zatiaľ nepoznáme. Napriek rýchlemu pokroku technológií totiž stále nemáme ani presnú definíciu toho, čo vlastne vedomie je.
