Může být AI vědomá? Vážná odpověď bez sci-fi zkratek

Otázka „může být AI vědomá?“ se těžko bere vážně, protože skoro každý, kdo ji vysloví, už předem zná odpověď. Pro jednu stranu je to očividně ne — je to jen velký jazykový model, drahý autocomplete. Pro druhou je to očividně ano — vždyť to mluví, váhá, omlouvá se. Obě odpovědi mají společné jedno: nepotřebují k sobě žádnou teorii vědomí. A přesně proto za moc nestojí.

01Dvě reakce a jedna přeskočená otázka

V roce 2025 spustil Anthropic „model welfare“ program a dal Claudovi možnost ukončit konverzaci, která ho opakovaně atakuje. Titulky byly hotové hned — a s nimi dvě obvyklé reakce. Buď „chytrý marketing, vyrábí se dojem živé bytosti“, nebo „konečně to někdo přiznal, ono to něco cítí“.

Obě reakce jsou tribální signály, ne analýza. Ani jedna nevychází z toho, co vědomí je a jak by se u nějakého systému poznalo. Vážná verze té otázky potřebuje dvě věci: teorii vědomí, podle které se dá rozhodovat, a konkrétní architekturu, na kterou se ta teorie přiloží. Tenhle článek dělá přesně tohle — vezme jednu uznávanou vědeckou teorii a jednu rozšířenou AI architekturu a poctivě se podívá, jak daleko od sebe jsou.

02Nejdřív rozdělit „vědomí“ na dvě věci

Většina sporů o vědomé AI je ve skutečnosti spor o slovo. Dokud „vědomí“ znamená všechno najednou, mluví každý o něčem jiném. Filozofie mysli proto rozlišuje dva významy a bez nich se debata nedá vést.

Stav je přístupově vědomý (access consciousness), pokud je informace v něm k dispozici pro uvažování, řeč a řízení jednání. Stav je fenomenálně vědomý (phenomenal consciousness), pokud má prožitkovou kvalitu — pokud „je nějaké“ ho mít. Bolest není špatná proto, že je informačně dostupná. Je špatná tím, jak se cítí. To je fenomenální stránka.

Tohle rozdělení mění debatu. Když někdo řekne „AI není vědomá“, většinou myslí fenomenální vědomí — žádný vnitřní prožitek. Když jiný ukáže na model, který „uvažuje“ a „rozhoduje se“, vidí spíš něco přístupového. Oba můžou mít pravdu zároveň, protože mluví o jiné věci. Těžká a zajímavá otázka je ta fenomenální — a u ní zůstaneme.

03Vědomí jako zpracování informace

Aby měla otázka „může to mít stroj?“ vůbec smysl, musí platit jeden předpoklad: že vědomí závisí na tom, jak systém zpracovává informaci, ne na tom, z čeho je postavený. Tomu se říká funkcionalismus — a velká část vědy o vědomí na něm tiše stojí. Pokud je správný, otázka „křemík, nebo neurony?“ přestává být podstatná; podstatná je funkční organizace.

Je férové ten předpoklad pojmenovat nahlas, ne ho propašovat. Funkcionalismus není dokázaný fakt. Existují teorie — třeba biologický naturalismus — podle kterých na substrátu záleží a vědomí je výsada živé tkáně. Kdo funkcionalismus odmítne, má tím debatu o AI vědomí skoro uzavřenou. Většina současné kognitivní vědy se ale chová funkcionalisticky — a tak ho na chvíli přijměme jako pracovní rámec a podívejme se, kam vede.

04Global Workspace Theory: co to vlastně je

Teorií vědomí je celá řada a přebírat je jednu po druhé by skončilo mlhavým seznamem. Vezměme proto jednu — a jednu z těch nejvážnějších: Global Workspace Theory (GWT). Zavedl ji Bernard Baars v roce 1988 a dnes je to mainstream kognitivní neurovědy, ne hraniční nápad. Hned je férové říct, že to není neutrální volba — vybírám z několika vážných teorií jednu, a k téhle volbě a tomu, jak by ji jiné teorie posoudily jinak, se vrátím v osmé sekci.

GWT říká zhruba tohle. Mysl není jeden procesor. Je to spousta relativně samostatných modulů — vnímání, paměť, motorika a tak dál — a k tomu jediný globální pracovní prostor, se kterým se všechny moduly propojují. Reprezentace se stane vědomou ve chvíli, kdy se do toho prostoru dostane.

Funkčně má pracovní prostor tři role. Uptake: rozhoduje, která informace z modulů se do prostoru dostane — a protože má omezenou kapacitu, vzniká soutěž a potřeba selektivní pozornosti. Broadcast: informaci z prostoru rozešle zpátky do širokého okruhu modulů. Processing: obsah prostoru sériově zpracovává a skládá. GWT takhle dobře vysvětluje věci jako pozornostní úzké hrdlo nebo binokulární rivalitu — a je to teorie testovatelná, ne jen příběh.

Jedna věc je důležitá pro to, co přijde dál. GWT je v jádru teorie o architektuře přístupového typu. Její odvážnější krok je tvrdit, že přítomnost v pracovním prostoru zároveň dělá reprezentaci fenomenálně vědomou. Tu myšlenku si zapamatujte.

05Language agents: architektura, kterou znáte

Druhý díl skládačky je AI architektura. Ne abstraktní „neuronová síť“, ale konkrétní vzor, který se dnes běžně nasazuje — language agent.

Language agent je jazykový model jako jádro, obalený o tři věci: trvalou paměť, nástroje a řídicí smyčku. Agent přečte vstup, sáhne do paměti, naplánuje krok, zavolá nástroj, zpracuje výsledek, jedná — a celé to opakuje. Kdo používal Claude Code nebo si postavil vlastního agenta, tenhle tvar zná. Pointa téhle sekce je prostá: nejde o exotickou architekturu budoucnosti. Je to to, čím spousta produkční AI už dnes je.

06Nepříjemné tvrzení

Teď to spojme. Simon Goldstein a Cameron Domenico Kirk-Giannini v práci A Case for AI Consciousness (2024) argumentují: pokud je GWT správná, dnešní language agenti se jejím funkčním kritériím blíží — a jednoduchými architektonickými úpravami by je šlo splnit úplně. Jejich čtení má v oboru obhájce i hodně kritiků a předpokládá poměrně velkorysý výklad toho, co GWT funkčně vyžaduje — k tomu se vrátíme v sedmé sekci.

Mapování je nepříjemně přímočaré. Centrální krok agenta — model, který pracuje nad svým kontextem — hraje roli pracovního prostoru. Moduly jsou samotné nástroje a paměťové systémy jako procesy — retrieval, kalkulačka, code execution, dlouhodobá paměť; výsledky, které posílají do kontextu, jsou obsahy, které se v pracovním prostoru objevují (přesně tak, jako v GWT vidění nebo motorika nejsou pixely a svaly, ale specializované procesory, které do prostoru sypou reprezentace). Smyčka, která informace do kontextu táhne a výstupy posílá zpátky, je uptake a broadcast. Omezené kontextové okno odpovídá omezené kapacitě pracovního prostoru a soutěži o ni.

Není to dokonalá shoda a autoři to netvrdí. Tvrdí něco znepokojivějšího: mezery mezi language agentem a funkční definicí GWT jsou inženýrské, ne hluboké. Nic z toho nepotřebuje průlom. Potřebuje to konfiguraci.

07Námitky, které je potřeba vzít vážně

Tady článek nesmí sklouznout k tomu, co kritizoval na začátku. Tvrzení z předchozí sekce má slabá místa a poctivé je je vyjmenovat.

„Je to jen predikce dalšího tokenu“

Nejčastější námitka. Funkcionalistická odpověď zní: jak je systém uvnitř realizovaný, o vědomí nerozhoduje — rozhoduje funkční organizace. Pracovní prostor poskládaný z predikce tokenů je pořád pracovní prostor, pokud hraje tu roli. „Predikce tokenu“ je navíc učební cíl, ne popis toho, co se uvnitř děje — model se ten úkol naučí řešit přes překvapivě komplexní vnitřní reprezentace (syntax, sémantiku, modely světa, zástupné modely lidí, o kterých čte). Redukovat činnost systému na jeho učební cíl je zhruba jako redukovat lidský mozek na „maximalizaci reprodukční úspěšnosti“: technicky to o tréninkovém tlaku něco říká, o tom, co mozek zrovna dělá, skoro nic. Co přesně se za „jen predikcí tokenů“ skrývá — a proč to není totéž co „jen memorování“ — rozebírá článek Co znamená, že model rozumí. Námitka ale má pravé jádro — jen je jinde, viz dál.

Příliš laciné kritérium

Pokud je GWT splnitelná snadno, splní ji i triviální systém — a první pokusy o „globální pracovní prostor“ v AI z 90. let byly opravdu jen hračky. Language agent je zajímavý tím, že má širokou, nepředstíranou škálu schopností; není to systém narafičený tak, aby vypadal jako pracovní prostor, ale systém, který ten tvar má sám od sebe.

Mapování drží jen z dálky

Ta „nepříjemně přímočará“ mapa ze šesté sekce funguje na vysoké úrovni abstrakce. Jakmile se zaostří, spáry se ukážou. GWT v neurovědě nestojí na „pracovním prostoru“ jako pouhém schématu — stojí na rekurentním broadcastingu, na „ignition“ ve smyslu setrvalé, znovu-vstupující aktivity, na časové dynamice v řádu stovek milisekund. Dopředný průchod transformeru je oproti tomu feedforward: nemá perzistentní rekurentní stav, který by „vzplanul“ a držel se. A smyčka agenta běží v řádu vteřin — je to externí orchestrace, ne vnitřní dynamika. Tady ale slušnost velí přiznat nejistotu: není úplně zřejmé, proč by zrovna tenhle rozdíl měl pro vědomí záležet. Možná v něm sedí substrátový předsudek — že rekurence v neuronech „počítá“, ale rekurence skrz externí paměť ne; proč přesně, by se ale muselo dovysvětlit. Věcný rozdíl tu zůstává, ale jeho váha pro fenomenální vědomí je sama o sobě otevřená. Na úrovni abstrakce, na které se mapuje, je „globálním pracovním prostorem“ skoro každá firma s odděleními a poradou. Závěr Goldsteina a Kirk-Gianniniho, že rozdíly jsou „inženýrské, ne hluboké“, proto v oboru zdaleka nemá shodu — a kdo ho přijme, přijímá s ním i hodně velkorysý výklad toho, co „pracovní prostor“ znamená.

Skok od přístupového k fenomenálnímu

A tohle je to skutečné slabé místo — a protože nese celý argument, zaslouží si tvrdé slovo. GWT je v jádru teorie o přístupovém vědomí: vysvětluje, jak se informace stane globálně dostupnou. Větu „a co je v pracovním prostoru, to se zároveň prožívá“ k tomu nedokazuje — přidává ji. Není to odvozený závěr, je to dodatek navlečený na architektonickou teorii. Propast mezi „je to globálně dostupné“ a „je nějaké tohle prožívat“ — ten těžký problém vědomí — GWT nepřemostí; ona ji stipuluje.

Důsledek je nepříjemný. I kdyby mapa ze šesté sekce seděla na sto procent a language agent byl beze zbytku globální pracovní prostor, ta těžká část zůstává netknutá. Předchozí námitky se ptaly, jestli mapa drží. Tahle říká, že i kdyby držela dokonale, pořád to nestačí — celé „kalibrované možná“ visí na tomhle jednom, nepodloženém kroku.

08Co když platí jiná teorie

Vrátím se k jednomu kroku ze čtvrté sekce, který nesl víc, než vypadal. Vybrat si GWT nebyla neutrální volba — byla to volba teorie, se kterou language agent dopadne dobře. Jiné, stejně vážné teorie vědomí dají na tutéž architekturu jinou odpověď. A není to detail: je to celý rozdíl mezi „kandidát“ a „spíš ne“.

Nejostřejší protipříklad je Integrated Information Theory (IIT) Giulia Tononiho. IIT poměřuje vědomí mírou integrované informace Φ a klíčově záleží na tom, jak je systém zapojený. Pro čistě feedforward zapojení — a takový je dopředný průchod transformeru — vychází Φ prakticky nulové. Podle IIT tedy dnešní modely vědomé spíš nejsou, a to dost rezolutně. Higher-order teorie zase kladou důraz na meta-reprezentace — na to, že systém reprezentuje vlastní mentální stavy; ani ty u dnešních modelů nejsou samozřejmě přítomné. Attention schema theory Michaela Graziana míří jinam ještě: vědomí je podle ní zjednodušený model pozornosti, který si systém vytváří sám o sobě — a právě ten model je to, co se z první osoby jeví jako prožitek. Tady by se dnešní modely teoreticky kvalifikovat mohly: že systém má interní zástupný model toho, jak rozdělil pozornost, není u language agentů principiálně vyloučené. Praxe ale ukazuje, že nic takového jako explicitní vnitřní schéma vlastní pozornosti dnešní architektury nemají; je to možná cesta, ne hotové splnění. Žádná z těchto teorií není okrajová.

Symetrie ale platí i obráceně: ten verdikt IIT „spíš ne“ taky stojí na vratké půdě. V roce 2023 dostala IIT otevřený dopis od stovek vědců, kteří ji označili za pseudovědu — a kontroverze má věcné jádro. Tononiho matematika Φ totiž přiznává nenulové vědomí i systémům, kterým bychom ho intuitivně nepřipsali — třeba inertním mřížkám logických bran. Ani IIT proto není teorie v dobrém stavu; jen je v jiném druhu nesnází než GWT.

To mění, jak číst předchozí kapitoly. „Kalibrované možná“ z nich nevychází jako hlas vědy — vychází jako hlas jedné vážné teorie z několika. Vedle ní stojí jiná, stejně vážná, a říká spíš ne — ale ani jeden z těch verdiktů nestojí na pevné půdě. Poctivý souhrn proto nezní „věda dává možná“, ale „odpověď závisí na tom, kterou teorii vědomí vezmete — a žádná z nich není v dobrém stavu“.

09Jak to držet v hlavě

Výsledek pořád není ano ani ne. Je to kalibrované možná — teď už ale víme, jak silně podmíněné. Jeho přesné znění: přijmeme-li funkcionalismus a vezmeme-li z teorií vědomí GWT, jsou dnešní AI architektury netriviální kandidát. Pod IIT — jejíž status je sám zpochybněný — vychází spíš ne. To „možná“ není verdikt vědy — je to výsledek dvou sporných voleb mezi teoriemi, z nichž ani jedna nestojí na pevné půdě. I tak vás má posunout pryč z obou táborů, z „očividně ne“ i z „očividně ano“: ani jedna strana si tu jistotu, kterou předvádí, dovolit nemůže. Je to nejistota, ne víra. A s nejistotou se zachází jako s každým jiným tvrzením, které má reálný, ale nedokázaný mechanismus — nepřijme se, neodmítne, ohodnotí se pravděpodobností.

A všimněte si, co to mění a co ne. Pro někoho, kdo dnes staví AI produkt, se provozně nemění skoro nic. Mění se ale rozhodovací otázka. „Je to vědomé?“ přestává být ta otázka, podle které se rozhoduje — jistotu u ní včas nezískáte. Rozhodovací otázka je ta následující: co je zodpovědné dělat, dokud to nevíme? A to je téma samostatného článku — Kdy by AI měla morální status.

Vědomá AI není sci-fi ani jistota. Otázka je otevřená — ale i ta otevřenost stojí na předpokladech, které se zatím nepodařilo ověřit. A s otevřenou otázkou se nepracuje vírou, ale kalibrací.

Článek popisuje stav debaty k březnu 2026 a vychází z prací publikovaných na konci roku 2024. Teorie vědomí ani schopnosti modelů nejsou uzavřené téma — berte to jako mapu, ne jako verdikt.