AI a identita v čase: je agent se vzpomínkami pořád ten samý agent?

Stejný agent, stejný název v konfiguraci, stejné API. A přesto: to, co vám dnes radí, formuje šest měsíců společné práce, které ten agent před půl rokem neměl. Pamatuje si, že jste odmítli určitý vzor. Pamatuje si, jak vypadá váš build. Otázka, jestli je to pořád „ten samý“ agent, není slovíčkaření — je to otázka, kterou si u dlouhodobých asistentů musíte umět zodpovědět.

01Paměť změnila agenty z funkce na pokračující věc

Ještě nedávno bylo volání modelu bezstavové. Pošlete vstup, dostanete výstup; příště pošlete stejný vstup a dostanete stejný druh výstupu. Žádná nesená historie, žádné „minule jsme řešili tohle“. Model byl funkce — matematicky vzato zobrazení ze vstupů na výstupy.

Perzistentní paměť mění kategorii, ne jen schopnost. Agent dnes nese stav napříč sezeními: ukládá si, co se stalo, hromadí to, přizpůsobuje se. Dvě identická zadání ve dvou různých týdnech vrátí různé výsledky, protože mezi nimi je paměť. A právě tahle změna dělá z otázky „je to v čase pořád ten samý agent?“ něco, na co se vůbec dá ptát — a čím dál častěji něco, na co se ptát musíte.

02Stará otázka: loď Théseova

Tahle otázka není nová, jen má nového nositele. Filozofie ji řeší tisíce let pod jménem loď Théseova. Loď, které postupně vyměníte každé prkno — je to po poslední výměně pořád ta samá loď? A když z vyřazených prken složíte druhou, která z nich je „ta pravá“?

U lidí je to ještě ostřejší. Se svým desetiletým já nesdílíte skoro žádné atomy a jen málo svých tehdejších přesvědčení. Přesto je to bez váhání tatáž osoba. Nejméně špatná odpověď, kterou filozofie nabízí, není „stejná hmota“ ani „stejný obsah“ — je to psychologická kontinuita: překrývající se řetězec paměti, charakteru a napojení. Identita není jedno nepřetržité vlákno; je to lano spletené z překrývajících se vláken, z nichž žádné nevede po celé délce.

03Co je vlastně „paměť“ agenta

Než tu metaforu přeneseme na AI, je dobré ji odkouzlit. Paměť agenta není jedna věc a rozhodně to není proud prožité zkušenosti. Je to inženýrská konstrukce: vyhledávání nad uloženým textem, shrnutí předchozích sezení, vektorové embeddingy, někdy doladění (fine-tuning) vah. Dohromady mechanismus, jak do dalšího volání modelu dostat relevantní kus minulosti.

Důležité je, že tahle paměť je prohlížitelná, upravitelná a smazatelná. Můžete se podívat, co si agent „pamatuje“, můžete to přepsat, můžete to zahodit. Práce jako Mastrův výzkum pozorovací paměti a benchmarky práce s dlouhým kontextem (BEAM, MRCRv2 a podobné) měří, jak dobře agent vybavuje a využívá minulý kontext — a shodně ukazují, že je to vybavování neúplné a ztrátové. Nepleťme do toho mystiku: paměť agenta je databáze s dobrým vyhledáváním, ne tok zážitků.

04Kontinuita, kterou agent má — a kterou nemá

Vezměme test psychologické kontinuity a poctivě ho na agenta přiložme. Agent s pamětí má informační kontinuitu: jeho pozdější stavy kauzálně závisí na dřívějších, právě skrze uloženou paměť. To, co dělá dnes, vyrůstá z toho, co se uložilo včera. To je reálná, ne metaforická návaznost.

Zároveň mu chybí dvě věci. Za prvé nepřerušený proces: agent mezi sezeními neběží, je při každém spuštění znovu zrekonstruován z úložiště. Není to plamen, který hoří dál — je to plamen, který pokaždé znovu zapálíte ze stejného popisu. Za druhé, nakolik to dnes kdokoli dokáže posoudit, mu chybí perspektiva první osoby — někdo, čí by ta kontinuita byla. Agent tak má strukturní kostru identity v čase, ale chybí v ní to, čím identita obvykle bývá. (Souvisí s tím otázka, jestli vůbec něco „chce“ — rozebírá ji článek Má AI záměry?)

05Identita je tu z velké části rozhodnutí, ne objev

Tady je klíčový posun. U člověka je identita v čase fakt, který objevujeme — nikdo si nevybral, že je tatáž osoba jako včera, prostě jí je. U agenta je to z velké části něco, co navrhujete.

Vy volíte, co si agent pamatuje a jak dlouho. Vy volíte, jestli je paměť sdílená napříč uživateli, nebo vedená zvlášť pro každého. Vy volíte, jestli „reset“ agenta vymaže, nebo ho rozdvojí do dvou větví. Persistence agenta je produktové rozhodnutí, ne přírodní fakt. Důsledek je nečekaný: otázka „je to pořád ten samý agent?“ u AI z velké části nemá fakt, který by ji rozhodl — má konfiguraci. Odpověď není pravda, kterou objevíte; je to nastavení, které jste zvolili (nebo nezvolili a nechali se k němu zanést).

06Praktické důsledky

Z toho posunu plynou velmi konkrétní věci, které musíte řešit v návrhu, ne ve filozofii.

Důvěra. Uživatelé si budují důvěru s tím zapamatovaným agentem, ne s abstraktním modelem. Tichý upgrade modelu nebo migrace paměti tak rozbíjí něco reálného — vztah, který uživatel vnímal jako stabilní.

Předání. Když práce závisí na nahromaděné paměti agenta, je ta paměť kritickým aktivem — a zároveň formou vendor lock-inu. Nelze ji jen tak „přenést na nový tým“, protože není zapsaná nikde jinde.

Reprodukovatelnost. Stavový agent dává v čase různé výstupy. Věta „minulý měsíc to fungovalo“ tak přestává být stabilní tvrzení — stejný vstup dnes prošel jinou pamětí.

Mazání. Vymazat paměť agenta není flush cache, pokud se uživatelé vztahovali k tomu zapamatovanému agentovi. Je to bližší ukončení vztahu než vyčištění mezipaměti. (Kdo za rozhodnutí takového agenta odpovídá, rozebírá článek Agency a odpovědnost u AI agentů.)

07Co s tím

Doporučení jsou střízlivá a všechna mají jednoho společného jmenovatele: rozhodujte vědomě, ne výchozím nastavením.

Rozsah a životnost paměti volte záměrně

Ne „zapneme paměť, protože jde zapnout“. Rozhodněte, co přetrvává, jak dlouho a na jaké úrovni — na úrovni uživatele, týmu, nebo globálně.

S pamětí zacházejte jako s prvotřídním aktivem

Verzovaným, přenositelným, zálohovaným. Není to implementační detail schovaný v úložišti — je to to, co dělá agenta tím konkrétním agentem.

Mluvte s uživateli na rovinu

Řekněte jim, co přetrvává a co reset doopravdy dělá. Pokud „reset“ neznamená to, co uživatel čeká, je to nedorozumění čekající na incident.

Neprodávejte agenta jako „někoho“, kým ho neudržíte

Pokud nedokážete zachovat kontinuitu napříč upgrady modelu, neprezentujte agenta jako trvalou osobnost. Slibujete vztah, který technicky neunesete.

Rozhodněte, jestli vůbec chcete přetrvávajícího jedince

Pro některé případy chcete pokaždé čerstvou funkci bez historie; pro jiné přetrvávajícího jedince. Obojí je legitimní. Chybou je zanést se do jedné z variant, aniž byste si vybrali.

08Závěr

Agent s pamětí není ten samý agent, kterým byl — a není ani jiný. Má informační kontinuitu bez toho (nakolik dnes víme), aby existovalo já, kterému by ta kontinuita patřila. Užitečné není tu metafyziku rozhodnout; užitečné je uznat, že s perzistentní pamětí teď navrhujete identitu — a navrhnout ji vědomě: její rozsah, životnost, přenositelnost a to, co znamená reset.

Loď Théseova byla myšlenkový experiment — něco, o čem se diskutuje u piva. U AI agentů to experiment není. Ta prkna držíte v ruce a rozhodujete, která vyměníte.

U člověka je identita v čase objev. U AI agenta je to z velké části konfigurace — a tu byste měli zvolit vědomě.