AI a problém autority: kdo smí rozhodnout, co je pravda?

Stalo se to nenápadně. Spor na poradě — dvě verze, jak něco funguje — kdosi uťal větou „ptal jsem se ChatGPT a ten řekl, že je to takhle“. A diskuse skončila. Před rokem by ta věta zněla „vygoogloval jsem si to“ nebo „říkal to senior architekt“. Posunul se ale nejen nástroj. Posunula se autorita — ta věc, díky které tvrzení přestane být sporné a začne se počítat za vyřešené.

01Co je epistemická autorita

Skoro všechno, co „víte“, jste si nikdy neověřili. Přijali jste to na základě autority: lékař, učebnice, normalizační úřad, zkušenější kolega. Není to lenost — je to nutnost. Nikdo nemůže ověřit všechno; poznání proto běží na dělbě práce. Tomu se věnuje celý obor, sociální epistemologie: studuje, jak vědění vzniká a cirkuluje mezi lidmi, ne v jedné hlavě.

Epistemická autorita je odpověď na otázku „proč se tohle tvrzení počítá?“. Neopírá se o jednu věc, ale o řetězec: odbornost, metodu, instituci, reputaci a odpovědnost. Tvrzení věříte proto, že věříte řetězci, který za ním stojí — a ne proto, že jste si ho sami prošli.

To není slabina, je to konstrukce. Když lékař řekne diagnózu, neověřujete jeho studium ani peer-review článků, na kterých stojí; spoléháte na to, že ten řetězec — fakulta, atestace, profesní komora — funguje. Stejně to platí o technické normě, učebnici i o seniornějším kolegovi. Autorita je vlastně dohoda, komu necháme rozhodnout sporné tvrzení, a ta dohoda drží jen tak dlouho, dokud je řetězec za ní čitelný a dohledatelný.

02Co se mění, když odpovídá model

Odpověď z jazykového modelu přichází ve formě autority: plynulá, sebejistá, vyčerpávající. Za ní ale stojí jiný řetězec. Ne „odpovědný odborník“, ale „statistická komprese obrovského korpusu textu smíšené kvality“. To neznamená, že je bezcenná — v tom korpusu je reálná odbornost. Je to ale jiný druh opory.

Model navíc autoritu svých zdrojů vypírá. Předkládá průměr milionu stránek zbavený toho, která stránka, jak spolehlivá a jak aktuální. Řekněme to natvrdo: strukturální problém není v tom, že se modely často pletou — ony se často trefí. Problém je, že odpověď s sebou nenese svůj původ.

U experta i u učebnice víte, koho čtete a jak moc mu věřit. U odpovědi modelu tahle informace chybí — a chybí tiše. Dvě tvrzení, jedno opřené o recenzovanou studii a druhé o fórum plné dohadů, vyjdou z modelu ve stejně sebejisté podobě. Tím se ztrácí schopnost odstupňovat důvěru, a právě odstupňovaná důvěra je to, co dělá z přijímání cizího vědění něco rozumného, a ne slepého.

Spravedlivě řečeno: část téhle provenience vracejí zpět modely s vyhledáváním a citacemi. Mezi „model si něco vybavil z vah“ a „model našel tenhle zdroj, tady je odkaz“ je epistemicky velký rozdíl — první se ověřit nedá, druhé ano. Není to kosmetika. Věc to ale neuzavírá: i nalezený zdroj může být slabý nebo špatně přečtený a model pořád vybírá, co odkáže. Vyhledávání mění odpověď z neověřitelné na ověřitelnou — samo ji ale neověří.

03„Model to řekl“ není zdroj

Jádro věci: citovat model jako autoritu je kategoriální chyba. Model je skvělý syntetizátor a rychlý první návrh odpovědi — ale není tím, co dělá tvrzení pravdivým, a nemůže být tím, koho za pravdivost voláme k odpovědnosti.

Autorita se musí někde opřít o dno — o něco, co se dá ověřit a co se může mýlit „na záznam“. „Model to řekl“ ukazuje na něco, co k odpovědnosti přivolat nelze. A provenience — které zdroje, jak dobré — je přesně to, co model odstraňuje. Přitom právě z provenience je autorita udělaná.

Není to argument proti používání modelu, je to argument proti jednomu konkrétnímu zvyku: zaměnit syntézu za stvrzení. Když „to řekl model“ použijete jako konec diskuse, přesunuli jste rozhodovací autoritu na něco, co za rozhodnutí nemůže nést následek. Ten samý výrok přitom obstojí ve verzi „model navrhl tohle a já jsem si to ověřil v tom a tom zdroji“ — tam autorita zůstává u člověka a u dohledatelného pramene. Rozdíl je jen ve dvou slovech, ale je to celý rozdíl.

04Problém často není v modelu, ale v otázce

Velký kus problému přitom neleží v modelu, ale v otázce. Kdo uťal debatu větou „ptal jsem se ChatGPT“, většinou nepoložil neutrální otázku — položil návodnou, odpovídající jeho vlastní pozici, a dostal plynulé potvrzení. Model neurčil, co je pravda; vrátil jen učesanou verzi předpokladu, který do něj tazatel vložil.

To je další vrstva pod „autoritou bez odpovědnosti“: výstup je tvarovaný vstupem — a druhá strana sporu ten tvar nevidí. Vidí jen sebejistou odpověď. Proto „ptal jsem se modelu“ není doložení; bez znění otázky je to tvrzení bez kontextu, který by šel posoudit. Než přijmete odpověď modelu jako argument, ptejte se, jak zněla otázka — a jestli stejně ochotně nepřipustila i odpověď opačnou.

05Tři autority, které si konkurují

Vědění mělo historicky pár autoritních struktur. (1) Experti a instituce — úzké, pomalé, odpovědné, hlídané vstupní branou. (2) Dav a distribuovaný konsenzus — wiki, fóra, web řazený vyhledávačem — široké, rychlé, neuspořádané, pomalu se samo opravující. (3) Nově model — okamžitý, navenek vyčerpávající, bez tření, ale neprůhledný a bez odpovědnosti.

Model vyhrává na uživatelské zkušenosti. Je to cesta nejmenšího odporu a snadnost potichu rozhoduje, kterou autoritu skutečně používáme. To je ten reálný posun — ne že je model víc správný, ale že je snazší. A snadnost vyhrává.

Stojí za to si všimnout, že ani jedna z těch tří struktur není sama o sobě špatná. Expert je drahý a pomalý, ale ručí. Dav je rychlý a levný, ale roztříštěný. Model je okamžitý, ale neprůhledný. Problém nastane, když jednu z nich začneme používat na úkoly, na které se nehodí — a zrovna model je díky svému pohodlí ve velkém pokušení nasadit i tam, kde rozhodnutí potřebuje ručitele, ne jen plynulou odpověď.

06Autorita potřebuje odpovědnost

Skutečná epistemická autorita má vždycky připojenou odpovědnost: reputaci experta, ručení instituce, kolegu, který se za to postaví. Odpovědnost je přesně to, co dělá autoritu samoopravnou — chyba má následek, a ten následek tlačí na nápravu.

Model nemá nic z toho. Nemůže se mýlit „na záznam“, nemůže přijít o reputaci, nemůže ručit, nemůže se poučit z toho, že byl pohnán k odpovědnosti. Výstup modelu proto může být vstupem do rozhodnutí, ale nikdy jeho autoritou. Autoritou zůstává člověk, který ho použil — a ten zůstává odpovědný. Model nikoho té odpovědnosti nezbavuje a předstírat, že ano, je past.

07Porozumění vs. autorita

Model umí vyprodukovat odpověď, která je správná, aniž jí v jakémkoli ukotveném smyslu „rozumí“ — o tom je samostatný text Co znamená, že model rozumí. Důsledek pro autoritu je nepříjemný: sebejistota modelu není důkazem jeho ukotvení.

Lidé udělují autoritu na základě sebejisté plynulosti — a plynulost je přesně to, čeho má model nadbytek a co odpojuje od ukotvení. Signál, podle kterého autoritu přidělujeme („zní to, jako by to věděl“), je přesně ten signál, který model produkuje bez námahy. Proto je „znělo to autoritativně“ ten nejnebezpečnější důvod, proč něčemu uvěřit.

U člověka plynulost a ukotvení do jisté míry korelují: kdo látku opravdu zná, mluví o ní obvykle jistěji. Ta korelace ale nikdy nebyla spolehlivá — replikační krize, medicínské omyly i expert mluvící mimo svůj obor stejně sebejistě jako ve svém ukazují, že signál „zní to, jako by to věděl“ byl děravý už dávno. Model tu korelaci nerozbil jako první — rozbíjí ji ale rovnoměrně: zní stejně přesvědčivě, ať odpovídá ze středu svého tréninkového rozdělení, nebo ze vzdáleného okraje, kde si v podstatě domýšlí, zatímco expert obvykle selhává jen lokálně, ve svých slepých místech. Měření jako benchmarky METR ukazují, že schopnosti modelů na složitějších úlohách rychle rostou, ale sebejistota výstupu o té schopnosti nic spolehlivě nevypovídá. Model ten problém nezakládá — jen ho ze sporadického dělá plošný.

08Jak delegovat poznání, aniž ztratíte nit

Delegovat poznávací práci na model je v pořádku — dokonce nutné — pokud zůstane neporušená autoritní struktura. Pět pravidel, jak na to.

Model je koncept, ne verdikt

Berte výstup jako silný návrh nebo hypotézu. Verdikt zůstává u člověka. Model dodá první draft odpovědi; rozhodnutí, že je odpověď platná, je oddělený krok a dělá ho člověk.

Ptejte se po provenienci

Tlačte model na zdroje a ty pak ověřte. Odpověď, kterou nedokážete dohledat, nedokážete delegovat. Retrieval a citace pomáhají, ale věc neuzavírají — nalezený zdroj může být pořád špatný nebo špatně přečtený.

Kalibrujte podle sázky

Nízká sázka a vratné rozhodnutí: důvěřujte volně. Vysoká sázka a těžko vratné rozhodnutí: model je vstup, autoritou je člověk a ověřitelný zdroj. Míra důvěry se má řídit cenou omylu, ne pohodlností.

Udržte vlastníka rozhodnutí

Každé rozhodnutí postavené na odpovědi modelu má jmenovaného lidského vlastníka. „Model to řekl“ není nikdy vlastník — je to ukazatel na něco, co nelze pohnat k odpovědnosti.

Hlídejte, kdo se ptá poprvé

Skutečné nebezpečí je otázka, kterou už nikdo jiný nikdy nepoloží znovu. Když se model splete u věci, kterou pak nikdo nezkontroluje, omyl se usadí natrvalo. Takové otázky směrujte na reálnou autoritu.

09Závěr

AI neodpovídá na otázku „kdo rozhoduje, co je pravda“. Potichu mění odpověď tím, že je tou nejsnazší možností. Model je nejlepší rešeršní asistent, jaký kdy vznikl, a mizerná konečná autorita. Udržet obojí pohromadě ale není dovednost, kterou se lidé příští roky naučí — je to návyk. A návyk se buď napříč týmy a generacemi udrží, nebo ne. Většinou ne: cesta nejmenšího odporu obvykle vyhrává a tenhle text to ostatně tvrdí celou dobu — rozhoduje snadnost.

Nemá smysl to přelakovat optimismem. Pravidla výš jsou správná, jenže dodržovat je budou hlavně ti, kdo by si kritický odstup drželi i bez nich. Strukturální posun — autorita stéká k tomu, co je po ruce — tím nezmizí. Co jednotlivec nezvrátí, je tenhle posun; co ale jednotlivec dokázat může, je nastavit si vlastní hranici. A ta hranice je konkrétní.

Neznamená to model nepoužívat, znamená to nepřesouvat na něj věc, kterou unést nemůže. Nechte ho připravit, shrnout, navrhnout — a tu poslední větu „a tohle platí“ si nechte u sebe, podepřenou zdrojem, který se dá otevřít.

Model umí dát odpověď. Autoritu — to, co za tou odpovědí ručí — dát neumí. Tu pořád držíte vy.