Dovolím si krátký text k limitům odbornosti LLM modelů. Nejde jen o limity dnešních modelů, které vyřeší příští generace. Podstatnější problém leží jinde: AI nenahrazuje expertní znalost, protože nejdůležitější část expertízy často spočívá v neviditelném výběru relevantního kontextu.

Jinak řečeno: problém není jen v tom, že AI něco neví. Problém je, že laik často neví, co všechno jí musí říct.

To je podle mě klíčový rozdíl mezi informací a expertízou. Expert není jen člověk, který má v hlavě víc faktů. Expert umí rozlišit, které faktory v konkrétní situaci skutečně rozhodují, co je šum, co je citlivé, co už se zkoušelo, co narazí na odpor, co zákazníci pochopí špatně a co bude vypadat dobře jen na papíře.

Proto mě znervózňuje, jak rychle lidé začali používat AI jako náhradu odborníků. Nevadí mi, že si tam chodí pro první orientaci. To může být čistý přínos. Uživatel často odejde jako poučenější laik, než kdyby se nezeptal nikoho.

Něco jiného ale je, když se pomocí LLM začne nahrazovat expertní znalost. Tam už to nemusí být přínos ekonomiky, ale rozklad existujících a užitečných vazeb mezi profesionály. Místo malé firmy s vlastním marketingovým oddělením, fotografem, webařem a dalšími specialisty můžeme dostat malou firmu s armádou sebevědomých sabotérů, které nemá kdo odhalit.

Když AI zadám komplexní problém, kterému sám dobře rozumím, často velmi rychle vidím, kde je výsledek špatně. Třeba u knihy, kterou jsem pozorně četl, nebo u marketingové strategie firmy, kterou znám. AI dokáže odpovědět plynule, strukturovaně a sebejistě — a přesto naprosto minout to podstatné.

Lepší prompt to někdy nezachrání. Agentic workflow to někdy nezachrání. Skill v Claude to někdy nezachrání. Výsledkem může být jen přesvědčivě formulovaný nesmysl: výstup, který vypadá kompetentně, ale je kontextově slepý.

A tady se problém zostřuje. Množství kontextu, které musím AI dodat, se u některých úkolů nepříjemně blíží množství kontextu, které obsahuje samotné řešení. Fakticky pak AI píšu, co mi má napsat.

To by mě nemělo překvapovat, když jsem roky studoval F. A. Hayeka. Ten přisuzoval obrovský význam lokálním znalostem a jejich využití v komplexních ekonomických procesech. „Lokální“ tu neznamená nutně malé geografické místo. Znamená to spíš rozptýlený mikro-kontext reality: věci, které člověk často ví prakticky, situačně a mlčky.

Jsou to detaily, které ani nevíte, že víte, ale které rozhodují o rozdílu mezi funkčním řešením a elegantně zabalenou chybou.

Právě na tom mimochodem selhávalo centrální plánování. Neumělo tyto informace sbírat a zpracovávat tak jako trh, který je skrze jednání lidí průběžně promítá do cen. Nešlo jen o nedostatek dat. Šlo o neschopnost zachytit rozptýlené znalosti konkrétních lidí v konkrétních situacích.

Podobný problém dnes vidím u AI. Ne proto, že by LLM bylo totéž co centrální plánování. To by byla laciná zkratka. Podobnost je užší: v obou případech se naráží na to, že rozhodující znalost bývá rozptýlená, situační a zvenčí často neviditelná.

AI třeba neví, že vaši zákazníci chodí do jedné facebookové skupiny pro sdílení zkušeností nebo že každý den prochází kolem jednoho rohu na ulici, kde může být vaše reklama. Takové mikro-znalosti se do LLM modelů nepropíšou, ale jsou to přesně ony, které mi třeba umožňují zavádět AI strategii u nadnárodní firmy: znám tu firmu do detailu.

To nejsou drobnosti. To je často samotné jádro strategie.

Ano, AI může mikro-kontext částečně rekonstruovat z dobrých dokumentů, rozhovorů, dat a firemní znalostní báze. To je férový protiargument. Jenže větší kontextové okno pomáhá hlavně tehdy, když do něj někdo vloží správný kontext. A právě výběr správného kontextu je často expertní práce.

Proto mi nestačí odpověď: „Modely budou mít větší kontext.“ Budou. A bude to užitečné. Ale větší kontextové okno samo neřeší otázku, co je relevantní. Neřeší, které informace jsou rozhodující, které zavádějící a které chybí úplně.

Když potom vidím, jak někdo sdílí skill.md, který má vymyslet marketingovou strategii firmy a rovnou ji překlopit do vizuálního a textového obsahu pro všechny kanály, musím se pousmát. Ne proto, že by to nikdy nemohlo pomoct. Ale protože bez lokální znalosti firmy, trhu, zákazníků a interních omezení to velmi snadno vyrobí strategicky škodlivý výstup, který bude jen dobře vypadat.

A pak vidím sebe, jak snadno svěřím AI problém, o kterém sám mnoho nevím. V tom jsem vinen stejně jako ostatní. Jenže právě tam je riziko největší. Když dané oblasti nerozumím, nedokážu AI dotlačit do kontextového prostoru, kde mi může dát opravdu dobrý výsledek. Nemám jak poznat, co chybí. Nemám jak poznat, že odpověď je jen elegantní iluze.

Myslím, že část zlepšení, které u LLM poslední měsíce sledujeme, plyne právě z lepší práce s kontextem. Modely se umí lépe doptávat, lépe strukturovat problém, lépe si samy vytvořit jakousi miniorchestraci z jednoduchého laického promptu. To je reálný pokrok. Ale má tvrdý limit: model může lépe pracovat s kontextem, který má, ale tím ještě nezaručí, že má právě ten kontext, který rozhoduje.

Proto si myslím, že hodně lidí AI přeceňuje. Ano, mnoho lidí ji naopak podceňuje. To je pravda. Ale nepřipadá mi, že může jednoduše nahradit opravdové expertní znalosti právě kvůli tomuto mikro-kontextu.

AI je skvělý nástroj pro lidi, kteří už umí řešit problémy, které jí svěřují. Dokáže zrychlit práci, formulaci, rešerši, varianty i první návrhy. Ale laikům často dává něco nebezpečnějšího než nevědomost: pocit expertízy.

A to je hlavní pointa. Skutečná expertíza není jen množství informací. Je to kontext, úsudek, zkušenost a schopnost poznat, co je v dané situaci podstatné. Právě lokální znalosti jsou zároveň nutné pro úspěch a neviditelné pro LLM i laika.

Možná by proto AI experti měli znovu vzít vážně Hayekovu práci. Ne proto, aby z ní udělali slogan proti technologiím. Ale proto, že připomíná nepříjemnou věc: spousta důležité znalosti není centralizovaná, explicitní ani snadno přenositelná.

A přesně tam začíná tvrdý limit toho, co LLM dokáže samo.