Firemní efektivita: Kde má AI ve smysl a kde je zbytečná?

Nejdražší chyba, jakou firmy s umělou inteligencí dělají a kterou lze odhalit za jediný víkend? RNDr. Filip Dvořák, Ph.D., zakladatel Filuta AI a držitel patentů na composite AI, v rozhovoru vysvětluje, jak poznat, že úloha vůbec nepotřebuje velký jazykový model, kde firmám uniká skrytá „druhá faktura“ za AI a proč composite přístup, který dnes zmiňuje i Gartner, často vyjde levněji než jeden univerzální model.

Jaká jsou dnes nejčastější špatná nebo neefektivní použití AI ve firmách – kde se nasadí velký jazykový model na úlohu, na kterou je zbytečně drahý nebo nevhodný?

Nejdražší vzorec, který vídám, je velký jazykový model nasazený na úlohu, která je ve skutečnosti deterministická: párování dodacích listů s fakturami, vytahování položek z objednávek, kontroly podle jasných pravidel. Velký model to zvládne – ale pomaleji, dráž a pokaždé trochu jinak, takže za něj musíte postavit lidskou kontrolu. A to je ta skutečná past: největším nákladem špatně nasazené AI nebývá faktura za tokeny, ale lidé, kteří po ní uklízejí. Druhý vzorec je „chatbot jako strategie“: firma pořídí chatbota, kterého nikdo nepoužívá, zatímco proces s tisíci hodinami práce týdně běží dál postaru. Třetí jsou piloty bez metriky — když předem neřeknete, které číslo se má zlepšit, nezlepší se žádné.

Podle čeho firma pozná, že úloha vůbec nepotřebuje LLM a stačí jednodušší, levnější a spolehlivější řešení?

Položte si tři otázky: Má stejný vstup vést vždy ke stejnému výstupu? Umíte správný výsledek popsat pravidly? Poběží to ve velkém objemu? Dvakrát ano znamená, že generativní model do úlohy nepatří — vnáší tam jen náklady a nejistotu. Ještě užitečnější je architektonický pohled: jazykový model patří na okraj procesu, tam, kde do firmy vstupuje neuspořádaný svět — poptávky ve volném textu, komunikace se zákazníkem. Uvnitř procesu, kde už jsou data strukturovaná a pravidla jasná, má vládnout determinismus: klasický software, optimalizace, malý model natrénovaný přesně na jednu věc. Firmy, které generativní model pustí doprostřed procesu, platí dvakrát: za tokeny i za nejistotu.

Jak firma pozná, že pro svou úlohu používá správný model — a ne ten, co je zrovna populární? Existuje jednoduchý test?

Existuje a stojí víkend, ne projekt. Vezměte sto skutečných případů z vlastního provozu — včetně těch ošklivých — a nechte na nich naslepo soutěžit tři modely: velký, střední, malý. Měřte kvalitu, cenu za případ a odezvu. Pokud model třicetkrát levnější projde vaší sadou stejně dobře, dosud jste přepláceli. Žebříčky totiž měří univerzální schopnosti, jenže vaše úloha je úzká — a na úzkých úlohách se malé modely velkým běžně vyrovnají. A test opakujte každé čtvrtletí: poměr ceny a výkonu se posouvá po měsících a model, který byl nejlepší volbou v lednu, bývá na podzim třetí.

Když firma platí za provoz AI, kde nejčastěji platí zbytečně? Jak se skrytá neefektivita v nákladech pozná?

Firma platí dvě faktury a vidí jen jednu. Ta viditelná jsou tokeny a licence: do každého dotazu se znovu přikládají celé dokumenty místo kešování, špatně navržení agenti „přemýšlejí nahlas“ v dlouhých smyčkách, takže většina tokenů padne na režii, a prémiový model obsluhuje interní úlohy, kde by chyba nikoho nebolela. Neviditelná faktura jsou lidé: čas strávený kontrolou a opravami výstupů se nikde nevykazuje, a přitom často převýší tu první. Neefektivita se pozná jednotkovou ekonomikou: nesledujte měsíční útratu, ale cenu za vyřízený případ — ticket, dokument, rozhodnutí — a její trend. Roste-li útrata rychleji než počet vyřízených případů, někde teče.

Co je „composite AI“ a proč pro řadu firemních úloh dává lepší a levnější výsledek než jeden velký model?

Composite AI a neurosymbolická AI jsou dvě jména téže myšlenky — a jejich příběh je sám o sobě zábavný. Akademici desítky let říkali „neurosymbolic“, byznys si osvojil „composite“. Dnes světem rezonuje ten akademický termín, což mě těší: geeks are cool. Podstatou je dělba práce: neuronové modely zvládají vnímání, jazyk a nejednoznačnost, symbolická vrstva — plánování, logické usuzování, tvrdá omezení — garantuje správnost a auditovatelnost, malé specializované modely levně obslouží objem. Jeden velký model je skvělý generalista, který draze improvizuje i tam, kde potřebujete záruky. Věnuji se té kombinaci většinu kariéry — první patenty na composite AI jsem získal v ropném a plynárenském průmyslu, ve Filutě AI jsme ty přístupy posunuli o generaci dál a Gartner nás dnes uvádí jako zástupce composite AI. V praxi naše testovací agenty řídí symbolický plánovač, obrazovku vnímají neuronové modely a jazykový model nastupuje, jen když je skutečně co interpretovat. Výsledek je opakovatelný, obhajitelný před auditem a vzniká za zlomek ceny.

Kdy AI znamená skutečnou úsporu peněz a kapacit a kdy náklady jen přesouvá jinam?

Skutečná úspora má dvě podmínky: pohne se metrika celého procesu — průběžná doba, cena za případ, chybovost — a uvolněná kapacita se opravdu využije jinde. Všechno ostatní je přesouvání nákladů: z tvorby do kontroly (návrhy, které senior stejně celé přepíše), z oddělení do oddělení (chyby doputují do reklamací) a z přítomnosti do budoucnosti (údržba promptů a integrací). Dobré vodítko je asymetrie ověření: AI spolehlivě šetří tam, kde je ověření výsledku výrazně levnější než jeho vytvoření. Kde stojí kontrola stejně jako práce sama, neušetříte nic — ledaže správnost garantuje sama architektura řešení. Právě proto vycházejí composite přístupy v celkových nákladech lépe.

Od jakého rozsahu se firmě vůbec vyplatí model optimalizovat? Co dělat do té doby?

Optimalizace modelů je učebnicový případ klesajících výnosů, takže odpověď nezní „od kolika uživatelů“, ale „dokud se vyplácí“. Kroky se řadí od nejlevnějších: směrování dotazů (levný model první, drahý jen na eskalace), kešování, kratší kontexty, noční dávkové zpracování — úspory v desítkách procent téměř zadarmo. Pak přijde doladění malého modelu na vlastní úlohu; to už stojí stovky tisíc až miliony a vyplatí se jen u stabilní, objemové úlohy. Nakonec vlastní provoz — ten dává smysl při velkém objemu, nebo mnohem dřív tam, kde data nesmějí opustit firmu; pak ale neplatíte za úsporu, nýbrž za suverenitu. Pravidlo pro zastavení je prosté: jakmile další vložená koruna vrátí na úsporách méně než korunu, přestaňte. Ne proto, že to technicky nejde dál, ale proto, že to přestalo být investicí.

Kdyby měl manažer udělat rychlý „audit efektivity“ svého AI — co změřit a na co se zeptat dodavatele?

Stačí odpoledne a tři čísla: cena za vyřízenou úlohu a její trend, kvalita na vlastní testovací sadě a podíl výstupů, které vyžadují lidský zásah. Ta tři čísla řeknou o efektivitě víc než jakákoli prezentace. Dodavatele se ptejte na to, co bolí: Proč právě tento model — a ukážete nám srovnání s levnější alternativou na našich datech? Co bude stát výměna modelu za rok? Kudy tečou naše data a kdo nese náklady chyb a oprav? A nakonec otázka nejdůležitější: jak dodavatel vydělává. Pokud jeho marže roste s vaší spotřebou, nemá důvod vaši spotřebu snižovat — a audit efektivity pak děláte proti jeho zájmu, ne s ním.

BIO

RNDr. Filip Dvořák, Ph.D., je zakladatelem a CEO společnosti Filuta AI, která vyvíjí neurosymbolické composite AI systémy pro prostředí, kde se správnost musí prokazovat, nikoli předpokládat. Gartner ji uvádí jako zástupce composite AI pro americký a evropský trh. Filip se umělé inteligenci věnuje přes dvacet let, je autorem patentů v oblasti composite AI, pracoval i pro Google a Microsoft a působil na několika výzkumných pracovištích v USA.