České firmy investují do AI nástrojů, výsledky ale často neodpovídají očekáváním. Dalibor Mráz z platformy ČERNÁ.AI v rozhovoru popisuje, proč je rozdíl mezi jejich používáním a skutečnou firemní adopcí AI mnohem větší, než si firmy myslí, a v čem přesně dnešní systémy narážejí na svoje hranice. Kde by tedy měla firma vlastně začít?
Kde končí používání AI a kde začíná adopce
Firmy dnes často říkají: „AI máme, koupili jsme licence a lidi zkoušejí ChatGPT.“ Jenže ve výsledcích firmy to vidět není. Kde končí používání AI nástrojů a kde začíná skutečné nasazení AI do firmy?
AI adopce má více úrovní. Licence ChatGPT, Claude a dalších je jeden malý dílek celé skládačky. Lidé ve firmě si často vlastně nevědí s nástroji rady a používají to různě ad hoc. Výsledky většinou nejsou uspokojivé, tak to referují vedení, že AI nástroje nefungují. Další případ je, že nástroje lidé začnou využívat, ale používají to jen jako chat. To znamená, že nepracují se soubory na svém počítači nebo někde na sdíleném disku a nemají nástroj napojený přes konektory na další aplikace nebo služby. Používají to jako takový chytrý napovídač, který ale dělá chyby.
Je velký rozdíl mezi efektivitou jednotlivce a celé firmy. Jsou to dvě naprosto odlišné disciplíny. Když jste jednotlivec, tak jste držitel celého kontextu vy sám. To znamená, že když jste například freelancer a pracujete na různých zakázkách a radíte se s modelem, tak víte, kdy jeho výstup odráží realitu a kdy ne. Zkrátka jste schopni výstup velmi efektivně kontrolovat, protože „víte, jak to je“. Nicméně u firemního použití si často tyto postupy dovolit nemůžeme.
Když už je firma o 20, 50 nebo 700 zaměstnancích, tak se kontext tříští mezi mnoho osob. Najednou už nemáte celý díl skládačky vy sami. Když se zeptáte například, jak si vede nabídka, kterou jsem odeslal minulý měsíc, tak spoléhám, že to někdo jiný, komu přišla odpověď, dobře zanesl do systému. Ve firemním světě, kde se nemůže jet na 60% nebo 80% spolehlivost, platí jiná pravidla. 80% spolehlivost znamená, že 2 dotazy z 10 jsou špatně a ten, kdo se ptá, musí dávat velký pozor a informace neustále ověřovat, což bere dost energie. Proto parametry nejlepších systémů ve firmách jsou měřitelnost, auditovatelnost a hlavně předvídatelnost. Na to už potřebujete velmi spolehlivý vývojářský tým, který postupuje systematicky. LLM ve své podstatě je hodně nepředvídatelný systém, proto ho chcete nasadit ve firmě správně a jen na místa, kde je opravdu nezbytný.
„80% spolehlivost znamená, že 2 dotazy z 10 jsou špatně.“
Jak vypadá efektivní nasazení AI ve firmě
Všichni dnes chtějí ušetřit desítky nudných hodin práce. Je tohle ta firemní AI efektivita, nebo je to jinak? Jak vypadá efektivní nasazení AI ve firmě?
Je to zase jedna malá část firemní AI efektivity. Když se bavím s různými majiteli firem, tak to, že jim nějaká automatizace ušetří 50 hodin měsíčně, jim s podnikáním moc nepomůže. Většina chce pracovat na zvýšení výkonnosti s cílem zvednout obrat společnosti. Navíc zatím neexistuje žádná krabička, kterou zapojíte do firmy a ta vám roztřídí sama faktury, navrhne, co dělat lépe a zvedne výkonnost o 300 %.
Efektivní nasazení AI ve firmě musí primárně na něčem stát. Jako první se většinou instaluje základní AI ready datová platforma. Ta se skládá z několika částí, jako jsou databáze, prostředí pro experimenty a další. Následně se definují různé příležitosti, ke kterým se čistí potřebná data a ta se připojují přes konektory tak, aby k nim mohl mít nějaký agent přístup. Následně se na rozrůstající se databáze začínají pouštět jednoduché systémy, které nemají příliš veliké kompetence, ale fungují velmi spolehlivě a efektivně. Tým firmy se postupně učí pracovat s různými nástroji, aby si mohli zkoušet stavět v uzavřeném prostředí vlastní nástroje, které se napojují na interní databáze. Postupným procesem se know-how a další důležitá data ukládají podle určitých pravidel a firma s nimi může začít pracovat úplně na jiné úrovni efektivity.
Je to ale postupný proces, který není dobré uspěchat. Většinou bývají ze začátku problémem i nerealistická očekávání, ale čím více firma do podstaty technologie vstupuje, začíná velmi dobře chápat její omezení i potenciál.
Příklady z praxe, kde se přínos AI dal spočítat
Můžete dát pár příkladů z praxe, kde se přínos AI dal jasně spočítat a čím se ty projekty od sebe lišily?
Určitě. Je rozdíl, jestli pro někoho vyvíjíme něco velmi specifického a na míru, anebo se postupuje podle nějakých již našich zaběhlých scénářů, kde akcelerujeme AI adopci ve firmě, následně nasazujeme AI ready datovou platformu a pomáháme převádět firemní AI prototypy do produkce. Pro střední a velké firmy se stáváme ve výsledku externím správcem celé AI infrastruktury, který se stará o SW i HW a nese za provoz odpovědnost.
Na míru jsme vyvíjeli výzkumný AI model, který hledá nové formulace léčiv. Bylo to pro farmaceutickou firmu Oxygen Biotech a nástroj jim pomáhá v laboratoři. Tam to zvedá efektivitu a rychlost výzkumu o desítky procent.
Pak jsou jiné typy nasazení AI, a to například v globálním realitním portálu. Tam pomocí AI zvedáme uživatelskou zkušenost. Všechny texty i fotky inzerátů převádíme na tagy, se kterými systém pracuje. Tam se hodně řešila optimalizace nákladů, protože objemy jsou na stránce, kde je milion inzerátů, opravdu velké. Tam se nám povedlo dostat cenu zpracování z původních 100 % na 8 %. Dále systém vyhledávání podle přirozeného jazyka, kdy zadáte textem, co hledáte, a systém rozebere sdělení a vyfiltruje. Pracujeme tam taky s datovými produkty, které mají za cíl různé predikce a zvyšovat uživatelský zážitek.
Dobře se počítá i zvýšení výkonnosti například u tvorby nabídek. Pokud máte firmu, která stojí na tvorbě nabídek a je to váš bottleneck, tak zvednutím ze 70 na 250 zvedáte statisticky i pravděpodobnost, že pozitivně dopadne více zakázek. Jsou i příklady AI adopce, kdy přesným vedením zvyšujeme efektivitu interního týmu firmy, který si staví pomocí nástrojů AI své vlastní nástroje, které my potom s developery přes testovací prostředí překlopíme do produkce a začne je používat celá firma. Cest je mnoho a záleží, která konkrétní cesta je ta, která pomůže vám.
Autonomní AI agenti versus realita
Na sítích se píše o autonomních AI agentech, kteří sami převezmou celé procesy. Jak moc tomu odpovídá realita? Jak dnes vypadá skutečné nasazení AI ve firmě?
Ve světě AI je velké pnutí mezi vývojářskou realitou a hypem ve stylu „sky is the limit“. Na LinkedInu se pohybují tzv. HypeBuildeři a Bullshiteři. Ti jedni říkají, že to umí více, než to skutečně umí, a ti druzí si vymýšlí věci, které to zatím neumí. K autonomii mají však dnešní systémy stále dost daleko.
To, že řekne svému Claudovi „udělej mi web a nahoď ho“, tak to do jisté míry sám udělá. Zvládne si o vás něco najít, následně nahodí nějaký průměrný design, web naprogramuje, potom ho i sám pověsí na Vercel a nastaví DNS. Podle této optiky jsou systémy již zčásti autonomní. Tam, kde to ale narazí, je kvalita výstupu. Tento jednoduše nahozený web bude obsahovat spoustu různých chyb a jeho úroveň bude pravděpodobně podprůměrná. K doladění bude třeba spousta hodin, ne-li dní práce a iterací.
Stejně to je s čímkoliv jiným. Tam, kde to práci ušetří na první dojem, to jen velmi nenápadně práci odsune na toho, kdo to celé musí zkontrolovat. Dobře vypadající výstup neznamená správný a funkční. Pokud se podíváte na výstupy z jazykových modelů při své denní práci kriticky, většina výstupu je na první dobrou nepoužitelná. Tuto nepředvídatelnost a nekonzistenci LLM systémů ve firmách chceme pustit jen tam, kde nemůže uškodit.
Firemní data jsou substrátem pro firemní AI
Jakou roli v tom hrají firemní data? Co s nimi musí firma udělat, než se na nich dá stavět, a jak k tomu přistupujete vy?
Firemní data jsou substrátem pro firemní AI. Některé firmy se snaží přeskočit data a rovnou zavádět agenty. Jsou pod velkým tlakem, že jim svět utíká pod rukama a že ztratí konkurenční výhodu. Nicméně zavedení agenti, kteří nemají nachystaná data a celý ekosystém kolem, pracují velmi neefektivně. Vlastně naopak firmě zvedají náklady a jen generují spoustu výstupů, které stejně někdo musí kontrolovat.
Je celá řada procesů, jak připravit data pro nějaké využití AI. Většinou se vybere příležitost a připraví se jen tolik dat, kolik bude potřeba, aby vše fungovalo správně. Říká se tomu datový bazén. Je jednodušší vyčistit a starat se o bazén, než se snažit čistit celé moře. Jsou firmy, které se snaží připravit pro AI 50 let historie firmy. Většinou buď dojde trpělivost, nebo peníze. K tomu, aby AI fungovala dobře, nepotřebuje vědět o firmě první ani poslední. Naservírujeme jí jen tolik, kolik je nezbytné, aby úkol plnila dobře a opakovaně. Pokud chcete začít s AI akcelerovat podnikání, začíná to u dat.
„Je jednodušší vyčistit a starat se o bazén, než se snažit čistit celé moře.“
Kdo má AI adopci uvnitř firmy táhnout
Kdo má AI adopci uvnitř firmy táhnout? Majitel, ajťák nebo někdo úplně jiný?
U malých firem to musí být majitel. U středních a velkých firem na to majitel nemá kapacitu a hledají se tzv. AI driveři. Jedná se o jedince, které technologie nadchla a snaží se v tom zorientovat. Nikdo je nejmenuje, již ve firmách existují, protože sami chtějí. Nejdou pouze po experimentech, ale snaží se přemýšlet nad tím, jak by AI mohla pomoci ve firmě. Tím, že to nejsou většinou lidé z IT a teprve do technologie pronikají, jedou metodou pokus omyl. To na začátku určitě není špatné, nicméně dost pomáhá, když dostanou nějaký support.
Jako první se AI driver může zdarma napojit na celonárodní komunitu AI DRIVERS, kde jsou podobní lidé jako jsou oni sami, a na další lokální AI komunity v jejich okolí. V komunitě AI DRIVERS jsou každý týden pravidelně cally, které pomáhají všechny udržovat aktivní. Vedle komunity se nabízí i AI akcelerační partnerství. Tam si firma bookne 4 až 15 hodin měsíčně, kdy pomáháme drivery nasměřovat a ukazujeme jim různé nástroje, aby uvnitř firmy začala vznikat nějaká AI kultura. Vedeme je nejen k mapování jejich procesů, ale i ke stavbě prototypů, které by jim mohly pomáhat při denní práci. Máme zkušenost, že většinou AI adopce nezačíná zvenku, ale podporou kultury uvnitř firmy. AI driver se pak stává parťákem, který rozumí firmě, ve které je, a zároveň pomáhá externímu dodavateli, který pak některé prototypy překlápí do produkce.
Vibecoder, nebo AI engineer?
Lidé bez programování si dnes dokážou naklikat funkční prototyp. Co si firma zvládne vyvinout sama a kde začíná práce pro profesionální vývojáře?
Rozlišujeme vibecodera a AI engineera. Liší se hlavně v míře zodpovědnosti, bezpečnosti, udržitelnosti a doménové expertízy. Vibecoding je jeden z nástrojů AI driverů, který jim pomáhá tvořit prototypy uvnitř firmy a zachytit jejich know-how i různé mechanismy. To znamená, že na tvorbu interních nástrojů je to velký game changer. Výzvou to začíná být v momentě, kdy navibecodovanou aplikaci chcete postupně rozvíjet nebo pustit na citlivá firemní data. Práce na aplikaci nebo nějakém systému většinou začne až se spuštěním do provozu a rozvojem. Tam to většinou vydrží pár dní nebo týdnů a pak se začínají tyhle prototypové aplikace kazit.
Pak přichází další fáze a je většinou nutné, aby prototyp převzal profi vývojový tým. Ten ho překlápí do testovací fáze a po určité době do produkce a ostrého nasazení. Většinou se prototyp celý přeprogramuje a vývoj se nastaví podle standardů. Pokud se dodržuje přístup, že vibecoder experimentuje, objevuje, zjišťuje potřeby a prototypuje, a AI engineer redukuje, staví, optimalizuje, měří, nasazuje a udržuje, tak jde firma mílovými kroky naproti bezpečné technologické adopci.
Dalibor Mráz se věnuje vývoji a adopci AI ve firmách, kde s týmem překlápí prototypy do produkčního nasazení. Jako AI Director ve Webvalley vede vývoj a aplikovaný výzkum v oblasti umělé inteligence. Má za sebou AI/IT delivery napříč obory: od farmaceutických projektů přes nástroje pro práci s vědeckými daty a AI modely pro rozsáhlé realitní systémy až po zavádění datové infrastruktury a adopčních strategií v malých a středních firmách. V roce 2025 získal od České asociace umělé inteligence ocenění AI Osobnost roku v kategorii Objev roku. Je spoluzakladatelem nekomerční platformy ČERNÁ.AI, součásti projektu Černá kostka, která propojuje vývojáře, výzkumné instituce a veřejný sektor a zaměřuje se na transfer know-how, vzdělávání a mezinárodní spolupráci.
Jak vypadá tým pro AI delivery
Na závěr pojďme do zákulisí: jak vypadá tým, se kterým AI delivery ve firmách řešíte, jaké profese v něm sedí? Co všechno patří ke standardnímu nasazení AI ve firmě a trénují se při něm i vlastní modely?
Tým na AI delivery je poměrně pestrý. Celé to stojí na šikovných AI/IT architektech, developerech, expertech na strojové učení a computer vision (ML & CV), datových expertech, LLM engineerech, specialistech na MLOps a LLMOps a dalších různých profesích podle projektu. V současné době jsou týmy daleko menší, než byly před sedmi lety. Nicméně ti, kteří mají v současné době opravdu vysokou hodnotu, jsou lidé, kteří pomocí AI umí efektivně stavět.
Ne všechny firmy potřebují trénovat nějaký svůj model nebo řešit computer vision, nicméně když je potřeba, je skvělá příležitost využít k natrénování svého specifického modelu superpočítač v ostravském IT4Innovations nebo LUMI AI Factory. Tam se ke komputaci můžou malé a střední firmy dostat zdarma, pokud splní určité podmínky.
