Vlastní server, nebo cloud? Firmy si kladou špatnou otázku

Vlastní server pro AI zní jako rozumná investice. Podle odborníka se ale drtivé většině firem ekonomicky nevyplatí nikdy – a spousta strojů koupených v posledních dvou letech dnes stojí nevyužitá. Kdy dává vlastní infrastruktura smysl a jak se takové drahé chybě vyhnout, radí v rozhovoru Ing. Lukáš Orčík.

Podle čeho se firma má rozhodnout, jestli provozovat AI na vlastních serverech, nebo v cloudu? Existuje jednoduché vodítko podle typu firmy nebo úlohy?

Nejdřív jedno rozlišení: bavíme se o běžném provozu modelu, tedy inferenci. Trénování či doladění modelu je nárazová, extrémně náročná disciplína – tam si výkon skoro vždy pronajměte.

U inference rozhodují tři filtry: data, vytížení a provozní kritičnost. Cloud vyhrává, když firma teprve ověřuje nápad, nezná budoucí spotřebu nebo potřebuje rychlý start ve více zemích. Vlastní infrastruktura je silnější tam, kde AI pracuje s daty, která nesmějí opustit firmu, běží prakticky nepřetržitě a musí reagovat okamžitě – nebo fungovat i při výpadku konektivity, třeba ve výrobní hale.

Vodítko podle typu firmy je druhotné. Interní asistent nad dokumentací může patřit dovnitř podniku, veřejný chatbot téže firmy klidně poběží v cloudu. Rozhoduje úloha, ne logo na dveřích: ptejte se, kde vznikají data, jak často systém poběží a co znamená jeho výpadek.

Kdy se vlastní infrastruktura ekonomicky vyplatí?

Řeknu to natvrdo, i když tím naštvu půlku dodavatelů hardwaru: čistě ekonomicky se vlastní infrastruktura většině firem nevyplatí nikdy. Kdo pro ni nemá důvod v datech nebo v rychlosti odezvy, ať zůstane u AI jako placené služby (API).

Příklad: interního asistenta používá 80 lidí, každý položí patnáct dotazů denně. Přes API to vychází řádově na nižší tisíce korun měsíčně. Stroj za čtvrt milionu, k tomu správa, elektřina, zálohy – návratnost vyjde na mnoho let, při tempu růstu nároků modelů tedy prakticky nikdy.

Zlom přichází u firem, kde AI běží jako výrobní kapacita: nepřetržité zpracování dokumentů, stovky souběžných uživatelů. Velmi orientačně: drží-li se účet za inferenci několik měsíců nad sto tisíci korunami měsíčně a zátěž je předvídatelná, vlastní železo se může vrátit do roka až dvou. Vždy ale porovnávejte celkové náklady za dva až tři roky – u vlastního provozu včetně lidí, servisu a energie, u cloudu včetně přenosu dat. Nejdřív pár měsíců měřte skutečné využití – jinak je návratnost jen odhad.

Jaké jsou reálné rozdíly v bezpečnosti a správě dat mezi vlastní infrastrukturou a cloudem? Kdy data prostě nesmí ven?

Rozdíl není automaticky v bezpečnosti, ale v míře kontroly. Velký poskytovatel může infrastrukturu zabezpečit lépe než běžný podnik; firma ale musí vědět, za kterou část odpovídá ona a za kterou dodavatel.

Data nesmějí ven ve třech situacích. Zákonné: GDPR hlídá, kde a kým se osobní údaje zpracovávají, a AI Act přidává povinnosti podle rizikovosti použití – vztahují se na to, k čemu systém slouží, ne kde běží; vlastní server vás regulace nezbaví. Smluvní: smlouvy o mlčenlivosti (NDA) často zakazují předat data třetí straně – a poskytovatel cloudu třetí stranou je. Obchodní: výkresy, receptury, zdrojové kódy. Hlídat je třeba i logy, zálohy a diagnostiku – jejich únik bolí stejně jako únik dokumentů.

Jak je to se závislostí na externím dodavateli?

Cílem není vyhnout se každé závislosti, ale zachovat si reálnou možnost odejít.

Provozovat vše u více dodavatelů je drahé. Důležitější je umět vyexportovat data v běžném formátu, mít popsaná rozhraní a klíčovou logiku oddělenou od služeb jednoho poskytovatele – lock-in dnes vzniká spíš v datech než ve výpočetním výkonu. Test pro vedení: jak dlouho by přesun trval, kolik by stál a co bychom stavěli znovu? Dokud to firma neumí říct v číslech, nemá plán odchodu, jen teoretickou možnost migrace.

Kolik dnes reálně stojí postavit základní vlastní AI infrastrukturu, se kterou firma smysluplně začne?

Smysluplný start je pracovní stanice nebo all-in-one řešení s jednou výkonnou grafickou kartou s 32 až 128 GB paměti – zhruba 150 tisíc až půl milionu korun za stroj.

Utáhne otevřené modely střední třídy – rodiny jako Mistral, Qwen či Llama – v kvantizované, tedy paměťově komprimované podobě, což je dnes standard. Obslouží interního asistenta pro nižší desítky souběžných uživatelů. Nejsilnější uzavřené modely na něm nespustíte a u náročných úloh bude rozdíl proti nejlepším cloudovým modelům znát. Pozor i na licence: „otevřený model“ neznamená „dělej si, co chceš“.

Cena stroje navíc není cena služby – integrace, zabezpečení, monitoring a podpora přidají další desítky procent; vyšší dostupnost či záloha posunou rozpočet k milionu. Proto nejdřív ověřit jazykový model (LLM) na pronajatém výkonu, teprve pak kupovat hardware.

Jak takovou infrastrukturu škálovat, když užití roste, a kde jsou typické skryté náklady?

Škálování nemá začít nákupem dalšího stroje. Nejdřív menší model, chytřejší rozdělení požadavků a ukládání odpovědí na časté dotazy – teprve pak další stroje nebo špičky přelité do cloudu.

Největší skrytý náklad jsou lidé: kdo drží pohotovost, když asistent v pondělí ráno neběží? Zní-li odpověď „náš ajťák, až bude mít čas“, firma nemá službu, ale hobby projekt. U vlastního provozu přičtěte energii a chlazení, u cloudu přenos dat a tichý růst účtu. A nároky modelů rostou rychleji než obvyklý cyklus serverů – počítejte s obměnou po třech letech, ne po pěti až sedmi.

Hybridní model (část on-prem, část cloud) – kdy dává smysl a jak ho rozumně nastavit?

Tehdy, když má každé prostředí jasnou roli: citlivá data, stabilní zátěž a rychlá odezva dovnitř; piloty, špičky a veřejné služby do cloudu.

Past je vyrobit si dvě oddělená IT prostředí, která spolu neumějí mluvit. Nutná jsou jednotná pravidla pro identity, přístupy, monitoring a zálohování, definovaná data, která smějí mezi prostředími proudit, a jasná odpovědnost. Dobrý hybrid kombinuje výhody obou světů, špatný jen násobí náklady.

Kdyby měla firma udělat jedno rozhodnutí správně, aby se za rok nemlátila do hlavy, které to je?

Definovat případ použití dřív, než sáhne na peněženku.

Jaký problém řešíme, jak změříme přínos, s jakými daty smí systém pracovat a co se stane při výpadku. Pak pilot na pronajatém výkonu, měření, výběr modelu – a teprve nakonec infrastruktura. Nejčastější drahá chyba je opačná: podnik koupí „AI server“ a pak mu hledá využití; velká část strojů z posledních dvou let stojí nevytížená. Server čekající v rohu není investice do AI – je to pomník špatného pořadí kroků.

BIO:

Ing. Lukáš Orčík se pohybuje v IT přes 20 let, posledních pět let výhradně kolem AI. Vychází z výzkumu na VŠB-TUO a zkušeností s velkými daty v telekomunikacích. Staví pro firmy AI agenty, multiagentní systémy a automatizaci procesů od prototypu po produkční nasazení.