ChatGPT a další veřejné AI služby umožnily firmám začít během několika minut. Zaměstnanec se přihlásí, položí otázku a získá návrh textu, shrnutí nebo pomoc s analýzou. Pro mnoho úkolů je to nejrychlejší a nejrozumnější cesta.
V určité chvíli ale firma začne narážet na otázky, které běžné předplatné samo nevyřeší. Kam mohou zaměstnanci vkládat interní dokumenty? Kdo vidí které informace? Jak udržet znalosti aktuální? Lze AI napojit na CRM nebo interní úložiště? A co se stane, když cenu nebo pravidla služby změní její poskytovatel?
Právě tehdy má smysl porovnat veřejnou AI s vlastním AI serverem.
Nejde o souboj dvou produktů
Rozhodnutí není vždy „ChatGPT, nebo vlastní server“. V praxi může firma používat obě cesty:
- veřejný model pro obecné úkoly bez citlivých dat,
- vlastní model pro interní dokumenty a procesy,
- řízené propojení, které vybere vhodnou cestu podle typu úlohy,
- externí model jen po schválení nebo pro úkoly, které lokální řešení nezvládne.
Důležitější než značka modelu je pravidlo, jaká data smějí kam odejít a kdo smí spustit jakou akci.
Kdy veřejná AI obvykle stačí
Běžná cloudová služba může být správnou volbou, pokud:
- firma teprve zkouší, kde jí AI pomůže,
- zaměstnanci pracují hlavně s obecnými informacemi,
- není potřeba složité napojení interních systémů,
- používání je nepravidelné,
- rychlý přístup k nejnovějším modelům je důležitější než vlastní provoz,
- firma má jasná pravidla, která data se do služby nesmějí vkládat.
Výhodou je rychlost spuštění, jednoduchá správa a široké schopnosti. Firma nemusí nakupovat hardware ani provozovat vlastní infrastrukturu.
Signály, že je čas uvažovat o vlastním serveru
1. Zaměstnanci potřebují pracovat s citlivými dokumenty
Smlouvy, interní postupy, technická dokumentace, osobní údaje nebo obchodní tajemství vyžadují přesnější kontrolu než obecný pokyn „nevkládejte nic citlivého“.
Vlastní řešení může zpracování a vyhledávání držet v prostředí určeném pro firmu. I zde je ale nutné nastavit účty, oprávnění, logování a zálohy. Samotné umístění serveru v kanceláři bezpečnost automaticky nezaručí.
2. AI má znát firemní pravidla a aktuální data
Veřejný model zná obecný svět, ale nezná aktuální ceník, interní směrnice ani stav zakázek. Jednorázové nahrání souboru nestačí, pokud se zdroje pravidelně mění.
Vlastní AI vrstva může být napojená na řízenou znalostní bázi. Odpovědi pak vycházejí z povolených zdrojů a mohou uvádět, odkud informaci získaly.
3. Různí lidé smějí vidět různé informace
Obchodník, technik a účetní nemají automaticky přístup ke stejným dokumentům. Pokud má AI respektovat firemní role, nestačí společný účet nebo jeden adresář pro všechny.
Správně navržené řešení předává modelu pouze informace, které daný uživatel smí použít. Oprávnění musí vycházet ze skutečných firemních pravidel, ne z improvizace v promptu.
4. AI má být součástí procesu
Jiná situace je, když AI pouze navrhne text, a jiná, když čte data ze systémů, připravuje objednávku nebo spouští automatizaci.
Vlastní server a integrační vrstva mohou nabídnout větší kontrolu nad nástroji, logováním a schvalováním akcí. Kritické kroky však mají stále vyžadovat potvrzení člověka nebo pevná pravidla mimo generativní model.
5. Firma chce předvídatelnější provoz
U pravidelné a vysoké zátěže může firma chtít lépe řídit výkon, dostupnost a způsob účtování. Vlastní server má pořizovací a provozní náklady, ale není automaticky placený za každý jednotlivý dotaz.
To neznamená, že bude vždy levnější. Záleží na využití, energii, správě, obnově hardwaru a hodnotě práce potřebné k provozu.
6. Závislost na jednom poskytovateli začíná být problém
Pokud je důležitý proces navázaný na jedno API, změna ceny, podmínek nebo dostupnosti může ovlivnit celou firmu. Lokální model může vytvořit další možnost a snížit závislost, zejména u základních interních úloh.
Dobré řešení nepředpokládá, že jeden model bude nejlepší navždy. Odděluje firemní data, procesy a oprávnění od konkrétního modelu tak, aby bylo možné modely postupně měnit.
Praktické srovnání
| Otázka | Veřejná AI služba | Vlastní AI server |
|---|---|---|
| Začátek | Rychlý, obvykle během minut. | Vyžaduje návrh, ověření a nasazení. |
| Modely | Snadný přístup k výkonným novým modelům. | Výběr podle hardwaru, úlohy a provozních potřeb. |
| Data | Zpracování probíhá podle podmínek poskytovatele a zvoleného tarifu. | Citlivé zpracování může zůstat ve firemním prostředí. |
| Integrace | Podle funkcí a API služby. | Lze navrhnout kolem konkrétních firemních systémů. |
| Oprávnění | Záleží na možnostech produktu. | Lze je svázat s interními rolemi a zdroji. |
| Provoz | Spravuje poskytovatel. | Firma nebo partner řeší správu, aktualizace a zálohy. |
Nejčastější chyba: koupit server dřív než vznikne zadání
Výkonný počítač nevyřeší nejasný proces. Pokud firma neví, jaký úkol chce zlepšit, jaká data jsou správná a kdo odpovídá za výsledek, vlastní model pouze přesune experiment do vlastní serverovny.
Lepší postup je:
- vybrat jeden konkrétní případ použití,
- popsat současný čas, náklady a chyby,
- určit data a oprávnění,
- ověřit úlohu na vhodných modelech,
- rozhodnout, která část má běžet lokálně,
- teprve potom zvolit hardware a rozsah nasazení.
Příklad hybridního řešení
Obchodní tým může používat lokálního asistenta pro vyhledávání ve smlouvách, interních postupech a produktových datech. Pro obecný návrh marketingového textu bez citlivých informací může systém využít externí model, pokud to firemní pravidla dovolují.
Uživatel nemusí pokaždé rozhodovat ručně. Řídicí vrstva může úlohy rozdělit podle typu dat, ceny, rychlosti a požadované kvality. Citlivé informace přitom nesmějí být odeslány ven jen proto, že externí model nabízí lepší formulaci.
Jak se rozhodnout
Položte si těchto šest otázek:
- Jaká data budou zaměstnanci s AI používat?
- Musí část zpracování zůstat uvnitř firmy?
- Potřebuje každý uživatel jiná oprávnění?
- Má AI pouze radit, nebo také pracovat se systémy?
- Jak často a v jakém objemu bude používána?
- Kdo bude odpovídat za provoz, aktualizace a kontrolu?
Pokud zatím odpovědi nemáte, začněte pilotem. Pokud jsou citlivá data, řízená oprávnění a integrace už dnes hlavním požadavkem, vlastní server může být přirozeným základem.
Kodo navrhuje kompletní AI servery pro firmy — od výběru hardwaru a modelů přes znalostní bázi až po zabezpečení a správu. V rámci první konzultace můžeme určit, co má smysl provozovat lokálně a kde je naopak praktičtější ponechat řízenou cloudovou službu.