Nižší cena GPT-6 Sol a Luna může zlevnit automatizace ve velkém objemu. Skutečnou úsporu ale neukáže ceník za milion tokenů, nýbrž cena za správně dokončený úkol v konkrétním procesu.
OpenAI 22. září představilo modely GPT-6 Sol a GPT-6 Luna. Nejde o přejmenování dosavadních GPT-5.6 Sol a Luna, ale o novou generaci se samostatnými modelovými ID a ceníkem. Sol míří na složité programování a agentní workflow, Luna na úzce vymezené úlohy ve velkém objemu.
Pro firmy, které modely volají přes API, je změna cenově výrazná. Ve standardním režimu pro kratší kontext stojí GPT-6 Sol 2 USD za milion vstupních tokenů a 10 USD za milion výstupních tokenů. GPT-6 Luna stojí 0,10 USD za milion vstupních a 0,50 USD za milion výstupních tokenů. To je proti odpovídajícím standardním cenám GPT-5.6 polovina.
To ale neznamená, že má smysl přepnout všechny automatizace najednou. Cena modelu je jen jedna část nákladu. U e-shopu, zákaznické podpory nebo interní práce s dokumenty rozhoduje také délka vstupů, kolik výstupu skutečně potřebujete, zda se opakuje stejný kontext, jak často se výsledek opravuje a kolik stojí chyba.
GPT-6 není GPT-5.6 s novým názvem
V označení je snadné se ztratit. GPT-5.6 Sol, Terra a Luna jsou starší modelová řada. GPT-6 Sol a GPT-6 Luna jsou nové modely; jejich chování, limity i výsledky proto nelze odhadnout jen podle názvu nebo podle starého promptu.
Prakticky to znamená dvě věci:
- starý model v integraci nezměníte pouhou úpravou ceny; je potřeba změnit přesné modelové ID a otestovat výstupy,
- dosavadní benchmark, limity pro výstup nebo pravidla pro lidské schválení nemusí po migraci platit stejně.
| Model | Standardní vstup | Vstup z cache | Standardní výstup | Kdy jej nejdřív testovat |
|---|---|---|---|---|
| GPT-6 Sol | 2 USD / 1 mil. tokenů | 0,20 USD / 1 mil. tokenů | 10 USD / 1 mil. tokenů | Složitý kód, vícekrokové workflow, náročné vyhodnocení dokumentů |
| GPT-6 Luna | 0,10 USD / 1 mil. tokenů | 0,01 USD / 1 mil. tokenů | 0,50 USD / 1 mil. tokenů | Klasifikace, extrakce polí, krátká shrnutí a velké dávky podobných úloh |
Tabulka používá standardní API cenu pro kratší kontext. U promptů delších než 272 000 vstupních tokenů je ceník vyšší. Režimy Batch a Flex mají proti standardnímu režimu nižší cenu, Fast naopak vyšší. Bez stejného režimu, stejné délky kontextu a stejného poměru vstupu a výstupu proto nelze srovnávat jen jednu část ceníku.
Nehleďte na cenu tokenu, ale na cenu hotové práce
Představme si automatizaci, která každý den zpracuje nové položky produktového katalogu. Na vstupu má název, parametry, několik vět pravidel a kousek znalostní báze. Na výstupu vrací kategorii, atributy, krátký popis a případně upozornění pro člověka.
Zlevnění modelu se projeví přímo. Ale skutečný náklad jedné položky se skládá alespoň z těchto částí:
- vstupní tokeny: produktová data, instrukce, ukázky a přiložený kontext,
- výstupní tokeny: vytvořený text, strukturovaná data a vysvětlení pro kontrolu,
- cache: opakovaný systémový prompt, ceník, katalogová pravidla nebo stejná znalostní báze,
- nástroje a navazující kroky: vyhledání dat, zápis do systému nebo další API volání,
- opravy a výjimky: čas člověka, který opravuje špatné zařazení, dohledává chybějící údaj nebo zastaví rizikový výstup.
Nejnižší cena tokenu tedy nemusí vyhrát. Pokud levnější model vyvolá více nejasných případů, které následně zpracuje obchodník nebo podpora, může být výsledná cena za použitelný výstup vyšší. Naopak u dobře ohraničené úlohy může Luna zpracovat velký objem za velmi nízký náklad.
Dobré srovnání proto počítejte na úrovni dokončené práce: například za správně připravenou položku katalogu, správně vytříděný e-mail nebo návrh nabídky, který člověk schválí bez zásahu. Samotné dolary za milion tokenů jsou pro tento výpočet vstup, ne výsledek.
Kde může nejvíc pomoci cache
Prompt cache snižuje cenu opakovaně použitých vstupních tokenů na desetinu běžné vstupní sazby. U GPT-6 Sol je to 0,20 USD za milion tokenů a u Luny 0,01 USD. Výhodu má hlavně workflow, které při každém volání znovu posílá stejnou dlouhou část kontextu.
Typicky jde o:
- pevný systémový prompt s pravidly značky, schvalováním nebo bezpečnostními omezeními,
- častěji používanou část znalostní báze,
- šablonu strukturovaného výstupu,
- pravidla pro práci s katalogem, dokumenty nebo firemní terminologií.
Cache není sleva na celý požadavek automaticky. Pomůže jen tam, kde se vstup skutečně opakuje v použitelné podobě. Při porovnání modelů proto sledujte odděleně běžný vstup, vstup z cache a výstup. Často právě příliš dlouhý a stále nový kontext vysvětlí, proč účet neklesá tak rychle, jak napovídá headline o levnějším modelu.
Kdy zkusit Sol a kdy Lunu
Rozhodnutí není o tom, který model je „lepší“. Je o riziku konkrétní úlohy a o tom, jak snadno její výsledek ověříte.
GPT-6 Luna dává smysl jako první kandidát pro opakované, úzce vymezené kroky: označení typu e-mailu, vytěžení několika polí z formuláře, kontrolu formátu, párování produktového atributu nebo krátké shrnutí. V takovém procesu lze přesnost poměrně jednoduše změřit na známém vzorku a výjimky poslat člověku.
GPT-6 Sol je vhodné prověřit tam, kde workflow vyžaduje složitější práci s kódem, více kroků nebo důkladnější posouzení většího množství informací. Nemělo by to ale být automatické povýšení každého úkolu na dražší model. U rutinní klasifikace by se jeho vyšší výstupní cena nemusela vrátit.
Dobře může fungovat i rozdělení rolí. Luna vyřídí první třídění ve velkém objemu, nejisté případy předá Solu nebo člověku a až schválený výsledek zapíše automatizace do cílového systému. Takové nastavení snižuje náklady i riziko, že se levná chyba rozšíří do katalogu, účetnictví nebo komunikace se zákazníky.
Bezpečný postup migrace
Nejrozumnější je nezačínat změnou všech promptů a všech produkčních workflow. Vyberte jeden opakovaný proces, u něhož znáte objem, výjimky i cenu lidské práce.
- Uložte reprezentativní vzorek skutečných vstupů, včetně obtížných a chybových případů.
- Spusťte původní model a GPT-6 nad stejným vzorkem, se stejným zadáním a pravidly pro výstup.
- Porovnejte správnost, délku odpovědí, počet výjimek, latenci a celkovou cenu za dokončený případ.
- Nastavte hranici pro předání člověku a jednoduchý způsob, jak chyby zaznamenat.
- Nejdříve přepněte malou část provozu a až podle výsledků rozšiřujte změnu.
U důležitých procesů je vhodné ponechat možnost rychlého návratu na původní model. Potřebujete také vědět, který model vytvořil konkrétní výstup. Bez této informace se špatně hledá příčina chyb i skutečná úspora.
API cena není limit v ChatGPT Work ani Codexu
API je účtované podle tokenů a zvoleného režimu. ChatGPT Work a Codex mají jiný model využití: modely mohou být součástí tarifu, ale reálná dostupnost se řídí sdíleným využitím, kredity, režimem rychlosti a konkrétním účtem. Ceny kreditů navíc samy o sobě neurčují, kolik používání je zahrnuto v předplatném.
Pokud tým používá model ručně v ChatGPT nebo Codexu, neodvozujte kapacitu z API tabulky. Ověřte ji v přehledu využití daného účtu. Pokud běží automatizace přes vlastní API klíč, platí API ceník, nikoli kvóty uživatelského rozhraní.
Pro firmy, které potřebují zpracování dat v EU, je důležité i nastavení provozu. OpenAI u těchto modelů uvádí evropskou datovou rezidenci pro standardní zpracování; za regionální zpracování se připočítává 10 %. Konkrétní požadavky na osobní údaje, smlouvy a interní pravidla je vhodné projít s odpovědnou osobou a odborníkem.
Co si odnést
GPT-6 Sol a Luna otevírají prostor pro levnější provoz, zejména u velkého množství podobných úloh a opakovaného kontextu. Přínos ale není automatický. Největší smysl má změřit jeden konkrétní workflow, rozhodovat podle ceny správně dokončeného případu a zachovat lidskou kontrolu tam, kde by chyba měla obchodní nebo reputační dopad.
Jak může pomoci Kodo
Kodo pomáhá firmám vybrat vhodné AI workflow, popsat proces před automatizací a připravit test, ve kterém lze srovnat náklady, kvalitu výstupů i lidskou kontrolu. Umíme také navrhnout přepínání modelů podle typu úlohy, připravit prompty a navázat automatizaci na obsahové, obchodní nebo zákaznické procesy.
U právních, bezpečnostních a ochrany osobních údajů je potřeba postup konzultovat s odpovědnými odborníky podle konkrétního použití.
Související články
- GPT-5.6 Sol, Terra a Luna: který model vybrat a kolik stojí
- Jak ušetřit na AI modelech: automatizace, přepínání a lokální kontrola
- Jak automatizovat přípravu cenových nabídek bez ztráty kontroly
Zdroje
- OpenAI API — GPT-6 Sol
- OpenAI API — GPT-6 Luna
- OpenAI API — ceník
- ChatGPT Work a Codex — ceny a využití
Článek má informativní charakter. Ceny, dostupnost modelů a limity ověřte před nasazením v aktuální dokumentaci a ve svém účtu. Požadavky na ochranu dat, smluvní podmínky a regulaci vždy posuzujte podle konkrétního použití.
