Debata o zastavení nebo alespoň zpomalení vývoje umělé inteligence se vrátila do centra veřejné pozornosti. V září 2026 oznámili američtí zákonodárci Bernie Sanders a Greg Casar návrh, který by dočasně pozastavil vývoj pokročilé AI do vzniku federálních bezpečnostních pravidel a trvale zakázal vývoj nekontrolovatelné superinteligence. O koordinovaném zpomalení současně mluví i někteří vedoucí představitelé velkých AI laboratoří.
Obavy nelze jednoduše odmítnout. Výkonnější modely dokážou pracovat s kódem, používat nástroje, plánovat delší úkoly a pomáhat při hledání zranitelností. Stejné schopnosti lze využít pro výzkum, práci a obranu, ale také pro podvody nebo kybernetické útoky.
Samotná otázka „máme vývoj zastavit?“ je však příliš jednoduchá. Směšuje dohromady vývoj nejvýkonnějších modelů, běžné firemní nasazení, otevřené modely, regulaci rizik a schopnost veřejnosti technologii rozumně používat. Každá z těchto oblastí potřebuje jiné řešení.
Co vlastně znamená zastavit vývoj AI
Úplný zákaz zní srozumitelně, ale v praxi rychle narazí na několik otázek:
- Kterých modelů a schopností se má týkat?
- Kdo určí hranici mezi běžným a nebezpečným systémem?
- Budou stejná pravidla dodržovat všechny státy a soukromé laboratoře?
- Co se stane s modely, které už byly zveřejněny a staženy na tisíce počítačů?
- Zastaví se výzkum, trénování modelů, jejich nasazení, nebo pouze některá použití?
Dočasná pauza u několika největších laboratoří může vytvořit prostor pro testování a bezpečnostní standardy. Není to ale vypínač celé technologie. Vývoj probíhá v mnoha zemích, univerzitách, firmách i otevřených komunitách. Jednostranné omezení navíc může část práce pouze přesunout jinam.
To není argument proti pravidlům. Je to argument pro přesnější pravidla: povinné bezpečnostní testy podle skutečných schopností modelu, řízení přístupů, odpovědnost za nasazení, hlášení incidentů a lidský dohled u rozhodnutí s vysokým dopadem.
Otevřené modely změnily podmínky celé debaty
Často se mluví o „open-source AI“, i když přesnější označení bývá open-weight model: veřejně jsou dostupné jeho váhy, ale nemusí být otevřená trénovací data, celý postup vývoje ani všechny nástroje kolem něj.
Rozdíl mezi otevřenými a uzavřenými modely už přitom není propastný. Podle AI Indexu Stanford HAI vedl v březnu 2026 nejlepší uzavřený model nad nejlepším otevřeným modelem v použitém srovnání o 3,3 procentního bodu. Výsledek jednoho žebříčku samozřejmě neznamená shodné schopnosti ve všech úlohách. Ukazuje ale, že výkonné modely nejsou soustředěné jen v několika uzavřených službách.
Jakmile jsou váhy schopného modelu veřejně dostupné, nelze je jednoduše stáhnout ze všech serverů a počítačů. Model lze dál upravovat, doučovat pro konkrétní obor a provozovat mimo dohled původního autora. To přináší užitek pro výzkum, soukromí a lokální firemní provoz, ale komplikuje vymáhání jednotných bezpečnostních omezení.
Britská vláda proto ve své studii o open-source softwaru a AI upozorňuje, že pravidla vytvořená pro tradiční software nelze bez úprav přenést na váhy modelů, trénovací data a celý řetězec jejich úprav. Otevřenost sama o sobě není ani zárukou bezpečnosti, ani automatickou hrozbou. Rozhoduje způsob vývoje, distribuce, provozu a kontroly.
Politika je nutná, ale nesmí nahrazovat odbornost
Stát nemůže z debaty zmizet. Určuje odpovědnost, chrání veřejné systémy, zadává IT zakázky a stanovuje pravidla pro kritickou infrastrukturu. Problém vzniká ve chvíli, kdy se složité technické téma zredukuje na politický slogan: buď všechno zastavíme, nebo necháme trh bez omezení.
Do diskuse navíc vstupují velké technologické firmy se svými obchodními a geopolitickými zájmy. Některé podporují přísnější dohled, jiné varují před ztrátou konkurenceschopnosti. Ani jedna strana není neutrální. Proto potřebujeme transparentní pravidla, nezávislé testování a zveřejňování střetů zájmů, ne rozhodování pouze podle tiskových konferencí a lobbingu.
Politici a veřejné instituce zároveň nesmějí přenést na umělou inteligenci odpovědnost za dlouhodobě zanedbané systémy, špatné zakázky nebo slabé řízení přístupů. AI může útočníkovi práci urychlit. Nezabezpečenou databázi, sdílené heslo nebo chybějící zálohy ale nevytvořila sama.
Veřejnost potřebuje víc než varování před falešnými fotografiemi
Umělá inteligence se ve veřejné debatě často ukazuje prostřednictvím obrázků, zábavných videí, podvodů a strachu ze ztráty práce. Méně se vysvětluje, že stejná technologie může lidem pomoci porozumět úřednímu dokumentu, připravit otázky na odbornou konzultaci, procvičit cizí jazyk, porovnat nabídky, zpracovat vlastní poznámky nebo se rychleji zorientovat v novém tématu.
To neznamená bezvýhradně věřit každé odpovědi. AI gramotnost musí zahrnovat také ověřování zdrojů, ochranu osobních údajů, rozpoznání nejistoty a schopnost určit, kdy má rozhodnout odborník nebo člověk s odpovědností.
Evropská data ukazují, že přístup a schopnosti nejsou rozdělené rovnoměrně. Podle Eurostatu použila v roce 2025 generativní AI přibližně třetina lidí ve věku 16 až 74 let v EU. Mezi lidmi ve věku 16 až 24 let ji použilo 64 %, zatímco ve skupině 65 až 74 let jen 7 %. Rozdíl není pouze technologický. Může se proměnit v rozdíl ve vzdělávání, práci, přístupu ke službám a schopnosti hájit vlastní zájmy.
Také evropský AI Act počítá s AI gramotností. Poskytovatelé a organizace, které AI nasazují, mají podporovat odpovídající znalosti zaměstnanců a dalších lidí pracujících s těmito systémy. Samotná povinnost ale nestačí. Jednorázové školení o tom, kam nepsat osobní údaje, z nikoho neudělá schopného uživatele.
Jižní Korea ukazuje praktičtější směr
Jižní Korea v červenci 2026 oznámila projekt AI for All. Jeho cílem je nabídnout veřejnosti všeobecný AI chatbot a veřejného AI agenta zdarma a bez limitu používání. Beta byla naplánována na konec září 2026 a plné spuštění do konce roku. Nejde tedy zatím o hotovou službu dostupnou celé zemi, ale o konkrétní státní projekt s rozpočtem, infrastrukturou a termínem.
Důležitý není jen bezplatný přístup. Korejský plán počítá s agentem, který má lidem pomáhat vyhledávat veřejné podpory a později také vyřizovat žádosti. Ministerstvo současně rozšiřuje vzdělávání seniorů a dalších skupin, kterým hrozí, že v používání AI zůstanou pozadu.
Takový přístup dává větší smysl než představovat AI pouze jako hrozbu nebo hračku. Dostupný nástroj musí doprovázet praktické vzdělávání: jak řešit každodenní situace, jak pracovat, jak se učit a jak výsledek kontrolovat.
Nejbližší vážná hrozba je kybernetická
Britský AI Security Institute uvádí, že pokročilé modely jsou stále schopnější v hledání zranitelností, průzkumu systémů a tvorbě nástrojů nebo škodlivého kódu. Varuje před možností rychlejších a sofistikovanějších útoků, včetně útoků na kritickou infrastrukturu a škálování výdělečné kyberkriminality.
ENISA už ve své zprávě o hrozbách popsala zneužívání generativní AI, falešné weby napodobující známé AI služby, škodlivé balíčky i nové útoky na dodavatelský řetězec AI nástrojů. Současně upozorňuje, že samotné firemní AI systémy vytvářejí další prostor, který musí organizace zabezpečit.
Není nutné tvrdit, že každý člověk s otevřeným modelem dokáže napadnout elektrárnu. Taková zkratka by byla stejně nepřesná jako tvrzení, že AI žádné nové riziko nepřináší. Vývoj směřuje k tomu, že nástroje zvládnou větší část útoku rychleji a s menší ruční prací. Obrana proto nemůže začít až ve chvíli, kdy vznikne první velký incident.
Co má smysl dělat místo čekání na zákaz
Stát by měl chránit vlastní digitální infrastrukturu stejně vážně jako fyzickou infrastrukturu. Potřebuje znát své systémy, jejich dodavatele, přístupy a kritická místa. Musí financovat průběžné testování, bezpečnostní týmy, zálohování, obnovu po incidentu a cvičení reálných scénářů. Kybernetická obrana není nákup jednoho produktu ani jednorázový audit.
Firmy mají začít u základů:
- oddělit běžné uživatelské účty od administrátorských;
- omezit oprávnění AI agentů a automatizací na nezbytné minimum;
- chránit identity vícefaktorovým ověřením;
- evidovat, kam mohou AI nástroje zapisovat a jaká data čtou;
- pravidelně testovat obnovu ze záloh;
- sledovat práci nástrojů a připravit možnost jejich okamžitého zastavení;
- školit zaměstnance na skutečných pracovních situacích, ne jen pomocí obecné prezentace.
Veřejnost potřebuje dostupné kurzy a praktické návody. Ne pouze výčet rizik, ale možnost naučit se s AI hledat informace, ověřovat odpovědi, chránit soukromí a používat ji při práci i vzdělávání.
Názor Kodo: vývoj už nezastavíme, ale můžeme se připravit
Podle nás je pozdě vést debatu, jako by někde existoval jeden vypínač, kterým lze vývoj umělé inteligence zastavit. I kdyby se několik největších firem dohodlo na pauze, schopné otevřené modely už existují, lze je provozovat lokálně a dále upravovat. Vývoj pokračuje v různých zemích a pod různými pravidly.
To neznamená rezignovat na bezpečnost. Znamená to přestat zaměňovat bezpečnost za politické gesto. Zapojení politiky je nezbytné při stanovení odpovědnosti a ochraně veřejnosti. Je ale nebezpečné, když rozhodování ovládnou hesla, krátkodobé zájmy nebo firmy, které si současně píší pravidla pro vlastní trh.
Za zbytečné považujeme soustředit většinu energie jen na spor, zda AI zastavit. Mnohem důležitější je intenzivně vzdělávat veřejnost a ukázat lidem, že umělá inteligence není jen výrobník obrázků a zábavných videí. Je to pracovní a vzdělávací nástroj, který může pomoci lidem orientovat se v každodenním životě a prohlubovat znalosti — pokud se naučí kontrolovat jeho výstupy.
Za jeden z nejlepších současných kroků považujeme jihokorejský plán zpřístupnit AI bezplatně široké veřejnosti a propojit přístup s praktickou pomocí a vzděláváním. Nestačí lidem dát chatbot zdarma. Je potřeba je učit, jak jej využít k práci, studiu, rozhodování a komunikaci s veřejnými službami, ne pouze k tvorbě dalšího zábavného obsahu.
Největší naléhavost vidíme v kybernetické bezpečnosti. AI nesmí sloužit jako výmluva pro roky zanedbané veřejné systémy a špatně řízené dodavatele. Útočníci už nové nástroje používají a otevřené modely budou dál dostupnější. Vedle ostatních forem bezpečnosti proto musí státy i firmy výrazně posílit ochranu vlastních systémů.
Na úplné zastavení vývoje může být pozdě. Na lepší vzdělávání, odpovědnost a kybernetickou obranu ale pozdě není. Teď je potřeba dělat konkrétní kroky, ne zůstávat u prázdných slov.
Související články
- Anthropic popsalo útoky s AI napříč celým řetězcem
- OpenAI Agents API: co zjednoduší a co za vás nevyřeší
- Ollama v ChatGPT Desktop: co může změnit lokální AI ve firmách
- EU AI Act: označování AI obsahu pro firmy a e-shopy
Zdroje
- Bernie Sanders: návrh na zákaz superinteligence a dočasnou pauzu pokročilého vývoje AI
- AP: postoje technologických firem ke koordinovanému zpomalení AI
- Stanford HAI: AI Index Report 2026 – technické schopnosti modelů
- Jižní Korea: projekt AI for All
- Evropská komise: AI gramotnost, dovednosti a povinnosti podle AI Actu
- Eurostat: používání generativní AI jednotlivci v EU
- UK AI Security Institute: výzkumný program pro zneužití AI v kybernetických útocích
- ENISA Threat Landscape 2025
- Britská vláda: kybernetická rizika open-source softwaru a AI
Článek rozlišuje mezi ověřenými informacemi ze zdrojů a názorovou částí Kodo. Technické schopnosti modelů i legislativní návrhy se rychle mění; stav ověřen k 18. září 2026.
