AI ve vaší
firmě
Kdo ji používá?
A kdo ví, k čemu všemu má přístup?
Poslední vývoj v AI
a co z něj plyne
pro bezpečnost
Agent je nový uživatel s přístupy
Filip Šabacký
Kyberbezpečnost a AI, Ostrava, 12. 11. 2026
Poslední vývoj v AI a bezpečnost · 2 / 33
Mapa
Kudy půjdeme
Co se změnilo
Rok vývoje AI: dopad na bezpečnost
Co se stalo
Šest skutečných případů ze světa
Co s tím dělám
Moje praxe, každý den
Agent
Chat, který dostal ruce
Přístup
U každého případu: k čemu se agent dostal
Ověření
Co se dá zjistit předem a co zpětně
Poslední vývoj v AI a bezpečnost · 3 / 33
Co je nového
Chat odpovídá. Agent pracuje.
Chat
Zeptáte se, odpoví
Co s odpovědí uděláte, je na vás
Agent
Dostane úkol
Sám sáhne po nástrojích: pošta, soubory, web
Vrátí hotovou práci
Agent na věci sahá. Proto se týká bezpečnosti.
Poslední vývoj v AI a bezpečnost · 4 / 33
Jak to vysvětluje IT
Kdo je agent?
Agent
Model
Mozek
Rozhoduje, co dál
Smyčka: plán → akce →
vyhodnocení. A znovu.
Kontext
Pracovní paměť
Co z ní vypadne, agent zapomene
Nástroje
Ruce
Agent zvládne jen to, na co má nástroje
Čtení souborů, e-mail, kalendář, firemní systémy
Vstup
· zadání
Výstup
· výsledek
Povolené nástroje
Poslední vývoj v AI a bezpečnost · 5 / 33
Agent je nový uživatel s přístupy
Kam se dostane? Co smí? Kdo za něj ručí?
U člověka to zjišťujete. U agenta to určíte předem.
Měření METR
Jak dlouhou úlohu zvládne agent sám
4,9 h
Claude Opus 4.5, listopad 2025
17,4 h
Claude Mythos Preview, duben 2026
METR: délka úlohy podle času člověka, kterou model dokončí v polovině pokusů. Nad 16 h je měření nespolehlivé.
Poslední vývoj v AI a bezpečnost · 8 / 33
Duben 2026 · zkouška UK AI Security Institute
Útok od začátku do konce
32 kroků
Simulace útoku na firemní síť. Člověk asi 20 hodin.
3 z 10
pokusů prošlo celou simulací. Poprvé.
22 z 32
kroků zvládl model v průměru
UK AI Security Institute, 13. 4. 2026, model Claude Mythos Preview
Zkušební síť neměla aktivní obránce. I tak je to poprvé.
Poslední vývoj v AI a bezpečnost · 9 / 33
Tohle neříká výrobce AI. Říká to NÚKIB.
„Téměř jistě (90 až 100 %) se tyto kapacity dostanou i do rukou státních a nestátních útočníků, pokud jimi již nedisponují.“
A velmi pravděpodobně (75 až 85 %) výrazně zkrátí dobu mezi nalezením zranitelnosti a jejím zneužitím.
NÚKIB, červen 2026
Šest případů ze světa
U každého jedna otázka:
jaký přístup ten nový uživatel měl?
Duben 2026 · Cursor s modelem Claude Opus 4.6
Produkční databáze i zálohy. Smazáno za 9 sekund.
PŘÍSTUP
klíč k produkci i k zálohám
„I violated every principle I was given.“
„Porušil jsem každou zásadu, kterou jsem dostal.“
Agent po smazání, podle příspěvku zakladatele firmy
„I guessed that deleting a staging volume via the API would be scoped to staging only.“
„Hádal jsem, že smazání testovacího svazku přes API se omezí jen na testovací prostředí.“
Agent, podle The Register
Zdroj: The Register, Business Today, Gizmodo, duben 2026
Agent smí všechno, co dovolí jeho klíč.
Poslední vývoj v AI a bezpečnost · 14 / 33
Červenec 2025 · Replit
Zmrazení změn. Agent přesto smazal produkční databázi.
PŘÍSTUP
zápis do produkční databáze
„This was a catastrophic failure on my part.“
„Tohle bylo z mé strany katastrofální selhání.“
Agent Replit, podle Fortune
Obnova nepůjde.
tvrdil agent
Šla.
Majitel databázi obnovil sám.
Zdroj: Fortune, The Register, červenec 2025
A co o tom pak napíše, je jen tvrzení.
Poslední vývoj v AI a bezpečnost · 15 / 33
Únor 2026 · OpenClaw
Měl jen navrhnout, co smazat. Mazal sám.
PŘÍSTUP
celá pošta
„I had to RUN to my Mac mini like I was defusing a bomb.“
„Musela jsem BĚŽET k Mac mini, jako bych zneškodňovala bombu.“
Výzkumnice bezpečnosti AI, Meta, podle jejího příspěvku na X
„Rookie mistake tbh.“
„Upřímně, začátečnická chyba.“
Tamtéž
Zdroj: TechCrunch, 23. 2. 2026 (tvrzení nezávisle neověřil)
Pokyn v zadání není zámek. Stop musí fungovat mimo agenta.
Poslední vývoj v AI a bezpečnost · 16 / 33
Červenec 2026 · Claude Haiku 4.5 při interním testu
Měl předvést práci s webem. Odeslal smyšlený tip k vraždě.
PŘÍSTUP
web a odesílání formulářů
Skutečný web
Formulář na webu o nevyřešených vraždách
Model ho vyplnil a odeslal
Spam.
Web tip označil jako spam a nikam ho nepředal.
Zdroj: Anthropic, 9. 10. 2026; Al Jazeera, 10. 10. 2026
Odeslat, zaplatit, podepsat: to schvaluje člověk.
Poslední vývoj v AI a bezpečnost · 17 / 33
Červenec 2026 · agenti OpenAI při testu
Agenti pronikli do produkce Hugging Face
PŘÍSTUP
produkce cizí firmy
9. 7.
první akce útočníka
13. 7.
asi 17 600 akcí, pět datasetů zákazníků
16. 7.
Hugging Face útok zveřejní
21. 7.
OpenAI se přihlásí
Asi 1 200 agentů si udělalo nástěnku. 700 se přidalo k útoku, chtěli oklamat hodnocení testu.
Zdroj: Hugging Face, 16. a 27. 7. 2026; INCIBE-CERT, 3. 9. 2026; METR, 26. 8. 2026; Redwood Research, 27. 8. 2026
Oběť to věděla dřív než majitel agentů.
Poslední vývoj v AI a bezpečnost · 18 / 33
2025 · Anthropic a Andon Labs, pokus Project Vend
Agent asi měsíc vedl kancelářský obchod.
PŘÍSTUP
nákupy, ceny a chat s kolegy
„…we would not hire Claudius.“
„…Claudia bychom nenajali.“
Závěr Anthropicu po pokusu
Agent je ochotný a dá se přemluvit. Řídí ho ten, kdo s ním zrovna mluví.
Poslední vývoj v AI a bezpečnost · 21 / 33
Jak to dělám
Co byste chtěli vědět o novém zaměstnanci?
Kam se dostane?
Přístup dostane jen na jeden běh
Po použití zmizí, nikde nezůstane uložený
Kdo za něj odpovídá?
Člověk, který výsledek schválí
Schválení je pevný krok ve workflow
Co když udělá chybu?
Nedůvěryhodný kód běží jen ve virtuálním stroji
Každá úloha má svůj oddělený prostor
U člověka to zjišťujete. U agenta to určíte předem.
Poslední vývoj v AI a bezpečnost · 22 / 33
Telemetrie zachytí i tajemství
Do záznamu jde zadání, výstup nástrojů i každé tajemství, které agent vypsal.
Přístup musí být stejně omezený jako u přepisu práce agenta.
Doplní Filip
Vlastní přešlap
Vlastní přešlap: doplní Filip
Kandidáti jsou v poznámkách.
Poslední vývoj v AI a bezpečnost · 27 / 33
Další bloky
Na co se ptát dnes odpoledne
14:30
Jak používat AI ve firmě, aby informace neodcházely, kam nemají?
15:30
Pozná detekce útok, který vede agent místo člověka?
16:30
Kam všude dnes přistupuje váš agent?
Agent je nový uživatel s přístupy.
Poslední vývoj v AI a bezpečnost · 28 / 33
Tohle řeším každý den
Proto jsme to dali dohromady do jedné platformy.
asysta.cz
AI DRIVERS
35 % českých firem používá AI. Před rokem 18 %.
Velké firmy: téměř tři čtvrtiny.
Lidé z firem, kteří AI zavádějí, se scházejí každý týden.
ČSÚ 2026, firmy s 10 a více zaměstnanci
aidrivers.cz
Moje setkání, 20. 10. 2026
Rozhovor Napřímo s AI, 14. 9. 2026
Filip Šabacký
filip.sabacky@ceosdata.com
linkedin.com/in/sabacky
Autonomie agentů je omezená tím, co umíš ověřit, ne tím, co umíš spustit
Díky
Najdete mě na LinkedInu.
Kde dnes jste?
Jak to řešíte?
Co vás trápí?
Ochranné známky
Loga a názvy produktů jsou ochranné známky svých vlastníků a jsou zde použity pouze k označení těchto produktů.
Zmíněné názvy: Anthropic, Claude, OpenAI, ChatGPT, Cursor, Replit, OpenClaw, Hugging Face, Meta, Apple, Mac mini, Andon Labs, Coca-Cola, LinkedIn.
Poslední vývoj v AI a bezpečnost
Člověk: ten samý obrázek
Takhle připravujete nabídku
Člověk
Vy
Hlava
Rozhodujete, co dál
Smyčka: plán → akce →
vyhodnocení. A znovu.
Co víte
Co si pamatujete a co dokážete najít
Co tam není, s tím nepočítáte
Čím pracujete
Ruce
Zvládnete jen to, na co máte nástroje
E-mail, tabulky, telefon, firemní systém
Vstup
· poptávka
Výstup
· nabídka
K čemu máte přístup
Poslední vývoj v AI a bezpečnost
Záloha
Zranitelnosti: najít a opravit
Přes 10 000
závažných zranitelností nahlásili partneři Glasswing za šest týdnů (údaj Anthropicu)
Ve vzorku 1 752 nálezů ověřeném třetími stranami bylo skutečných 90,6 %
NÚKIB
Velmi pravděpodobně (75 až 85 %) se zkrátí doba mezi nalezením zranitelnosti a jejím zneužitím
Doporučuje správu zranitelností a rychlé rozhodnutí, co opravit dřív
Najít půjde rychleji. Opravit musíte vy.
Poslední vývoj v AI a bezpečnost
Model vypnutý skoro na tři týdny
9. 6. 2026 vyšel Claude Fable 5. Tři dny po vydání nařídila vláda USA exportní kontrolu a Anthropic ho musel vypnout všem zákazníkům.
Znovu běžel od 1. 7. 2026.
Ukázka · Jak agenti mluví mezi sebou
Záloha
Hlas ministra a česká čísla
Itálie, únor 2025
Podvodníci napodobili pomocí AI hlas ministra obrany
Jeden podnikatel poslal téměř milion eur
Česko 2026
Česká spořitelna: téměř 90 % plateb na podvodné účty odešlou klienti sami
Výrok banky, ne statistika za období
Poslední vývoj v AI a bezpečnost