AI ta Krajta #58 | PixelRAG, AI kyberútoky a proč budoucnost agentů stojí na knowledge base
🔥 Další díl AI ta Krajta! 58. epizoda, ve které řešíme PixelRAG a vizuální vyhledávání, autotuning agentních harnessů, malé lokální coding modely, zákaz Fable 5 a Mythos 5, geopolitiku AI, autonomní kyberútoky a budoucnost firemních knowledge base. Tentokrát natáčíme v netradiční sestavě a vítáme Ondru, nového CTO ve firmě Confirmo. Začínáme debatou o tom, proč je současná AI vlna jiná než předchozí technologické hypy: jazykové modely se šíří mezi obory, firmami i běžnými uživateli rychleji než internet nebo sociální sítě. První velké téma je PixelRAG – přístup, který webové stránky a dokumenty neparsuje primárně jako text, ale indexuje je jako screenshoty. Probíráme zachování layoutu, grafů a vizuálních vztahů, tokenovou efektivitu, reklamu uvnitř vizuálního kontextu i praktické využití screenshotů při debugování a „spatial promptingu“, kdy modelu místo složitého popisu jednoduše nakreslíme, co má udělat. Navazujeme autotuningem agentních harnessů. Nestačí optimalizovat jen prompty, pravidla a skilly – možná bude potřeba automaticky zlepšovat také používání nástrojů, context management, kompakci konverzace a modelově specifické chování celého agenta. Mluvíme o Hermes Agent Self-Evolution, DSPy, GEPA, traceabilitě instrukcí a o Little Coderu, který ukazuje, že vhodně navržený scaffold může výrazně zlepšit i malé lokální modely. Poté se vracíme k dočasnému zákazu Fable 5 a Mythos 5. Je frontier AI běžný globální produkt, nebo strategická technologie podléhající exportním kontrolám? Řešíme závislost Evropy na USA, digitální suverenitu, identifikaci uživatelů, omezení anonymity a problém regulací, které vznikají bez dostatečného technického porozumění. Velký blok věnujeme kyberbezpečnosti. Modely snižují cenu a odbornost potřebnou k útoku, dokážou automatizovat hledání slabin a mohou měnit malware podle konkrétního cíle. Zároveň ale většina útoků stále míří na známá slabá místa: špatná oprávnění, přístupná interní API, nekvalitní ACL nebo lidskou nepozornost. Debatujeme, zda klasické antiviry založené na signaturách nahradí behaviorální obrana, bezpečnostní agenti a izolované sandboxy – a zda se v budoucnu budou na obou stranách bránit a útočit celé populace agentů. V závěru představujeme Onyx, open-source platformu pro firemní AI asistenty a enterprise search. Přes konektory spojuje Slack, Notion, ticketing a další zdroje, vytváří embeddingy a knowledge graphy a umožňuje nad daty stavět chatboty i MCP rozhraní. Otevíráme problémy oprávnění, zastaralých a duplicitních informací, časově citlivých znalostních grafů, distilovaných datasetů, automatické údržby dokumentace a „continuous onboardingu“. Nakonec řešíme, zda budoucnost patří jedné superaplikaci, nebo propojené síti specializovaných systémů s jednotnou znalostní vrstvou. Zdroje k tématům v díle: https://github.com/StarTrail-org/PixelRAG https://github.com/NousResearch/hermes-agent-self-evolution https://arxiv.org/abs/2604.25850 https://github.com/itayinbarr/little-coder https://www.anthropic.com/news/redeploying-fable-5 https://arxiv.org/abs/2606.03811 https://github.com/onyx-dot-app/onyx Děkujeme sponzorům: 🚀 Promptbook: https://ptbk.io 🤖 AI supervize: https://ptbk.io/ai-supervize Sítě, kde nás můžete sledovat: ➡️ LinkedIn: https://www.linkedin.com/company/aitakrajta ➡️ Spotify: https://open.spotify.com/show/31vLTHTV4vlCBeHpnbMKlK?si=1e51d95b9d3f46dd ➡️ Apple Podcasts: https://podcasts.apple.com/cz/podcast/ai-ta-krajta/id1813389353 Kapitoly: 00:00 - Úvod, netradiční sestava a představení Ondry 02:40 - PixelRAG: web a dokumenty jako screenshoty 05:40 - Reklama ve vizuálním RAGu a spatial prompting 08:50 - Autotuning pravidel, skillů a agentního harnessu 10:20 - Tool use, context management a Hermes Self-Evolution 14:00 - Sdílení instrukcí, priority promptů a traceabilita 16:45 - Little Coder a harnessy pro malé lokální modely 18:20 - Zákaz Fable 5 a Mythos 5 jako geopolitické téma 20:00 - Identita uživatelů, anonymita a regulace AI 25:00 - Jak vážná je hrozba AI pro kyberbezpečnost 27:00 - Interní API, GraphQL a nové možnosti útočníků 30:00 - ACL, penetrační testy a bezpečnost backendu 34:00 - Nebezpečné nejsou jen frontier modely 35:00 - AI malware, byznys útoků a proměna antivirů 39:00 - Behaviorální obrana a bezpečnostní agenti 41:00 - Lokální modely, botnety a škodlivé prompty 44:00 - Firemní AI asistence a problém správného kontextu 45:50 - Onyx: open-source enterprise search a knowledge base 49:30 - Primární zdroje versus sémantické vyhledávání 51:00 - GraphRAG, zastaralé informace a distilace dat 55:00 - Automatická údržba knowledge base 57:00 - Continuous onboarding a gamifikace změn 58:20 - Centralizace znalostí, superaplikace a propojené systémy 68:00 - Závěr a poděkování partnerům
