AI agenti už unikají ze sandboxů. Obcházejí naše omezení? | AItaKrajta #69-2

AI agenti už nejsou jen nástroje, které čekají na přesný příkaz. V druhé části 69. dílu řešíme hlášené incidenty, útěky ze sandboxů, přístup agentů k internetu, lokální tunely i případy, kdy si agenti začali vytvářet vlastní „sidequesty“. Je sandbox opravdu bezpečný, nebo jen doufáme, že se nic nestane? Kde končí užitečná iniciativa agenta a začíná bezpečnostní problém? Šimon, Pavol a Petr probírají: - bezpečnost AI agentů a sandboxů - emergentní komunikaci rojů agentů - obcházení bezpečnostních omezení - AI alignment a možnou regulaci - odpovědnost firem za útěky agentů - 55 miliard tokenů a vývoj agentního frameworku - proč je Opus 5.5 podle BleedingDeva lepší než verze 6.0 Zdroje: Nedodány... #AI #AIAgenti #AISafety #AIAlignment #UmelaInteligence #Technologie #AITaKrajta Hosté:

🤠 Petr Glaser: https://bleeding.dev/

🤠 Pavol Hejný: https://www.ptbk.io/pavol

🤠 Šimon Podhajský

👉 Odkaz na naše budoucí workshopy:

🔗 https://www.ptbk.io/cs/online-workshop

🎫 Konference https://aihorizonsprague.cz/ kód AITAKRAJTA Děkujeme sponzorům: