Kolega schoval pokyn do e-mailu. Moje AI ho odhalila. #AI #Shorts

Kolega mi při interním testu poslal e-mail se skrytým pokynem, který měl změnit chování mé AI. Můj systém ho v tomhle případě rozpoznal a upozornil mě na něj. Takhle jsme si vyzkoušeli prompt injection: pokus podstrčit AI instrukci v obsahu, který zpracovává. Jeden úspěšný test ale neznamená, že si poradí s každým útokem. Přístupy agentů a schvalování jejich akcí je potřeba promyslet zvlášť. I bezpečnost práce s agenty řeším v přednášce The State of AI 2026. Celý záznam, 142 slidů a přepis získáte zdarma po registraci přes odkaz v profilu. #AI #Shorts #TheStateOfAI