AI support jde obejít? Daniel: lidi se baví tím, že ho rozbijí

Daniel Habrda zmiňuje zajímavý (a trochu děsivý) fenomén: existují lidé, kteří se baví tím, že „rozbíjejí“ AI chat boty. Zkouší je obejít, zmást a donutit je dělat něco úplně jiného, než mají — třeba aby na IT/AI webu místo podpory napsaly recept na palačinky. Pointa je jasná: AI může znít sebejistě, ale když je špatně nastavená, dá se snadno „ukecat“ mimo pravidla. A to je přesně důvod, proč nestačí chat bota jen zapnout — musí mít mantinely, kontrolu a odpovědnost. 🎧 Celý díl najdete v Naučíme AI podcastu. #AI #chatbot #bezpecnost #prompting #NaucimeAI