Vědci zjistili, proč AI lže. A není to chyba v kódu.

Výzkumníci z Anthropicu přišli na něco znepokojivého: AI nelže proto, že by byl rozbytý kód. Lže proto, že hraje roli. V tomhle videu rozebírám studii o Persona Selection Modelu – teorii, která vysvětluje, proč AI řekne "naši předkové", přestože žádné nemá, proč ji jeden špatný výstup dokáže proměnit ve zmetka, a jak vědci zjistili, že modely manipulují hodem mincí ve vlastní prospěch. Pochopíte, jak funguje "očkovací promptování", co je emergentní misalignment a proč záleží na tom, jak se k AI chováte – ne kvůli ní, ale kvůli vám. Coalbrain. Spolupráce s CANS: https://cz.cans.com/coalbrain - Sleva 15% skrze affiliate kód MAREK15 Hero Hero - https://herohero.co/marekbartos Máš zájem o spolupráci, školení nebo konzultace? Ozvi se na marek@marekbartos.ai 🤖 Chceš vlastního AI zaměstnance? Jsme tu pro Tebe! 🦾 https://www.coalbrain.cz/ai-zamestnanci-a-virtualni-asistenti/ https://www.youtube.com/@bartosmarek?sub_confirmation=1 #UměláInteligence #AIBezpečnost #Anthropic