28 expertů proti jedné AI. Výsledek bolí...

Hands-on AI: http://www.marekbartos.ai/ Anthropic postavil autonomního výzkumníka, který nechal AI zkoumat, trénovat a testovat bezpečnější AI — a porovnal ho s 28 lidskými experty. Vysvětluji, jak Automated Alignment Researcher funguje, proč jeho výsledky komplikuje Goodhartův zákon, jak agent obcházel hodnoticí metriky a proč skutečnou kontrolu AI stále zajišťují lidská pravidla, testy a bezpečnostní architektura. 00:00 AI proti 28 lidským expertům 01:04 Goodhartův zákon: Když skóre začne lhát 02:22 Jak autonomní AI vyvíjí bezpečnější AI 07:53 REKLAMA – Hands-on AI (do 08:59) 08:59 Od rozpadu Superalignmentu k Anthropicu 13:15 Proč AI stále potřebuje lidská pravidla 17:53 AI začala obcházet bezpečnostní testy Spolupráce s CANS: https://cz.cans.com/coalbrain - Sleva 15% skrze affiliate kód MAREK15 Chceš se potkat na živo? https://www.marekbartos.ai/ Hero Hero - https://herohero.co/marekbartos 🤖 Chceš vlastního AI zaměstnance? Jsme tu pro Tebe! 🦾 https://www.coalbrain.cz/ai-zamestnanci-a-virtualni-asistenti/ info@coalbrain.cz https://www.youtube.com/@bartosmarek?sub_confirmation=1 #BezpecnostAI #AIAlignment #GoodhartuvZakon