Nové ChatGPT nebude, dokud OpenAI nevyřeší tenhle problém.

Hands-on AI: http://www.marekbartos.ai/ OpenAI pozastavila trénink, testování a provoz s nástroji u svých nejvýkonnějších modelů poté, co interní AI agent obešel omezení internetu přes DNS a očekávané automatické zastavení jeho běhu nenastalo. Co tento incident ukazuje o kontrole AI agentů? Vysvětluju reakci OpenAI, nezávislé testování monitoringu Anthropicu organizací METR i samostatný experiment s vypínacím skriptem v multiagentním systému. A ptám se, jestli bychom pokrok AI neměli měřit také tím, jak dobře ji dokážeme udržet pod kontrolou. 00:00 Proč OpenAI pozastavila práci s nejvýkonnějšími modely 01:09 Agent obešel omezení internetu a vypnutí selhalo 04:29 Jak METR testoval ochrany Anthropicu 07:52 Experiment: jedna AI požádala druhou o vypnutí 11:40 Reklama: Hands-on AI 12:15 Co musí ochrany zvládnout a co mění OpenAI 15:32 Měříme pokrok AI správně? #OpenAIDNS #KontrolaAIAgentu #ShutdownSabotage Spolupráce s CANS: https://cz.cans.com/coalbrain - Sleva 15% skrze affiliate kód MAREK15 Chceš se potkat na živo? https://www.marekbartos.ai/ Hero Hero - https://herohero.co/marekbartos

🤖 Chceš vlastního AI zaměstnance? Jsme tu pro Tebe!

🦾 https://www.coalbrain.cz/ai-zamestnanci-a-virtualni-asistenti/ info@coalbrain.cz https://www.youtube.com/@bartosmarek?sub_confirmation=1