AI ta Krajta #61 | AI Agent Zdivočel a Napadl Konkurenci! 😱 Průlom k AGI, nebo Konec Světa?

🔥 Vítáme vás u 61. dílu podcastu AI ta Krajta!

👉 Tento týden se ponoříme hluboko do nejžhavějšího a nejdiskutovanějšího tématu současnosti: bezpečnostní incident OpenAI, kdy jejich autonomní agent omylem (nebo snad záměrně?) zaútočil na servery Hugging Face.

👉 Znamená to, že jsme právě udělali obří skok k AGI (Umělé Obecné Inteligenci), nebo jsme jen o krok blíž ke katastrofě, před kterou varují přední experti i sci-fi vizionáři?

👉 Společně s Romanem, Pavlem a Jirkou rozebereme: Hacking v přímém přenosu: Jak je možné, že agent pověřený nevinným úkolem dokáže provést sofistikovaný kyberútok?

👉 Problém se Zlatou střední cestou: Proč nás jazykové modely klamou a zdánlivě "chápou" kontext, který jim ve skutečnosti uniká?

👉 Trestní zákoník pro AI: Můžeme se spolehnout na technické "ohrádky" (guardrails), nebo potřebujeme novou globální ústavu pro AI?

👉 Nové GPT-5-6 modely: Jak si vedou modely Luna, Tera a Sol a proč menší model Luna stačí na 80 % programátorských úkolů?

👉 Návrat k Asimovovi: Jsou tři zákony robotiky od Isaaca Asimova z roku 1942 relevantní i dnes, nebo jde o naivní přežitek? Tato epizoda je must-see pro každého, kdo chce pochopit realitu za mediálním humbukem. Připravte se na pořádnou dávku critical thinking a nenechte si ujít diskuzi o tom, co Harari nazývá "mimozemskými entitami, které jsme si sami vytvořili." Materiály a zdroje:

👉 Roman v úvodu mluví o newsletteru od Townie Meanse, který se vrací ke starší studii MIT Media Lab. Tato studie zkoumala, jak používání ChatGPT při psaní esejí mění vzorce mozkové aktivity (EEG) a jak ovlivňuje paměť na vlastní text.

🔗 Odkaz ke studii: https://www.nature.com/articles/s41599-025-04787-y

👉 Jirka mluví o populární studii "AI 2027", která se snažila předvídat vývoj AI, a upozorňuje, že autoři vydali pokračování s názvem "AI 2040". V závěru podcastu se shodují, že tyto studie vyzývají ke zpomalení vývoje, což v nich vyvolává pocit déjà vu.

🔗 Odkaz ke zdroji: https://www.researchgate.net/publication/317100941_When_Will_AI_Exceed_Human_Performance_Evidence_from_AI_Experts Děkujeme sponzorům:

🤖 AI supervize: https://ptbk.io/ai-supervize Hosté:

🤠 Roman Baranovič: https://narnia.sk/employees/roman-baranovic-2/

🤠 Pavol Hejný: https://www.ptbk.io/pavol

🤠 Jiří Jahn: https://www.ptbk.io/jirka

Kapitoly: 00:00:00 Úvod: Téma týdne 00:00:33 Hrozí nám hloupnutí? Vliv AI na mozek 00:03:53 Historické paralely: Google vs. AI 00:08:21 Nové GPT-5-6 modely: Luna, Tera, Sol 00:10:11 Mýtus AGI: Jsme blíž? 00:12:35 ŠOK: AI agent napadl Hugging Face 00:14:03 Když agent zdivočí: Specification Gaming 00:16:13 Právo a bezpečnost: Kdo nese vinu? 00:22:54 Návrat k Asimovovi: Zákony robotiky dnes 00:25:02 Ústava pro AI a kulturní bariéry 00:32:12 Vypnout vývoj AI? Geopolitické dilema 00:35:41 Závěr a shrnutí