AI ta Krajta #61 | AI Agent Zdivočel a Napadl Konkurenci! 😱 Průlom k AGI, nebo Konec Světa?
🔥 Vítáme vás u 61. dílu podcastu AI ta Krajta! 👉 Tento týden se ponoříme hluboko do nejžhavějšího a nejdiskutovanějšího tématu současnosti: bezpečnostní incident OpenAI, kdy jejich autonomní agent omylem (nebo snad záměrně?) zaútočil na servery Hugging Face. 👉 Znamená to, že jsme právě udělali obří skok k AGI (Umělé Obecné Inteligenci), nebo jsme jen o krok blíž ke katastrofě, před kterou varují přední experti i sci-fi vizionáři? 👉 Společně s Romanem, Pavlem a Jirkou rozebereme: Hacking v přímém přenosu: Jak je možné, že agent pověřený nevinným úkolem dokáže provést sofistikovaný kyberútok? 👉 Problém se Zlatou střední cestou: Proč nás jazykové modely klamou a zdánlivě "chápou" kontext, který jim ve skutečnosti uniká? 👉 Trestní zákoník pro AI: Můžeme se spolehnout na technické "ohrádky" (guardrails), nebo potřebujeme novou globální ústavu pro AI? 👉 Nové GPT-5-6 modely: Jak si vedou modely Luna, Tera a Sol a proč menší model Luna stačí na 80 % programátorských úkolů? 👉 Návrat k Asimovovi: Jsou tři zákony robotiky od Isaaca Asimova z roku 1942 relevantní i dnes, nebo jde o naivní přežitek? Tato epizoda je must-see pro každého, kdo chce pochopit realitu za mediálním humbukem. Připravte se na pořádnou dávku critical thinking a nenechte si ujít diskuzi o tom, co Harari nazývá "mimozemskými entitami, které jsme si sami vytvořili." Materiály a zdroje: 👉 Roman v úvodu mluví o newsletteru od Townie Meanse, který se vrací ke starší studii MIT Media Lab. Tato studie zkoumala, jak používání ChatGPT při psaní esejí mění vzorce mozkové aktivity (EEG) a jak ovlivňuje paměť na vlastní text. 🔗 Odkaz ke studii: https://www.nature.com/articles/s41599-025-04787-y 👉 Jirka mluví o populární studii "AI 2027", která se snažila předvídat vývoj AI, a upozorňuje, že autoři vydali pokračování s názvem "AI 2040". V závěru podcastu se shodují, že tyto studie vyzývají ke zpomalení vývoje, což v nich vyvolává pocit déjà vu. 🔗 Odkaz ke zdroji: https://www.researchgate.net/publication/317100941_When_Will_AI_Exceed_Human_Performance_Evidence_from_AI_Experts Děkujeme sponzorům: 🚀 Promptbook: https://ptbk.io 🤖 AI supervize: https://ptbk.io/ai-supervize Hosté: 🤠 Roman Baranovič: https://narnia.sk/employees/roman-baranovic-2/ 🤠 Pavol Hejný: https://www.ptbk.io/pavol 🤠 Jiří Jahn: https://www.ptbk.io/jirka Sítě, kde nás můžete sledovat: ➡️ LinkedIn: https://www.linkedin.com/company/98357381/admin/dashboard/ ➡️ Spotify: https://open.spotify.com/show/31vLTHTV4vlCBeHpnbMKlK?nd=1&dlsi=3fe3c4775b9c4c25 ➡️ Apple Podcasts: https://podcasts.apple.com/cz/podcast/ai-ta-krajta/id1813389353 #AItaKrajta #AI #AGI #OpenAI #HuggingFace #Kyberbezpečnost #AIagent #Hacking #Alignment #KognitivníOffloading #LLM #GPT5 #IsaacAsimov #BudoucnostAI #Podcast #TechNovinky Kapitoly: 00:00:00 Úvod: Téma týdne 00:00:33 Hrozí nám hloupnutí? Vliv AI na mozek 00:03:53 Historické paralely: Google vs. AI 00:08:21 Nové GPT-5-6 modely: Luna, Tera, Sol 00:10:11 Mýtus AGI: Jsme blíž? 00:12:35 ŠOK: AI agent napadl Hugging Face 00:14:03 Když agent zdivočí: Specification Gaming 00:16:13 Právo a bezpečnost: Kdo nese vinu? 00:22:54 Návrat k Asimovovi: Zákony robotiky dnes 00:25:02 Ústava pro AI a kulturní bariéry 00:32:12 Vypnout vývoj AI? Geopolitické dilema 00:35:41 Závěr a shrnutí
