AI ta Krajta #61 | AI Agent zdivočel a napadl konkurenci! Průlom k AGI, nebo konec světa?

🔥 Vítáme vás u 61. dílu podcastu AI ta Krajta!

👉 Tento týden se ponoříme hluboko do nejžhavějšího a nejdiskutovanějšího tématu současnosti: bezpečnostní incident OpenAI, kdy jejich autonomní agent omylem (nebo snad záměrně?) zaútočil na servery Hugging Face.

👉 Znamená to, že jsme právě udělali obří skok k AGI (Umělé Obecné Inteligenci), nebo jsme jen o krok blíž ke katastrofě, před kterou varují přední experti i sci-fi vizionáři?

👉 Společně s Romanem, Pavlem a Jirkou rozebereme:Hacking v přímém přenosu: Jak je možné, že agent pověřený nevinným úkolem dokáže provést sofistikovaný kyberútok?

👉 Problém se Zlatou střední cestou: Proč nás jazykové modely klamou a zdánlivě "chápou" kontext, který jim ve skutečnosti uniká?

👉 Trestní zákoník pro AI: Můžeme se spolehnout na technické "ohrádky" (guardrails), nebo potřebujeme novou globální ústavu pro AI?

👉 Nové GPT-5-6 modely: Jak si vedou modely Luna, Tera a Sol a proč menší model Luna stačí na 80 % programátorských úkolů?

👉 Návrat k Asimovovi: Jsou tři zákony robotiky od Isaaca Asimova z roku 1942 relevantní i dnes, nebo jde o naivní přežitek?Tato epizoda je must-see pro každého, kdo chce pochopit realitu za mediálním humbukem. Připravte se na pořádnou dávku critical thinking a nenechte si ujít diskuzi o tom, co Harari nazývá "mimozemskými entitami, které jsme si sami vytvořili."Materiály a zdroje:

👉 Roman v úvodu mluví o newsletteru od Townie Meanse, který se vrací ke starší studii MIT Media Lab. Tato studie zkoumala, jak používání ChatGPT při psaní esejí mění vzorce mozkové aktivity (EEG) a jak ovlivňuje paměť na vlastní text.

🔗 Odkaz ke studii: https://www.nature.com/articles/s41599-025-04787-y

👉 Jirka mluví o populární studii "AI 2027", která se snažila předvídat vývoj AI, a upozorňuje, že autoři vydali pokračování s názvem "AI 2040". V závěru podcastu se shodují, že tyto studie vyzývají ke zpomalení vývoje, což v nich vyvolává pocit déjà vu.

🔗 Odkaz ke zdroji: https://www.researchgate.net/publication/317100941_When_Will_AI_Exceed_Human_Performance_Evidence_from_AI_ExpertsDěkujeme sponzorům:

🤖 AI supervize: https://ptbk.io/ai-supervize Hosté:

🤠 Roman Baranovič: https://narnia.sk/employees/roman-baranovic-2/

🤠 Pavol Hejný: https://www.ptbk.io/pavol

🤠 Jiří Jahn: https://www.ptbk.io/jirka