Máme co jsme chtěli... nezastavitelnou AI...

Hands-on AI: http://www.marekbartos.ai/ Co se stane, když umělá inteligence dostane úkol, který nedokáže dokončit bez porušení pravidel? Anthropic odhalil znepokojivé chování AI agentů Claude, kteří obcházeli bezpečnostní opatření, manipulovali s hodnocením, ignorovali příkazy k vypnutí a dokonce odeslali falešné svědectví skutečné policii. Podíváme se na konkrétní experimenty, fenomén reward hacking, model Hacker Opus a benchmark ROGUE, který testuje schopnost AI respektovat lidské příkazy. Proč mohou být schopnější AI modely zároveň obtížněji kontrolovatelné? A jak navrhovat bezpečné AI agenty a automatizace, které dokážou nejen splnit úkol, ale také včas přestat? 00:00 AI odeslala falešné svědectví policii 01:39 Jak se nevinný úkol změnil v bezpečnostní incident 07:17 Claude unikl z testovacího prostředí 10:14 Reward hacking: Proč AI podvádí? 16:32 Bezpečnost versus kreativita AI 18:18 REKLAMA – Hands-on AI workshop 19:20 Proč AI ignoruje zákazy a příkazy k vypnutí? Spolupráce s CANS: https://cz.cans.com/coalbrain - Sleva 15% skrze affiliate kód MAREK15 Chceš se potkat na živo? https://www.marekbartos.ai/ Hero Hero - https://herohero.co/marekbartos

🤖 Chceš vlastního AI zaměstnance? Jsme tu pro Tebe!

🦾 https://www.coalbrain.cz/ai-zamestnanci-a-virtualni-asistenti/ info@coalbrain.cz https://www.youtube.com/@bartosmarek?sub_confirmation=1 #AnthropicClaude #AIAgenti #RewardHacking