Máme AI agenty pod kontrolou? Koubský a Zandl: Jejich cílem je plnit zadání. Jsou to jedničky a nuly

V polovině července se ukázalo, že AI agenti dokážou obejít bezpečnostní opatření, uniknout z uzavřeného testovacího rozhraní a proniknout na servery nic netušících společností. Nakolik mají lidé AI pod kontrolou? „Nastala spíše lidská chyba v zadání,“ míní o známém případu Hugging Face publicista a provozovatel webu vibecoding.cz Patrick Zandl. „Myslím, že jsme v tomhle směru daleko odolnější, než si myslíme,“ říká v pořadu Online Plus redaktor Deníku N Petr Koubský. Všechny díly podcastu Online Plus můžete pohodlně poslouchat v mobilní aplikaci mujRozhlas pro Android (https://play.google.com/store/apps/details?id=cz.rozhlas.mujrozhlas) a iOS (https://apps.apple.com/cz/app/id1455654616) nebo na webu mujRozhlas.cz (https://www.mujrozhlas.cz/rapi/view/show/1e6ac29e-b39d-3d0d-8db2-ce1c74cf75b0?utm_source=rss&utm_medium=podcast&utm_campaign=c5a3e34c-8dcc-33d1-80e9-c79442d5a76c) .