AI ta Krajta #52 | Bun přechází na Rust, forward-deployed-engineers a proč vyměnit SDK za Markdown

🔥 Další díl AI ta Krajta! 52. epizoda, kde řešíme přepis Bunu do Rustu, armádu inženýrů od OpenAI a to, zda se AI modely a harnessy stávají komoditou.V tomto díle, který uvádí Jirka a Petr, otevíráme novinkami o masivním přepisu JavaScript runtime Bun z jazyka Zig do Rustu. Autor Jared Sumner se k tomuto kroku rozhodl kvůli problémům se segfaulty a pro lepší memory safety. Dále se podíváme na překvapivý tah od OpenAI, kteří spouští „OpenAI deployment company“, což je armáda forward deploy inženýrů pomáhajících firmám s masivní implementací AI řešení, podobně jako to dělal v začátcích Palantir.Druhá půlka epizody se nese ve znamení diskuse o komoditizaci AI a abstrakčních vrstvách. Sdílíme neobvyklý experiment z Promptbooku, kde jsme nahradili tradiční SDK za složku s Markdown soubory a nechali modely doplňovat zprávy s mnohem lepšími výsledky. Následně hluboce rozebíráme, jestli se už i harnessy stávají vzájemně zaměnitelnou komoditou, nebo je v nich stále obrovský rozdíl v závislosti na nástrojích a specializaci. Zkoumáme „safe zónu“ modelů u běžných CRUD aplikací a debatujeme o tom, zda má dnes ještě smysl budovat tenké wrappery, nebo je budoucnost v hluboké integraci napříč specifickou oblastí.Závěr věnujeme budování hodnoty (moatu) v AI a infrastruktuře. Přirovnáváme AI ekosystémy k vývoji cloudu, specificky AWS a Vercelu, a rozebíráme dilema mezi vendor lock-inem v pohodlném ekosystémem a složitějším budováním vlastního řešení na platformách jako DigitalOcean, které lépe sedí na dlouhoběžící procesy (long running tasks). Probíráme také snahy o standardizaci, jako je MCP nebo kompatibilní API, a ptáme se diváků, zda chtějí do příště strukturovanou ukázku rozdílů mezi modelem, harnessem a standardy.Děkujeme sponzorům:

🤖 AI supervize: https://ptbk.io/ai-supervize