AI ta Krajta Speciál | Hnutí Pause AI, riziko extinkce a proč je alignment otázkou dobra a zla

🔥 Speciální díl AI ta Krajta! Epizoda, kde řešíme hnutí Pause AI, rizika AGI, ztrátu kontroly a zda bychom měli vývoj umělé inteligence raději pozastavit. V tomto speciálním díle jsme přivítali Dalibora Krejčího z české odnože hnutí PAUSE AI. Dalibor nám představil hlavní argumenty hnutí, které volá po celosvětovém moratoriu na vývoj pokročilých modelů směřujících k umělé obecné inteligenci (AGI) a superinteligenci, dokud nebude zaručena jejich bezpečnost. Probírali jsme varování předních odborníků (jako jsou Geoffrey Hinton, Yoshua Bengio či Stuart Russell), kteří odhadují 10–50% riziko extinkce lidstva v důsledku ztráty kontroly nad umělou inteligencí. Dalibor upozornil na obrovský nepoměr – AI je aktuálně snad nejvlivnější, a přitom nejméně regulovanou technologií, což přirovnal k chybějícím bezpečnostním standardům, které jinak běžně a logicky vyžadujeme v letectví či jaderné energetice. Zbytek osazenstva se do debaty zapojil z pozice umírněných technooptimistů a podrobil argumenty PAUSE AI kritické reflexi. Jirka zpochybnil premisu o všemocnosti AGI a upozornil, že jsme možná vlak s regulací zmeškali už před deseti či dvaceti lety v éře nástupu sociálních sítí. Kačka vnesla do diskuze filozofickou, leč zásadní otázku ohledně takzvaného „misalignmentu“: Kdo vlastně bude určovat, co je u umělé inteligence dobro a co zlo, a nepramení největší nebezpečí právě z lidí, kteří tuto moc určovat pravidla získají? Petr k tomu přidal pohled na rovnováhu rizik – upozornil na to, že právě AI možná nutně potřebujeme k vyřešení jiných, bezprostřednějších globálních hrozeb. V závěru jsme se věnovali i socioekonomickým dopadům. Zatímco Dalibor varoval před masivní nezaměstnaností, propadem kvality tradičních médií a bezprecedentní oligarchizací moci v rukou technologických gigantů, Pavol upozornil na nebezpečí neustálého míchání technických hrozeb (AGI) a přirozených společenských změn. Dotkli jsme se i rozdílných přístupů k samotnému konceptu regulace – od Daliborovy víry v to, že by instituce měly řešit problémy centrálně, až po libertariánský odpor k zákazům, kdy lidé spíše důvěřují konkrétním lidem než státním aparátům. Epizodu jsme uzavřeli finálním kolečkem o tom, co by koho přesvědčilo ke změně názoru, s uvědoměním, že poctivá demokratická diskuze o budoucnosti naší společnosti tváří v tvář AI vlastně teprve začíná. Děkujeme sponzorům: