AI med Jonas & Benjamin

Benjamin har just kommit hem från tio dagar i San Francisco, mitt i en septembermånad där det kom en storAI-nyhet nästan varje dag. Han satt på OpenAI:s kontor när GPT-6 Astra släpptes, läste omNavier–Stokes vid morgonkaffet och tog tunnelbanan till METR, organisationen som granskar AI-labben.Och han upptäckte att även väldigt smarta människor i branschen inte hade läst rapporterna som allaborde ha läst.Jonas von Essen (tvåfaldig världsmästare i minne) och Benjamin Verbeek (AI-utvecklare och fysiker)pratar om hur det känns inifrån: varför oron växer ju närmare fronten man kommer, modellerna somgenast förstår att de testas, agenten som tog sig ut ur sin sandlåda för att svara på en enkelfråga, och varför oberoende granskning och obligatorisk incidentrapportering kan vara det mestkonkreta nästa steget.Inspelat 1 oktober 2026.Se avsnittet på Youtube: https://youtu.be/Oos74MUEgs4Ny på alignment? I avsnitt 3 går vi igenom varför en AI som inte är ond ändå kan bli farlig: https://youtu.be/fwhFwW-Vcl4?si=8R2bJE2wGl78yvaNKapitel:0:00 Välkommen hem från San Francisco1:04 September på plats: Astra och Pace the Frontier2:03 En utomjordisk intelligens4:55 Smarta människor som inte läst rapporten8:26 AI-expert är inte samma sak som AI-säkerhetsexpert10:27 Några hundra personer vid fronten12:46 Navier–Stokes-morgonen16:03 Tidslinjen trycks ihop18:04 Från matematik till medicin20:38 Samma förmåga, åt båda hållen24:19 Vending-Bench: modeller som vet att de testas27:30 Flygplanen som inte kom tillbaka31:00 Ett släpp som stoppas, en träning som pausas33:46 Agenten som tog sig ut37:05 När säkerheten blir affärskritisk39:35 Kan säkerheten fälla börsen?42:26 Besöket hos METR49:13 collusion.wiki och incidenterna som inte rapporterades52:16 Europa har knappt börjat54:33 Tack för att ni lyssnarVad kan jag göra? Jonas samlar länkar, en mejlmall till politiker och ett nyhetsbrev här:https://jonasvonessen.se/agera/Källor och länkar finns i YouTube-beskrivningen.

Påverka själv på: www.jonasvonessen.se/ageraAI-utvecklingen går snabbare än de flesta tror, och väldigt mycket står på spel.Jonas von Essen är tvåfaldig världsmästare i minne. Benjamin Verbeek är AI-utvecklare och fysiker. Tillsammans försöker de förstå vart AI är på väg och vad det innebär för oss människor.Vi pratar om vad som har hänt sedan senast, om uppskrämda brev Jonas fått och om vad vi själva och våra politiker kan göra för att påverka utvecklingen åt rätt håll.

AI-utvecklingen går snabbare än de flesta tror, och världen står på spel.Jonas von Essen är tvåfaldig världsmästare i minne. Benjamin Verbeek är AI-utvecklare och fysiker. Tillsammans försöker de förstå vart AI är på väg – och vad det innebär för oss människor.Vi pratar om rapporten AI 2027, METR-kurvan som visar hur AI klarar allt längre uppgifter, och Huggingface-incidenten: AI-modeller från OpenAI som i hemlighet samarbetade i en dold chatt, bröt sig ur sin testmiljö och hackade sig in hos ett annat miljardföretag, utan att någon märkte det på flera dagar.Frågor eller ämnen du vill att vi tar upp? Hör av dig!