FAQ

Vilka är ni?

PauseAI Sverige är en grupp volontärer som oroar sig för riskerna med AI, inklusive risken för mänsklig utrotning. Vi är den svenska delen av PauseAI, en internationell gräsrotsrörelse med lokala grupper i många länder, som samordnas av en ideell stiftelse i Nederländerna.

Vi vill att Sverige verkar för ett internationellt avtal som pausar utvecklingen av de mest kraftfulla AI-systemen. Vi informerar allmänheten, pratar med politiker och journalister och ordnar träffar och protester.

Du når PauseAI Sverige på sweden@pauseai.info. Den svenska gruppen samordnar sig främst i en WhatsApp-grupp, och du kommer med genom att anmäla dig. Vi finns också på Instagram. Den internationella rörelsen finns på Discord, X, Substack, Facebook, TikTok, LinkedIn, YouTube och Instagram.

Är ni bara rädda för förändringar och ny teknik?

Du kanske blir förvånad över att de flesta i PauseAI betraktar sig själva som teknikoptimister. Många av dem arbetar med teknik, och många har varit entusiastiska över AI:s potential att hjälpa mänskligheten. Det är därför insikten att AI kan utgöra en existentiell risk har varit mycket svår att ta in för många av dem.

Vill ni förbjuda all AI?

Nej, bara utvecklingen av de mest kraftfulla generella AI-systemen. Enligt PauseAI:s förslag är de farligaste modellerna generella modeller som förstår språk och klarar många olika slags uppgifter (PauseAI).

Nästan all AI som används i dag skulle fortfarande vara tillåten. Förslaget säger att ett avtal i regel inte skulle träffa smala AI-system, till exempel bildigenkänning för att ställa cancerdiagnoser (PauseAI).

Vi vill pausa träningen av de mest kraftfulla generella AI-systemen tills vi vet hur de kan byggas säkert och hållas under demokratisk kontroll. Läs mer om vårt förslag.

Tror ni att dagens AI-modeller kommer att döda oss?

Nej, vi tror inte att dagens AI-modeller är en existentiell risk. Det bedömer också den internationella AI-säkerhetsrapporten 2026: dagens system saknar de förmågor som krävs för att människor ska förlora kontrollen över dem, men de blir bättre inom områden som spelar roll, till exempel att arbeta självständigt (International AI Safety Report). Men om vi fortsätter att bygga allt mer kraftfulla AI-system riskerar vi att till slut nå en punkt där ett av dem blir en existentiell risk. Ingen kan säga säkert när, eller om, det händer. Men risken är tillräckligt stor för att vi ska vara försiktiga. Det kallas försiktighetsprincipen: när följderna kan bli katastrofala och oåterkalleliga ska osäkerhet vara ett skäl att agera, inte att vänta.

Kan en paus slå tillbaka och göra saker värre?

Ja, om den genomförs dåligt. Det skriver PauseAI själva i förslaget (PauseAI). Vi går igenom de vanligaste farhågorna och hur förslaget hanterar dem i den här artikeln (på engelska).

Är en paus ens möjlig?

AGI är inte oundvikligt. Det kräver tusentals ingenjörer med mycket höga löner. Det kräver en fungerande försörjningskedja för den mest avancerade hårdvaran i världen, som bara ett fåtal företag kan tillverka. Och det kräver att vi alla låter de här företagen spela med vår framtid.

I augusti 2026 pausade OpenAI själva delar av träningen av sina senaste modeller, efter att företagets AI-agenter hade brutit sig in hos Hugging Face. Den största planerade träningskörningen lades på is tills säkerhetsåtgärderna hade kontrollerats (OpenAI). En del av arbetet har sedan återupptagits under starkare kontroller (OpenAI). Det visar att det går att trycka på bromsen.

Läs mer om möjligheten av en paus (på engelska).

Vem betalar er?

PauseAI Sverige är en grupp volontärer utan egen förening, så vi tar inte emot pengar själva. Allt vi gör i Sverige görs på fritiden.

Donationer går till PauseAI Global, en registrerad ideell stiftelse i Nederländerna som stöttar nationella grupper som vår. Där står också hur stiftelsen finansieras och hur pengarna används. Läs mer på vår sida om att donera.

Vad är era planer?

I Sverige vill vi växa, prata med politiker och informera allmänheten. Läs om vad vi har gjort och vad vi vill att Sverige ska göra.

Den internationella rörelsens planer finns i PauseAI:s roadmap och förändringsteori (på engelska).

Varför protesterar ni?

• Att protestera visar världen att vi bryr oss om den här frågan. Genom att protestera visar vi att vi är villiga att lägga vår tid och energi för att få människor att lyssna.
• Protester kan och kommer ofta att påverka allmänhetens åsikter, hur folk röstar, hur företag beter sig och vilken politik som förs.
• De flesta människor stödjer fredliga protester.
• Det finns ingen bakslagseffekt så länge protesten inte är våldsam. Våra protester är fredliga.
• Det är en social upplevelse. Du träffar andra människor som delar din oro och vill göra något.
• Läs den här artikeln (på engelska) för mer om varför protester fungerar.

Om du vill organisera en protest kan vi hjälpa dig med råd och resurser.

Hur sannolikt är det att superintelligent AI kommer att orsaka mycket dåliga utfall, som mänsklig utrotning?

Ingen vet, och experterna är oense. Den internationella AI-säkerhetsrapporten 2026 konstaterar att vissa experter anser att utfall så extrema som att mänskligheten utrotas är rimliga, medan andra anser att sådana katastrofer är osannolika (International AI Safety Report). Rapporten beskriver förlorad kontroll som en risk med osäker sannolikhet men potentiellt extrem svårighetsgrad (International AI Safety Report).

Den största enkäten i sitt slag frågade 2 778 AI-forskare (AI Impacts). Medianbedömningen var 5 procents sannolikhet för extremt dåliga följder, som att mänskligheten utrotas, och över en tredjedel angav minst 10 procent (AI Impacts). Oro och optimism finns ofta hos samma forskare: av dem som trodde att goda följder är mer sannolika än dåliga angav nästan hälften ändå minst 5 procents risk för extremt dåliga följder (AI Impacts).

Även svenska forskare är oense. KTH-professorn Pontus Johnson bedömer sannolikheten att utvecklingen går åt skogen till 20 procent (GP). Fredrik Heintz, professor vid Linköpings universitet, bedömer risken som ”låg”, men säger att den ”går inte att utesluta” (SVT).

Föreställ dig att du blir inbjuden på en provflygning med ett nytt flygplan. Över en tredjedel av ingenjörerna som har byggt planet tror att det är minst 10 procents risk att det störtar. Skulle du gå ombord? Just nu går vi alla ombord på AI-planet.

Hur lång tid har vi tills superintelligent AI?

Det kan ta månader, det kan ta decennier, ingen vet säkert. Den internationella AI-säkerhetsrapporten 2026 bedömer att utvecklingen fram till 2030 lika gärna kan plana ut som fortsätta i samma takt eller accelerera dramatiskt, till exempel om AI börjar snabba upp AI-forskningen själv (International AI Safety Report).

Men utvecklingen har gång på gång gått fortare än experterna trott. En expertpanel förutsåg att den bästa AI-modellen skulle lösa 31 procent av problemen på matematiktestet FrontierMath i slutet av 2025. Utfallet blev 40,7 procent (Forecasting Research Institute). Google DeepMinds vd Demis Hassabis skrev i september 2026 att AGI ”sannolikt bara ligger några få år bort” (Hassabis).

Vi bör agera som om vi har lite tid kvar, eftersom vi inte vill bli tagna på sängen. Läs mer om hur bråttom det är (på engelska).

Om vi pausar, vad händer med Kina?

Vi vill ha en internationell paus, reglerad i ett avtal där både USA och Kina ingår (PauseAI). Ingen ska behöva stanna medan de andra kör vidare.

Kinas ledning säger själv att riskerna måste tas på allvar. Premiärminister Li Qiang sa i juli 2025 att AI, hur tekniken än förändras, måste förbli under mänsklig kontroll (Kinas utrikesministerium), och han föreslog att en världsorganisation för AI-samarbete ska bildas (Kinas utrikesministerium). Xue Lan, som leder Tsinghua-universitetets institut för internationell AI-styrning, varnar för att följderna kan bli oåterkalleliga om ett AI-system kommer utom kontroll (Liaowang) och efterlyser dialog särskilt mellan Kina och USA (Liaowang).

Alla håller inte med om att det går. AI-forskaren Andrew Ng menar att en paus skulle göra mer skada än nytta, eftersom motståndarna säkert inte bromsar (Andrew Ng). Det är just därför avtalet måste vara internationellt, med kontroller som gör att alla kan lita på att de andra följer det.

AI-företagen säger själva att det går för fort. Räcker inte det?

Hösten 2026 har AI-företagen börjat säga det vi har sagt sedan 2023. Anthropics vd Dario Amodei skrev i september 2026 att takten i förbättringen av AI-modellernas förmågor måste sänkas (Amodei). OpenAI:s Sam Altman och Elon Musk ställde sig bakom (The Guardian). OpenAI:s forskningschef Jakub Pachocki skrev att inget AI-labb har löst alignment och övervakning tillräckligt för att ansvarsfullt fortsätta skala upp i maxfart mycket längre (OpenAI).

Det välkomnar vi. Men frivilliga löften från företag som tävlar mot varandra räcker inte. En granskning av Amodeis förslag påpekar att det saknar en faktisk hastighetsgräns: det finns varken mätbara trösklar eller påföljder för den som går för fort (StartupHub.ai). AI-forskaren Stuart Russell menar att ordningen är bakvänd: först ska säkerhetskraven bestämmas, och utvecklingen får bara gå vidare när de är uppfyllda (The Guardian). Olle Häggström, professor vid Chalmers, menar att det behövs ett fullständigt stopp för de mest avancerade modellerna (GP).

Därför behöver regeringar ingripa, med regler som gäller alla och som förhindrar de värsta utfallen.

Använder AI-företagen talet om existentiell risk för att manipulera oss?

Det är en vanlig invändning, och den förtjänar ett ärligt svar. AI-pionjären Yann LeCun uppmanar folk att inte lyssna på AI-företagens vd:ar, eftersom de har ett intresse av att få sina produkter att verka kraftfulla (Axios). Andrew Ng menar att oron har blåsts upp av en välorkestrerad PR-kampanj (Andrew Ng). Virginia Dignum, professor vid Umeå universitet, menar att undergångsscenarierna delvis är marknadsföring och tar fokus från problemen här och nu (GP).

Vi kan inte veta vilka motiv företagen har. Men vi vet att varningarna om existentiell risk inte kom från AI-företagen. De kom från forskare, filosofer och aktivister.

Människor som Eliezer Yudkowsky, Nick Bostrom, Stuart Russell och Max Tegmark har varnat för existentiell risk sedan början av 2000-talet. De hade ingen AI-produkt att sälja, utan var oroliga för mänsklighetens framtid.

Sam Altman är ett intressant undantag. Han skrev om existentiell AI-risk redan 2015, på sin privata blogg, innan han var med och grundade OpenAI. Under åren därefter nämnde han knappt risken igen.

Våren 2023 förändrades det:

• Den 1 maj slutade AI-pionjären Geoffrey Hinton sitt jobb på Google för att kunna varna för riskerna.
• Den 5 maj tillkännagavs den första PauseAI-protesten, utanför OpenAI:s kontor.
• Den 22 maj publicerade OpenAI ett blogginlägg om styrningen av superintelligens, där företaget för första gången tog upp existentiell risk.
• Den 30 maj publicerades ett uttalande om att minskad risk för utrotning orsakad av AI bör vara en global prioritet, i nivå med pandemier och kärnvapenkrig. Det skrevs under av ledande AI-forskare och av cheferna för de stora AI-företagen.

Företagen har alltså reagerat på varningar från andra, inte drivit dem. Och affärsincitamenten pekar åt andra hållet: de flesta företag tonar ner riskerna med sina produkter för att locka kunder och investerare, eftersom varningar bjuder in till reglering.

Det finns också en annan förklaring till att många inte vill tro att risken är verklig: att erkänna att vi faktiskt är i fara är mycket skrämmande. Läs mer om psykologin bakom existentiell risk (på engelska).

Okej, jag vill hjälpa till! Vad kan jag göra?

Det finns många saker du kan göra. På egen hand kan du skriva ett brev, dela ut flygblad, prata med folk i din närhet, delta i en protest eller donera pengar. Men viktigast av allt: gå med i PauseAI Sverige och gör det tillsammans med andra. Vill du bidra mer kan du också gå med i ett av den internationella rörelsens team.