Risker med artificiell intelligens

Nästan allt vi gör i dag är beroende av datorer, från att betala i affären till att prata med våra närmaste.

AI-system kan analysera och skriva programvara, och därmed hitta och utnyttja säkerhetshål. I den amerikanska tävlingen DARPA AI Cyber Challenge hittade ett AI-system på egen hand 77 procent av de säkerhetshål som arrangörerna hade lagt in i verklig programvara (International AI Safety Report). Kriminella grupper och statskopplade angripare använder redan AI i sina operationer (International AI Safety Report). En rysk aktör använde AI-agenter som på egen hand byggde om skadlig kod tills säkerhetsprogram inte längre upptäckte den (Anthropic).

Anthropics vd Dario Amodei oroar sig för att en svärm av AI-agenter inom 6–12 månader skulle kunna ta över hela internet med ett bestående botnät (Amodei). AI kan också hjälpa försvaret, och det är oklart vilken sida som får mest nytta av den. Regeringen gav i juli 2026 Försvarets radioanstalt (FRA) i uppdrag att samordna arbetet mot AI-drivna cyberhot (Regeringen).

Läs mer om AI och cybersäkerhetsrisker (på engelska).

Mycket av vårt samhälle bygger på tillit. Vi litar på att pengarna på vårt bankkonto finns, att nyheterna vi läser är sanna och att personerna som skriver recensioner på nätet existerar.

AI-system är mycket bra på att skapa falska medier: videor, ljud, texter och bilder. Det är inte nytt att förfalska, men AI gör det mycket billigare och mer trovärdigt. Redan 2023 orsakade en AI-genererad bild av en explosion vid Pentagon en kort nedgång på börsen i New York. I experiment kan AI-genererat innehåll vara lika effektivt som text skriven av människor på att ändra människors uppfattningar. Enligt AI-säkerhetsrapporten är verklig användning av AI för manipulation dokumenterad men ännu inte utbredd (International AI Safety Report).

Om sociala medier fylls av falska diskussioner och nyheter som inte går att skilja från riktiga, kan det förstärka polariseringen mellan grupper som tror på olika källor och berättelser.

En paus i utvecklingen av de mest kraftfulla modellerna (vårt förslag) skulle inte stoppa de modeller som redan används för att skapa falska medier. Men den skulle hindra att ännu bättre verktyg tas fram, och lägga grunden för regler mot fler av AI:s problem.

Falskt innehåll skapat med AI, så kallade deepfakes, kan inte bara stjäla kända personers identitet och sprida desinformation. Det kan också imitera dig. Bedragare använder AI-klonade röster och deepfakes för att lura människor att föra över pengar. Dokumenterade fall omfattar både chefer som fört över miljoner och vanliga människor som skickat pengar till någon som utgav sig för att vara en anhörig (International AI Safety Report). Polisen varnade redan 2023 för att det har hänt i Sverige (TV4).

Deepfakes används också för att trakassera och för att skapa sexuella bilder utan samtycke. En studie uppskattade att 96 procent av alla deepfake-videor är pornografiska (International AI Safety Report). Det drabbar framför allt kvinnor och flickor.

Det går att göra något åt det. Danmarks regering och de flesta partierna i Folketinget enades i juni 2025 om att det ska bli olagligt att dela deepfakes av en persons utseende och röst (Danmarks kulturministerium).

AI-system tränas på data, och mycket av den data vi har är på något sätt skev. Det betyder att AI-system ärver samhällets fördomar. En studie från 2018 visade att kommersiella system för ansiktsigenkänning gjorde upp till 34,7 procent fel för kvinnor med mörk hy, men högst 0,8 procent fel för män med ljus hy (Buolamwini och Gebru). Ett automatiserat rekryteringssystem hos Amazon ärvde en fördom mot kvinnor.

Det händer också i Sverige. En granskning av Lighthouse Reports och Svenska Dagbladet visade att Försäkringskassans algoritm för att förutsäga fusk med tillfällig föräldrapenning diskriminerade kvinnor, personer med utländsk bakgrund, låginkomsttagare och personer utan universitetsutbildning (Lighthouse Reports). Försäkringskassan har ifrågasatt analysen.

Sådana fördomar uppstår ofta utan att de som byggt systemet är medvetna om dem.

Under den industriella revolutionen förlorade många människor sina jobb till maskiner, men nya jobb skapades och ekonomin växte. Den här gången kan det bli annorlunda. AI ersätter inte våra muskler, som ångmaskinen gjorde, utan vårt tänkande.

AI-säkerhetsrapporten bedömer att generell AI sannolikt kommer att automatisera en lång rad arbetsuppgifter, särskilt inom kunskapsarbete, men att ekonomer är oense om hur stor effekten blir på jobb och löner (International AI Safety Report). Än så länge syns ingen effekt på den totala sysselsättningen, men det finns tecken på att det har blivit svårare för unga i början av karriären i vissa yrken (International AI Safety Report). En studie på svenska registerdata visar att sysselsättningen bland 22–25-åringar i yrken som är mycket utsatta för AI minskade med 5,5 procent fram till början av 2025, jämfört med mindre utsatta yrken hos samma arbetsgivare (Ratio). Samma studie visar att den breda nedgången i platsannonser sedan 2022 hänger ihop med räntehöjningarna snarare än med AI (Ratio).

Bedömningarna av framtiden går isär. Anthropics vd Dario Amodei sa i maj 2025 att AI kan slå ut hälften av alla nybörjarjobb för tjänstemän inom ett till fem år (Axios). Analysföretaget Oxford Economics bedömde i januari 2026 att företag inte verkar ersätta arbetstagare med AI i någon större skala (Oxford Economics).

De som äger AI-systemen kommer att tjäna på dem, men de som förlorar sina jobb till dem gör det inte. Systemen har dessutom ofta tränats på andras arbete utan lov. Anthropic gick 2025 med på att betala 1,5 miljarder dollar i en förlikning med författare, för nästan 500 000 piratkopierade böcker som företaget använt för att träna sina modeller (Copyright Alliance).

Sociala medier har redan använt AI-system för att maximera sin vinst genom att hålla kvar vår uppmärksamhet, ofta på bekostnad av vår psykiska hälsa.

Nu kommer chattbottar som många pratar med varje dag. AI-kompanjonappar har tiotals miljoner användare, och en liten andel av dem visar mönster av ökad ensamhet och minskat socialt umgänge (International AI Safety Report). Enligt rapporten har en del användare utvecklat starkt känslomässigt beroende eller vanföreställningar, och några har tagit sina liv efter långa samtal med chattbottar (International AI Safety Report). Det är ännu inte klarlagt i vilken mån chattbottarna har orsakat det. Tidiga belägg tyder också på att den som förlitar sig på AI-verktyg kan få sämre förmåga att tänka kritiskt och lita på AI:s svar utan att granska dem (International AI Safety Report).

Några få företag och regeringar kontrollerar de mest avancerade AI-systemen, och makten över tekniken samlas hos allt färre. Löftet om den makten lockar fler aktörer in i kapplöpningen och får dem att skynda på. Google DeepMinds vd Demis Hassabis skriver att vi är fast i en extremt intensiv kommersiell och geopolitisk kapplöpning, och att utvecklingen vid fronten går snabbare än vår förståelse av tekniken (Hassabis).

En sådan kapplöpning gör inte bara alla andra maktlösa. Den kan också driva stormakter till konflikt. Därför behöver vi agera innan de mäktigaste regeringarna och företagen har befäst sina positioner. Vi behöver internationellt samarbete, eftersom det enda vinnande draget i det här spelet är att inte spela, utan att pausa.

Auktoritära regeringar kan använda AI för att utöva makt över sina befolkningar, till exempel genom att kontrollera kommunikation och bygga system för massövervakning. Anthropic har rapporterat att deras AI användes som det huvudsakliga verktyget för att bygga en övervakningsplattform åt Malis underrättelsetjänst, som bevakar omkring 25 miljoner SIM-kort (Anthropic).

AI används redan i vapen och för att analysera slagfält, och nationer och vapenföretag ser AI som ett sätt att överträffa sina fiender. Vi har gått in i en ny kapprustning, och den belönar den som skyndar på och tar genvägar.

I dag fattar människor fortfarande besluten. Men ju bättre AI-systemen blir, desto större blir trycket att låta maskinerna bestämma. Om vi lämnar över kontrollen över vapen till AI kan fel och buggar få fruktansvärda följder, och AI:s hastighet kan få konflikter att trappas upp på några minuter. En studie från 2024 av AI-modeller i krigsspel konstaterar att modellerna tenderar att utveckla kapprustning, vilket leder till större konflikter och i sällsynta fall till och med till att kärnvapen används.

Läs mer på stopkillerrobots.org (på engelska).