(Top)

FAQ

Innehåll

Vem är ni?

Vi är en gemenskap av volontärer och lokala gemenskaper koordinerade av en ideell organisation som syftar till att mildra riskerna med AI (inklusive risken för mänsklig utrotning ). Vi strävar efter att övertyga våra regeringar att ingripa och pausa utvecklingen av övermänsklig AI . Vi gör detta genom att informera allmänheten, prata med beslutsfattare och organisera protester.

Du kan hitta oss på Discord

(det är här de flesta av våra samordningar sker!), Twitter
, Substack
, Facebook
, TikTok
, LinkedIn
, YouTube
och Instagram
. Du kan maila/kontakta oss på joep@pauseai.info
.

Är ni bara rädda för förändringar och ny teknik?

Du kanske blir förvånad över att de flesta i PauseAI betraktar sig själva som teknologiska optimister. Många av dem är involverade i AI-utveckling, är gadgetälskare och har mestadels varit mycket entusiastiska över framtiden. Särskilt många av dem har varit entusiastiska över AI:s potential att hjälpa mänskligheten. Det är därför som den sorgliga insikten för många av dem att AI kan utgöra en existentiell risk var mycket svår att internalisera .

Vill ni förbjuda all AI?

Nej, bara utvecklingen av de största generella AI-systemen, ofta kallade “Frontier-modeller”. Nästan all befintlig AI skulle vara laglig enligt vårt förslag , och de flesta framtida AI-modeller kommer också att vara lagliga. Vi kräver ett förbud mot AI-system som är kraftfullare än GPT-4, tills vi vet hur man bygger bevisligen säker AI, och vi har dem under demokratisk kontroll.

Tror ni att GPT-4 kommer att döda oss?

Nej, vi tror inte att nuvarande AI-modeller är en existentiell risk. Det verkar troligt att de flesta nästa AI-modeller inte heller kommer att vara det. Men om vi fortsätter att bygga allt mer kraftfulla AI-system, kommer vi till slut att nå en punkt där en av dem blir en existentiell risk .

Kan en paus slå tillbaka och göra saker värre?

Vi har adresserat dessa farhågor i denna artikel .

Är en paus ens möjlig?

AGI är inte oundvikligt. Det kräver horder av ingenjörer med miljonlöner. Det kräver en fullt fungerande och obegränsad försörjningskedja av den mest komplexa hårdvaran. Det kräver att vi alla tillåter dessa företag att spela med vår framtid.

Läs mer om möjligheten av en paus .

Vem betalar er?

Praktiskt taget alla våra åtgärder hittills har gjorts av volontärer. Men sedan februari 2024 är PauseAI en registrerad ideell stiftelse , och vi har fått flera donationer från enskilda individer. Vi har också fått 20k finansiering från LightSpeed-nätverket.

Du kan också donera till PauseAI om du stöder vår sak! Vi använder det mesta av pengarna för att möjliggöra för lokala gemenskaper att organisera evenemang.

Vad är era planer?

Fokusera på att växa rörelsen , organisera protester, lobbyverksamhet hos politiker och informera allmänheten.

Kolla in vår roadmap för en detaljerad översikt över våra planer och vad vi kan göra med mer finansiering.

Hur tror ni att ni kan övertyga regeringar att pausa AI?

Kolla in vår förändringsteori för en detaljerad översikt av vår strategi.

Varför protesterar ni?

  • Att protestera visar världen att vi bryr oss om denna fråga. Genom att protestera visar vi att vi är villiga att lägga vår tid och energi för att få människor att lyssna.
  • Protester kan och kommer ofta att positivt påverka
    allmän opinion, röstbeteende, företagsbeteende och policy.
  • Överlägset de flesta människor stödjer
    fredliga/ickevåldsamma protester.
  • Det finns ingen “bakslag” effekt
    såvida inte protesten är våldsam
    . Våra protester är fredliga och ickevåldsamma.
  • Det är en social bindningsupplevelse. Du träffar andra människor som delar dina bekymmer och vilja att agera.
  • Kolla in denna fantastiska artikel
    för mer insikter om varför protester fungerar.

Om du vill organisera en protest , kan vi hjälpa dig med råd och resurser.

Hur sannolikt är det att superintelligent AI kommer att orsaka mycket dåliga utfall, som mänsklig utrotning?

Vi har sammanställt en lista med ‘p(doom)‘-värden (sannolikhet för dåliga utfall) från olika framstående experter inom området.

AI-säkerhetsforskare (som är experter på detta ämne) är delade i denna fråga, och uppskattningar sträcker sig från 2% till 97% med ett genomsnitt på 30%

. Observera att inga (undersökta) AI-säkerhetsforskare tror att det finns en 0% chans. Det kan dock finnas ett urvalsbias här: människor som arbetar inom AI-säkerhet gör det troligtvis för att de anser att det är viktigt att förhindra dåliga AI-utfall.

Om du frågar AI-forskare i allmänhet (inte säkerhetsspecialister), sjunker denna siffra till ett medelvärde på runt 14%

, med en median på 5%. En minoritet, cirka 20% av dem, tror att anpassningsproblemet inte är ett verkligt eller viktigt problem. Observera att det kan finnas ett urvalsbias här i motsatt riktning: människor som arbetar inom AI gör det troligtvis för att de tror att AI kommer att vara fördelaktigt.

Föreställ dig att du blir inbjuden att ta en provflygning på ett nytt flygplan. Flygplansingenjörerna tror att det finns en 14% chans att krascha. Skulle du gå ombord på det planet? För just nu, går vi alla ombord på AI-planet.

Hur lång tid har vi tills superintelligent AI?

Det kan ta månader, det kan ta decennier, ingen vet säkert. Men vi vet att takten i AI-framsteg ofta underskattas grovt. För bara tre år sedan trodde vi att vi skulle ha SAT-godkända AI-system år 2055. Vi nådde dit i april 2023. Vi bör agera som om vi har väldigt lite tid kvar eftersom vi inte vill bli tagna på sängen.

Läs mer om brådskan .

Om vi pausar, vad händer med Kina?

Till att börja med har Kina vid denna tidpunkt striktare AI-regler än praktiskt taget något annat land. De tillät inte ens chatbots

och förbjöd träning på internetdata
fram till september 2023
. Kina har en mer kontrollerande regering och har därför ännu mer anledning att frukta de okontrollerbara och oförutsägbara effekterna av AI. Under FN:s säkerhetsråds möte om AI-säkerhet var Kina det enda landet som nämnde möjligheten att genomföra en paus.

Observera också att vi främst begär en internationell paus, verkställd genom ett fördrag. Ett sådant fördrag behöver också undertecknas av Kina. Om fördraget garanterar att andra nationer också kommer att stoppa, och det finns tillräckliga mekanismer för efterlevnad, borde detta vara något som Kina också vill se.

OpenAI och Google säger att de vill bli reglerade. Varför protesterar ni mot dem?

Vi applåderar OpenAI

och Google
för deras krav på internationell reglering av AI. Men vi anser att de nuvarande förslagen inte är tillräckliga för att förhindra en AI-katastrof. Google och Microsoft har ännu inte offentligt uttalat sig om den existentiella risken med AI. Endast OpenAI nämner uttryckligen risken för utrotning
, och vi applåderar dem återigen för att ta denna risk på allvar. Men deras strategi är ganska tydlig: en paus är omöjlig, vi måste nå superintelligens först. Problemet med detta är dock att de inte tror att de har löst anpassningsproblemet
. AI-företagen är låsta i en kapplöpning mot botten, där AI-säkerhet offras för konkurrensfördelar. Detta är helt enkelt resultatet av marknadsdynamik. Vi behöver regeringar som ingriper och implementerar policyer (på internationell nivå) som förhindrar de värsta utfallen .

Pushing AI-företagen den existentiella riskberättelsen för att manipulera oss?

Vi kan inte veta säkert vilka motiv dessa företag har, men vi vet att existentiell risk inte initialt drevs av AI-företag - det var forskare, aktivister och NGO:er. Låt oss titta på tidslinjen.

Det har funnits många människor som har varnat för existentiell risk sedan början av 2000-talet. Eliezer Yudkowsky, Nick Bostrom, Stuart Russell, Max Tegmark och många andra. De hade ingen AI-teknik att driva - de var helt enkelt bekymrade över mänsklighetens framtid.

AI-företagen nämnde aldrig existentiell risk förrän mycket nyligen.

Sam Altman är ett intressant undantag. Han skrev om existentiell AI-risk redan 2015, på sin privata blogg

, innan han grundade OpenAI. Under åren sedan gjorde han praktiskt taget inga explicita nämnder av existentiell risk igen. Under senatsförhöret den 16 maj 2023, när han tillfrågades om sitt blogginlägg om existentiell risk, svarade han bara genom att prata om jobb och ekonomi. Han drev inte den existentiella riskberättelsen här, han undvek den aktivt.

I maj 2023 förändrades allt:

Dessa företag har varit mycket långsamma att erkänna existentiell risk, med tanke på att många av deras anställda har varit medvetna om det i åratal. Så enligt vår syn är AI-företagen inte de som driver den existentiella riskberättelsen, de har reagerat på andra som driver den, och har väntat med sitt svar tills det var absolut nödvändigt.

Affärsincitamenten pekar i motsatt riktning: företag vill snarare inte att folk ska oroa sig för riskerna med deras produkter. Praktiskt taget alla företag förminskar riskerna för att attrahera kunder och investeringar, snarare än att överdriva dem. Hur mycket strikt reglering och negativ uppmärksamhet bjuder företagen in genom att erkänna dessa faror? Och skulle ett företag som OpenAI dedikera 20% av sina beräkningsresurser

till AI-säkerhet om de inte trodde på riskerna?

Här är vår tolkning: AI-företagen undertecknade uttalandet eftersom de vet att existentiell risk är ett problem som måste tas på största allvar.

En stor anledning till att många andra människor fortfarande inte vill tro att existentiell risk är en verklig oro? För att erkänna att vi faktiskt är i fara är en mycket, mycket skrämmande sak.

Läs mer om psykologin bakom existentiell risk .

Okej, jag vill hjälpa! Vad kan jag göra?

Det finns många saker du kan göra . På egen hand kan du skriva ett brev , posta flyers , informera andra , delta i en protest , eller donera pengar! Men ännu viktigare: du kan gå med i PauseAI och samordna med andra som tar åtgärder. Om du vill bidra mer kan du bli volontär och gå med i ett av våra team .