Vi uppmanar till ett förbud mot utvecklingen av superintelligens, som inte hävs förrän det finns bred vetenskaplig konsensus om att det kan göras säkert och kontrollerbart, och ett starkt offentligt stöd

Att minska risken för utrotning från AI bör vara en global prioritet, i nivå med andra samhällsomfattande risker som pandemier och kärnvapenkrig.

Om du tar den existentiella risken på allvar, som jag nu gör, kan det vara ganska rimligt att helt enkelt sluta utveckla de här sakerna vidare.

Utvecklingen av full artificiell intelligens skulle kunna innebära slutet för mänskligheten.

... vi borde förvänta oss att maskinerna tar kontrollen.

Om vi fortsätter med [vårt nuvarande angreppssätt] kommer vi till slut att förlora kontrollen över maskinerna.

Rogue AI kan vara farligt för hela mänskligheten. Att förbjuda kraftfulla AI-system (t.ex. bortom GPT-4:s förmågor) som ges autonomi och handlingsförmåga vore en bra start.