Anthropics vd Dario Amodei är en av de som varnat för farorna med AI. Han är också en av få som framhåller Kina som den största utmaningen i att reglera eller bromsa in utvecklingen av AI. (Bild: TechCrunch, CC BY 2.0 , via Wikimedia Commons)

Att bromsa utvecklingen av AI är meningslöst utan avtal med Kina

16 september, 2026

Den senaste veckan har allvarliga varningar om det hot som AI utgör mot mänskligheten kommit från flera ledande aktörer inom branschen. Anthropics vd Dario Amodei drog i helgen stor uppmärksamhet då han varnade om att artificiell intelligens nu arbetar fortare, vilket kan leda till att vi snart inte längre kan förstå och ännu mindre styra systemen.

Detta skulle enligt Amodei bland annat kunna resultera i så kallade AI-svärmar som tar över internet, på ett liknande vis som då mjukvara från OpenAI nyligen på eget bevåg började hacka plattformen Hugging Face för att lösa en annan uppgift.

Amodei menar att en liknande svärm med större kapacitet skulle kunna ”ta över hela internet” på bara några månader, och orsaka skador för flera biljoner kronor. Han nämnde att liknande incidenter, om än i mindre omfattning, redan har ägt rum hos Anthropic.

Ett par dagar dessförinnan hade Jacob Coxon, tidigare anställd på både OpenAi och Anthropic, utfärdat ännu bistrare varningar. I samband med att han sade upp sig Anthropic så publicerade Coxon, ett brev med varningar om hur de båda företagen agerar oansvarigt och sätter hela mänskligheten på spel i sin jakt på så kallade självförbättrande AI-program, som har förmågan att bygga sig själv ännu smartare och starkare.

Enligt Coxon är dessa system på god väg att bli övermänskliga, med förmågan att hacka precis vad som helst. Han framhöll att de anställda som nu bygger systemen själva förstår och pratar om risken för att AI kan döda oss alla. Han fick medhåll av en chef på Anthropic, som bedömde risken att AI tar kål på hela mänskligheten inom tio år som högre än 10 procent.

Dario Amodei har i sin tur i olika grad fått medhåll från andra ledande aktörer som Elon Musk och Sam Altman från OpenAI. Det pratas nu om behovet att gemensamt reglera eller bromsa in utvecklingen av AI för att minska dessa faror.

Men det finns en hake. USA är inte ensamma i världen om att utveckla AI. Tvärtom så ligger Kina inte långt bakom.

Dario Amodei uppmärksammar mycket riktigt detta, och framhöll i helgen Kina som en utmaning för att reglera eller bromsa in utvecklingshastigheten av AI-program. Han pekade också på möjligheten att inte sälja de mest sofistikerade chippen till Kina, så att de inte kan utveckla lika avancerad AI.

I en intervju med CBS beskrev Amodei Kina som det ”tuffaste dilemmat” i hans förslag att sakta ned utvecklingen av AI. Han menade att den långsiktiga lösningen vore att arbeta tillsammans för att begränsa utvecklingen, men medgav att detta blir svårt på grund av de stora militära fördelarna som det innebär att ligga före sin rival.

Föga överraskande så visar Kina ett begränsat intresse för att sakta ned sin utveckling av artificiell intelligens, i alla fall efter amerikanska direktiv.

Kina utrikesministerium avfärdade varningarna som skrämselpropaganda, och menade att AI är en nödvändig teknologi för mänsklighetens framtid som behöver vara öppen och inkluderande i sin form.

Statliga medier gick ännu längre, och anklagade västerländska aktörer för att agera på ett vis som påminner om kalla kriget.

China Daily beskrev varningarna som egennyttiga, då USA har misslyckats att stoppa framväxten av kinesiska modeller genom exportkontroller. Enligt Global Times handlar det om ett försök att hålla tillbaka Kinas utveckling genom att cementera det bräckliga amerikanska övertaget och utesluta Kina från den global styrningen av artificiell intelligens.

Men samtidigt finns det oro för utvecklingen av AI även i Kina. Denna oro gäller dock inte främst mänsklighetens existens, utan kommunistpartiets maktmonopol.

Chen Yixin, chef för det mäktiga säkerhetsministeriet, varnade i helgen i en statlig tidskrift för att AI i händerna på så kallade fientliga aktörer kan hota partiets ställning. Han framhöll inte endast den militära aspekten, utan även bland annat cyberattacker och desinformation som kan utmana partiets informationsmonopol.

Därför ville även Chen Yixin se större reglering och översikt av AI. Men här finns det alltså betydande skillnader. I Kina är oron främst politisk, och snarare än att sakta ned utvecklingen så vill man att staten ska utöva större kontroll.

Att det inte finns någon avsikt att sakta ned utvecklingen märktes även under samarbetsorganisationen Brics toppmöte i New Delhi i helgen. Bland andra CNBC uppmärksammade hur Xi Jinping där lovade att Kina ska leda AI-samarbetet för världens utvecklingsländer:

China will take the lead to help foster artificial-intelligence collaboration and development among developing countries, President Xi Jinping said at the BRICS bloc summit in New Delhi.

China will pioneer the establishment of a BRICS AI open-source community, support the cooperation in developing and applying large language models, hold AI seminars and training courses, and build an open AI ecosystem, Xi said in a statement on Sunday released by the Ministry of Foreign Affairs.

The country will also work to establish a BRICS digital ecosystem cloud platform, and conduct digital skills training, technological exchange and industrial alignment, Xi said. He also proposed setup of a BRICS engineer cultivation alliance and a youth exchange program for scientific and technological innovation.

Ensidig reglering från västerländskt håll får alltså inte bara till konsekvens att Kina kan springa ifrån världens demokratier i teknologiskt kunnande och militär förmåga. Det ger även Kina möjlighet att sprida sina AI-program till omvärlden på ett mer effektivt vis, vilket ger Peking möjlighet att sätta globala standarder och göra sitt narrativ till det allmänt vedertagna eftersom de är främst tränade med kinesiskt källmaterial.

En frivillig inbromsning riskerar därför att skifta maktbalansen. För ingenting tyder på att Kina skulle följa efter oavsett riskerna, vilket förklaras av bland andra Wall Street Journal i en artikel med den fantastiska rubriken ”China Also Thinks AI Could Kill Us. But First, It Wants to Match the U.S.”.

Kanske är det också därför som Trump i bryska ordalag har motsatt sig en sådan, och understrukit nödvändigheten av att USA behåller försprånget till Kina på detta område.

Den 24 september träffas Xi Jinping och Donald Trump för samtal i Vita huset. Där förväntas de bland annat diskutera AI, och det eventuella behovet av skyddsmekanismer inom industrin.

Men samtidigt är det tydligt att de båda ledarna ser på utvecklingen av AI i en kontext av rivalitet snarare än något slags gemensamt humanitärt uppdrag att minimera de risker som uttrycks från flera olika håll.

Senaste på Kinamedia

Kinamedias nya artiklar direkt till din inkorg

Gör som 757 andra, prenumerera du med.

Lyssna på Kinamedia: Nya kalla kriget

App Icon Apple Podcasts

Translate article