We moeten het risico op een AI-apocalyps inperken – Dambisa Moyo

De waarschuwingen voor een AI-apocalyps bereiken een hoogtepunt. Onlangs schokte Jacob Coxon, onderzoeker bij Anthropic, de wereld toen hij publiekelijk zijn ontslag indiende en onthulde dat de “mensen die AI ontwikkelen er oprecht van overtuigd zijn dat het ons tegen het einde van dit decennium allemaal zou kunnen doden.” Zijn opmerkingen werden al snel bevestigd door Evan Hubinger, hoofd alignment science bij het bedrijf, die de -waarschijnlijkheid dat AI alle mensen zal doden op meer dan 10% schatte . Binnen enkele dagen riepen Dario Amodei, CEO van Anthropic, Sam Altman, CEO van OpenAI, en andere vooraanstaande figuren uit de AI-wereld op om het tempo van de AI-ontwikkeling te vertragen.

De angst voor een doemscenario met AI neemt al enige tijd toe. Geoffrey Hinton, die wordt beschouwd als “de peetvader van de AI“, stelt al lang dat het verlies van controle over superintelligente AI-systemen zou kunnen „leiden tot het uitsterven van de mensheid“. Meer recentelijk heeft Bill Gatesde aandacht gevestigd op de dreiging van door AI veroorzaakte economische ontwrichting. En Elon Musk roept al sinds ten minste 2023 op tot een pauze in de AI-wedloop.

Publieke bezorgdheid

De bezorgdheid onder het publiek reikt veel verder dan apocalyptische scenario’s en wordt gevoed door zorgen over banenverlies, het hoge water- en energieverbruik van datacenters, het gebruik van AI door kinderen en toenemende cyber- en nationale veiligheidsrisico’s. Uit een recente Gallup-peiling bleek dat zeven op de tien Amerikanen zich nu verzetten tegen de bouw van datacentra in de buurt van hun huis. Slechts 32% van de Amerikanen heeft vertrouwen in AI, vergeleken met 87% in China.

Hoe moeten beleidsmakers, bedrijfsleiders en investeerders zich indekken tegen AI-gerelateerde risico’s? Zelfs de meest extreme AI-scenario’s zijn te ernstig om terzijde te schuiven, hoe onwaarschijnlijk ze ook mogen zijn. Beleidsmakers hebben de verantwoordelijkheid om het publiek te beschermen, terwijl bedrijfsleiders een fiduciaire plicht hebben om de belangen van aandeelhouders en klanten te waarborgen. Gezien de potentieel catastrofale gevolgen is het wellicht verstandig om de blootstelling te verminderen voordat er een ramp plaatsvindt.

Maar het inperken van existentiële risico’s met een lage waarschijnlijkheid is buitengewoon moeilijk. In de dystopische wereld die ongecontroleerde AI zou kunnen veroorzaken, zouden traditionele afdekkingsmiddelen zoals obligaties en putopties niet veel nut hebben, aangezien financiële rekeningen, betalingssystemen en administratie zelf in gevaar zouden kunnen komen.

Ook zouden beleggers niet noodzakelijkerwijs kunnen rekenen op overheden om in te grijpen en de marktstabiliteit te herstellen. Als juist de instellingen die normaal gesproken tijdens crises als vangnet fungeren, zijn aangetast, zou het handhaven van contracten en eigendomsrechten vrijwel onmogelijk zijn. Reële activa zoals grond- en waterrechten zouden in minder extreme scenario’s wellicht hun waarde behouden, maar zelfs deze zouden in een AI-apocalyps irrelevant zijn.

Het voortbestaan van de mensheid

Toch zijn er verschillende praktische maatregelen die beleidsmakers en bedrijfsleiders kunnen nemen. Een daarvan is het instellen van strengere ‘air gaps’, waarbij kritieke organisatorische netwerken en systemen worden geïsoleerd van onbeveiligde netwerken, zoals het openbare internet. Voorlopig kunnen zij troost putten uit het feit dat de huidige AI-modellen nog te onbetrouwbaar en onvoorspelbaar zijn om het soort gecoördineerde campagne te lanceren dat het voortbestaan van de mensheid zou bedreigen. Maar hun toenemende verfijning en reikwijdte vragen om een dringende herziening van de bestaande cyberverdediging.

Ten tweede is er aanzienlijke ruimte voor agressievere AI-regelgeving, waaronder strenge veiligheidsbeoordelingen en vergunningsvereisten. Toegegeven, het zal niet eenvoudig zijn om AI grensoverschrijdend te reguleren in een tijd van escalerende geopolitieke concurrentie. Geen enkele internationale instantie heeft momenteel de bevoegdheid om toezicht te houden op, laat staan controle uit te oefenen op, baanbrekende AI-ontwikkelingen in de Verenigde Staten, China of elders, met name als het gaat om open-weight-modellen.

Verdragen inzake kernwapenbeheersing bieden een voor de hand liggend, zij het onvolmaakt, precedent. In juli 2026 ondertekenden meer dan 1.000 medewerkers van toonaangevende AI-bedrijven een brief waarin werd opgeroepen tot een „internationale inspanning“ om de „technische en bestuurlijke instrumenten te ontwikkelen die nodig zijn om de grenzen van de ontwikkeling van geautomatiseerde AI bewust te reguleren“.

Sommigen zullen misschien spotten met het idee dat de VS en China, die in een bittere rivaliteit verwikkeld zijn, zouden samenwerken op het gebied van AI, maar geen van beide landen heeft belang bij een ongebreidelde technologische wedloop die uitmondt in wederzijdse vernietiging. Het risico van uitsterven door AI kan daarom het ultieme probleem van collectieve actie vormen, waardoor regeringen en bedrijven worden gedwongen om gevaren het hoofd te bieden die geen enkel land of geen enkele organisatie in zijn eentje kan aanpakken. Bedrijven werken nu al samen via brancheorganisaties en sectorgroepen om cyberdreigingen te beperken, en AI geeft hen nog meer reden om dat te doen.

Het vooruitzicht van recursief zichzelf verbeterende AI, dat ten grondslag ligt aan veel uitsterfscenario’s, zou de gebruikelijke crisisaanpak wel eens achterhaald kunnen maken. Veerkrachtmaatregelen die instellingen hielpen de COVID-19-pandemie te overleven, zullen weinig nut hebben tegen krachtige AI-systemen die in staat zijn gegevens te manipuleren en kritieke infrastructuur en bedrijfsactiviteiten te verstoren. Zelfs de huidige AI-agenten kunnen snel manieren vinden om de controles te omzeilen die zijn ontworpen om hen in toom te houden, zoals bleek uit het Hugging Face-beveiligingslek.

Alarmsignaal

Bedrijfsleiders hoeven niet te wachten tot overheden actie ondernemen. Ze kunnen de implementatie van AI vertragen of stopzetten en noodschakelaars installeren waarmee ze malafide systemen indien nodig kunnen uitschakelen. Ze kunnen ook steun betuigen aan oproepen om de ontwikkeling van grensverleggende AI te pauzeren of het streven naar superintelligentie te verbieden.

Dan is er nog het gevaar dat krachtige AI-tools in verkeerde handen vallen. Enkele van de grootste doorbraken in de AI-ontwikkeling komen uit landen waarvan de waarden en belangen haaks staan op die van het Westen. Zelfs zonder autonome superintelligentie zouden vijandige staten en terroristische organisaties AI-tools kunnen gebruiken om enorme schade aan te richten.

Het feit dat de vooraanstaande denkers in de AI-sector een kans groter dan nul zien dat hun eigen producten in de nabije toekomst de mensheid tot uitsterven kunnen brengen, zou een wake-upcall moeten zijn voor beleidsmakers en bedrijven. Als deze doemscenario’s ook maar enigszins aannemelijk zijn, zullen conventionele risicobeheerstrategieën niet volstaan.

Dambisa Moyo

De auteur is internationaal econoom en auteur van Edge of Chaos: Why Democracy Is Failing to Deliver Economic Growth – and How to Fix It (Basic Books, 2018)

Copyright: Project Syndicate 2026 https://www.project-syndicate.org/