Wereldwijd toezicht op AI is dringend nodig – Gabriela Ramos
AI concentreert nu al enorme economische macht en vergroot bestaande ongelijkheden, maar overheden beschikken niet over de instellingen en expertise die nodig zijn om dit in goede banen te leiden. Ze zouden een internationale AI-instantie moeten oprichten die normen kan vaststellen en een gezamenlijke reactie kan coördineren op bedreigingen die geen enkel land alleen het hoofd kan bieden.
Enkele jaren geleden stelden Mariana Mazzucato en ik een eenvoudige vraag: wie is er verantwoordelijk als er iets misgaat in de wereld van AI? Die vraag is nog steeds onbeantwoord, zelfs nadat de Veiligheidsraad van de Verenigde Naties vorige week bijeenkwam om te spreken over de existentiële risico's van AI.
Bij de bijeenkomst waren precies die tech-CEO's aanwezig die nu oproepen tot een pauze in de ontwikkeling van AI, terwijl ze tegelijkertijd haast maken met het bouwen van steeds krachtigere systemen in een 'race to the bottom'. De enige stem van buiten de sector was die van Yoshua Bengio, covoorzitter van het onafhankelijke internationale wetenschappelijke panel over AI en een vooraanstaand pleitbezorger van AI-veiligheid. Afgezien van vertegenwoordigers van lidstaten kwam niemand uit het mondiale Zuiden of het maatschappelijk middenveld aan het woord, en waren er evenmin vrouwen aanwezig. Dat laatste had eenvoudig verholpen kunnen worden door de andere covoorzitter van het panel uit te nodigen: Nobelprijswinnaar voor de Vrede Maria Ressa.
Naast de problematische inkadering van het debat vormde het mandaat van de Veiligheidsraad – gericht op vrede en veiligheid – een belemmering voor een bredere bespreking van alle gevaren die AI met zich mee kan brengen. Veel leden wezen erop dat het werk van de Raad niet in het vaarwater mocht komen van andere VN-organisaties die zich eveneens met deze kwesties bezighouden. Zoals het oude gezegde luidt: als iedereen de leiding heeft, heeft niemand dat.
De sociale, economische en arbeidsgerelateerde gevolgen van AI bleven tijdens de briefing van de Veiligheidsraad buiten beschouwing, ook al hebben ze nu al invloed op het leven van mensen en kunnen ze net zo ernstig zijn als het verlies van controle over AI-systemen. AI versterkt bestaande ongelijkheden door algoritmische discriminatie en ongelijke toegang tot technologie, kapitaal en rekenkracht. Ook dreigt AI menselijk oordeelsvermogen en handelingsvrijheid te vervangen, terwijl onze cognitieve, emotionele en relationele vaardigheden worden aangetast – zoals blijkt uit het werk van Vladimír Šucha. Daarnaast zijn er de gevolgen voor de geestelijke gezondheid van jongeren en het geweld waarmee vrouwen online worden geconfronteerd; zaken die uitvoerig zijn beschreven in het 'All In'-rapport dat we tijdens de Algemene Vergadering van de VN hebben gepresenteerd.
Tijdens de bijeenkomst ging ook onevenredig veel aandacht uit naar de technologieën zelf en de vraag hoe deze kunnen worden verbeterd. Door deze focus blijven de politieke en economische structuren die aan veel van deze problemen ten grondslag liggen, buiten schot. Lang voordat AI zijn intrede deed, hadden decennia van ongebreidelde globalisering kapitaal al bevoordeeld boven arbeid, waardoor inkomen en vermogen zich aan de top concentreerden en de meeste anderen geen economische zekerheid meer hadden.
De afwachtende houding ten aanzien van wereldmarkten heeft landen met lage inkomens economisch kwetsbaar gehouden, terwijl er tegelijkertijd enkele bedrijven met een marktwaarde van biljoenen dollars en enorme privévermogens zijn ontstaan. Ook heeft dit geleid tot een politieke economie die zich verzet tegen hervormingen, met name in de Verenigde Staten. Het OESO-akkoord uit 2021 over een wereldwijd minimumtarief van 15% voor de vennootschapsbelasting was een belangrijke stap in de goede richting, maar dat initiatief liep op niets uit toen president Donald Trump – direct na zijn terugkeer in het Witte Huis – de VS uit de afspraak terugtrok, waardoor techreuzen steeds rijker en machtiger konden worden. Dit is de politieke economie waarin AI zijn intrede heeft gedaan.
De VN-bijeenkomst had zich moeten buigen over het voorstel van Finland, Noorwegen en meer dan 20 andere landen voor gemeenschappelijke veiligheidsprotocollen, verplichte risicobeoordelingen vóór de marktintroductie, onafhankelijke evaluaties en een internationale instantie om toezicht te houden op geavanceerde AI-systemen ('frontier AI').
Overheden weten hoe ze snel moeten handelen als ze dat willen. Ik heb dat zelf ervaren tijdens mijn jaren bij de OESO en als kabinetschef en 'sherpa' voor de G20. Wanneer er crises uitbraken, besteedden lidstaten geen jaren aan het onderhandelen over uitgebreide slotverklaringen of aan het wachten op de perfecte institutionele vorm. Ze richtten zich op het probleem van dat moment en op de taken die een nieuwe instantie moest uitvoeren. Het Internationaal Energieagentschap werd snel opgericht in de nasleep van de oliecrisissen in de jaren zeventig, en de Financial Action Task Force werd in 1989 in het leven geroepen om witwassen te bestrijden. Meer recentelijk bracht het 'Inclusive Framework on Base Erosion and Profit Shifting' (BEPS) van de OESO-landen samen om belastingontwijking door multinationals aan te pakken, onder meer via een minimumtarief van 15%.
We zouden dezelfde aanpak moeten hanteren voor AI. In plaats van te blijven hangen in procedures, moeten we beginnen met de taken die een internationale AI-instantie moet uitvoeren, en haar vervolgens de expertise en het budget geven om dat te doen. Dat zou ons helpen een antwoord te vinden op de uitdaging die werd geschetst door Michael Kratsios, adviseur voor wetenschap en technologie van het Witte Huis; hij zei tegen de VN-Veiligheidsraad: "Je kunt geen technologie reguleren die je niet begrijpt."
Het Fins-Noorse voorstel pleit voor een internationale instelling die normen kan vaststellen en een gezamenlijke reactie kan coördineren wanneer AI-systemen gevaarlijke grenzen qua capaciteit overschrijden. Ook wordt er gepleit voor onafhankelijke evaluatiemechanismen. Maar het voorstel zou verder moeten gaan door te voorzien in verplichte risicoregisters en een noodmechanisme, naar het voorbeeld van waar de VS en China naar verluidt al aan werken. Bij die evaluaties zou ook de impact van AI op mensen moeten worden meegewogen.
Om dit alles te laten slagen, heeft de instelling een onafhankelijke technische commissie nodig. De commissie die toezicht houdt op het OESO-verdrag inzake corruptiebestrijding stelt bijvoorbeeld landenbeoordelingen op die worden goedgekeurd volgens de 'consensus-minus-één'-regel. Landen kunnen wereldwijde anti-corruptienormen op verschillende manieren definiëren, afhankelijk van hun juridische tradities, maar het principe van 'functionele gelijkwaardigheid' helpt ervoor te zorgen dat uiteenlopende juridische benaderingen vergelijkbare resultaten opleveren. De instelling zou ook moeten samenwerken met andere internationale organisaties om te waarborgen dat AI bijdraagt aan menselijke ontwikkeling.
Dan blijft de vraag wie elke lidstaat zou vertegenwoordigen in een nieuwe internationale AI-instantie. Het Bazels Comité voor Bankentoezicht functioneert goed omdat het functionarissen samenbrengt die over ongeveer hetzelfde mandaat en dezelfde verantwoordelijkheden beschikken. Voor AI bestaat een dergelijke instantie nog niet. Slechts enkele landen hebben een ministerie voor AI, en de bestaande ministeries missen de capaciteit om marktgedrag te onderzoeken of te sanctioneren. Zolang we niet over de nodige instellingen beschikken – zowel op nationaal als op internationaal niveau – blijft onze oorspronkelijke vraag ("Wie is verantwoordelijk als het misgaat?") onbeantwoord, waardoor de wereld wordt blootgesteld aan onvoorstelbare risico's.
Gabriela Ramos
De auteur is covoorzitter van de Taskforce inzake Ongelijkheid en Sociaal-Gerelateerde Financiële Rapportage, en voormalig adjunct-directeur-generaal voor sociale en menswetenschappen bij UNESCO (waar zij toezag op de totstandkoming van de Aanbeveling inzake de ethiek van AI).
