AI zal de wereld nooit blijvend domineren
Door Joost Smits
Dit artikel kwam tot stand na een gesprek met Kevin Kleine. Dit is een verkorte versie van de lange stapsgewijze uitleg die te vinden is op ResearchGate via de verkorte link https://bit.ly/rgaidomi
Open source taalmodellen als PrivateGPT kun je op je eigen computer installeren. Zelfs als de grote techbedrijven gehoor zouden geven aan de oproep om te stoppen met de ontwikkeling van kunstmatige intelligentie (AI), zou dat zinloos zijn. De bekendste toepassing, ChatGPT, kan inmiddels zelf online nieuwe informatie ophalen, en er komen functies om bijvoorbeeld email te versturen. Mensen maken zich zorgen of AI de wereld zal overnemen. Mark Thiessen, oprichter van De Nieuwe Vrije Eeuw, uitte in een opiniestuk in NRC zijn vrees dat de democratie niet is toegerust op superslimme AI. In dit artikel laat ik zien dat disruptie zeker mogelijk is, maar blijvende werelddominantie onmogelijk. De discussie over AI is vooral een spiegel die wordt voorgehouden over het functioneren van de democratie.
ELIZA was een van de eerste computerprogramma’s die mensachtige interactie kon nabootsen. Het werd in de jaren 60 aan het MIT in Cambridge (Massachusetts) ontworpen om een soort psychotherapeut te zijn. Het taalmodel ChatGPT is in wezen vergelijkbaar met ELIZA. Het is een database met een stukje software. Waar ELIZA door mensen werd voorgeprogrammeerd, is ChatGPT getraind op enorme hoeveelheden tekst. Toch blijft het de vraag of een database met wat software te vergelijken is met menselijke intelligentie, en of dit dan de “superslimme computer” is die de mensheid zou bedreigen.
Veel beschouwingen over AI gaan uit van deze superslimme computers, maar ook deze zijn gebonden aan de beperkingen van natuurkunde, economie en logica.
Laten we beginnen bij Adam Smith, de grondlegger van de politieke economie (en het klassiek liberalisme). Smith’s “onzichtbare hand” stelt dat het nastreven van individueel eigenbelang leidt tot maatschappelijk welzijn. We gebruiken vast allemaal wel eens navigatie-apps die ons helpen files te vermijden en snel de weg te vinden. Dit is gerelateerd aan het Nash-evenwicht, waarbij individuen de beste keuze maken gegeven de keuzes van anderen. Minder bekend is dat de app je soms juist over een langere weg stuurt. De Braess Paradox illustreert dat het toevoegen van nieuwe routes (wat de app doet) aan een netwerk de algehele efficiëntie kan verminderen. Soms moeten sommige mensen “pech” hebben voor het algemeen belang. Het nastreven van individueel eigenbelang leidt niet altijd tot het beste resultaat voor de samenleving als geheel.
De Braess Paradox is een verschijningsvorm van de “Tragedie van de Meent”. Individuen, die rationeel handelen in hun eigen belang, kunnen collectieve hulpbronnen uitputten. Dit heeft implicaties voor klimaatverandering, migrantenopvang, en landbouwtransitie. Het is daarom niet vreemd dat de “commons” (Engelse woord voor “meent”) onderdeel is van Rijksbeleid. Het benadrukt de noodzaak van een gecoördineerde aanpak om deze uitdagingen aan te gaan. Daarin kunnen “ouderwetse” oplossingen zoals heffingen en regelgeving en rol spelen, maar ook AI (zoals in het voorbeeld van de navigatie-app). AI kan ons helpen bij het modelleren en begrijpen van deze complexe systemen, en kan bijdragen aan het ontwikkelen van oplossingen die rekening houden met het welzijn van iedereen.
Uit recent werk van David Graeber en David Wengrow, “The Dawn of Everything”, blijkt dat veel pre-moderne samenlevingen democratischer waren dan vaak wordt aangenomen. Het is een constante factor in de geschiedenis van de mensheid. We probeerden alternatieven uit, zoals autocratieën, aristocratieën, theocratieën en dergelijke, die vaak leiden tot ernstige problemen, zoals onderdrukking, gebrek aan vrijheid en misbruik van macht. Democratie gaat niet alleen over politiek, het vormen van meerderheden en het rekening houden met minderheden, maar speelt ook een cruciale rol in hoe individuele voorkeuren worden omgezet in collectieve beslissingen. Maar er is een fundamenteel probleem. De achttiende-eeuwse Franse geleerde Condorcet concludeerde dat er situaties bestaan waarin er geen manier bestaat om met de individuele voorkeuren een collectieve uitkomst te bepalen. Nobelprijswinnaar Kenneth Arrow bewees dat er geen perfect stemsysteem is dat altijd een unieke en bevredigende oplossing biedt bij meerdere opties en verschillende voorkeuren. Het zogenaamde Onmogelijkheidstheorema van Arrow.
Wie nu denkt dat een superslimme AI dit wel zal oplossen, heeft het mis. Arrow’s bewijs omvat ook AI. En dan is er een probleem. Als AI soms mensen “pech” laat hebben, maar ook niet de perfecte rangschikking van voorkeuren kan omzetten in collectieve beslissingen, zullen mensen in opstand komen.
In die gevallen heeft democratie toch een paar grote voordelen ten opzichte van bestuur door een AI. Een democratie kan de genomen beslissingen begrijpelijk uitleggen, mensen hebben invloed en bestuurders leggen verantwoording af, een AI kan niet de menselijke gevoelens en ethische afwegingen goed genoeg begrijpen, de vraag is of een AI snel en flexibel kan reageren op maatschappelijke verandering, AI-systemen kunnen bevooroordeeld zijn zonder dat dat expliciet vast te stellen, wat problematisch is voor diversiteit en inclusie.
Het is essentieel dat we ethische richtlijnen en menselijke waarden in de kern van AI-systemen integreren. ChatGPT zelf zegt dat die onderdeel moet zijn van de onderliggende software, niet slechts de training. Het is essentieel dat AI wordt ontworpen en gebruikt op een manier die de menselijke waardigheid, vrijheid en welzijn respecteert.
De discussie over AI is een spiegel die ons laat zien dat we vooral de democratie goed moeten inrichten. De genoemde kritiekpunten op AI zijn eigenlijk essentiële elementen voor een robuuste democratie. AI kan als hulpmiddel dienen, maar de mens moet altijd de controle behouden. Het is essentieel dat we ethische richtlijnen en menselijke waarden in de kern van AI-systemen integreren. We moeten ook erkennen dat er geen perfecte oplossing is voor het omzetten van individuele voorkeuren in collectieve beslissingen, en dat dit een inherente uitdaging is in zowel de democratie als AI-systemen.
Joost Smits is senior researcher en bestuurder van de Stichting Politieke Academie en van E-canvasser BV.
