Techbedrijven zijn lyrisch over de ontwikkeling en implementatie van kunstmatige superintelligentie om zaken als hongersnood en klimaatverandering tegen te gaan. Voor wereldproblemen hebben we echter geen hulp nodig bij het bedenken van oplossingen, maar bij de concrete uitvoering ervan, aldus Francis Fukuyama.
Een oude studievriend van me heeft carrière gemaakt als belegger en ondernemer aan de rand van de techwereld. Hij heeft altijd grote bewondering gekoesterd voor mensen die hij als ‘ontzettend slim’ beschouwt. Daarmee bedoelt hij mensen die sterk zijn in wiskunde en met behulp van hun intelligentie goed hebben verdiend.
Hij is niet de enige die er zo over denkt. Silicon Valley is zo’n beetje een tempel voor de verering van genieën – in eerste instantie figuren als Steve Jobs, Bill Gates en Elon Musk – die hypersuccesvolle bedrijven hebben opgezet rond technologische toepassingen. Die technologie ontwikkelt zich nu rond AI, met Sam Altman, Demis Hassabis en Yann LeCun als de nieuwe iconen van genialiteit.
En wat deze generatie creëert is inderdaad intelligentie. Er is momenteel een wedloop gaande op het gebied van AGI, artificial general intelligence, een machine die het cognitieve vermogen van de mens zal evenaren. En zelfs overtreffen: de allernieuwste machines ‘groeien’ in plaats van te worden geprogrammeerd, ze zouden ertoe in staat zijn bij zichzelf aanpassingen te doen die hun capaciteiten vergroten.
Ze nemen geen genoegen met ons intelligentieniveau; ze zullen slimmer worden dan mensen. Dit soort ‘superintelligentie’ zal vervolgens leiden tot grote vooruitgang in de wetenschap, de technologie en de economie. En daarvan zijn nu al voorbeelden te zien, zoals Hassabis’ Alphafold-project, waarmee ingewikkelde eiwitstructuren kunnen worden voorspeld, wat met de beschikbare technologieën een onmogelijke opgave leek. Er wordt tegenwoordig serieus gesproken over een niet eens zo verre toekomst waarin ontwikkelde economieën met behulp van superintelligente AI substantieel hogere groeicijfers van 10, 15 of zelfs 20 procent per jaar zullen bereiken (ter vergelijking: nu wordt een groei van 2-3 procent al als substantieel beschouwd). Niemand zou meer gebrek hoeven leiden en er zouden regelingen komen ter ondersteuning van degenen die door AGI niet meer in hun levensonderhoud kunnen voorzien, zoals een algemeen basisinkomen.
Feit of fictie?
Je kunt verschillende vraagtekens plaatsen bij dit soort speculaties. Over de eerste vraag ben ik niet in de positie te oordelen: is AGI of superintelligentie überhaupt mogelijk? Volgens schrijvers als Eric Larson zijn LLM’s weliswaar goed in het uitkammen van enorme hoeveelheden bestaande kennis, maar ontberen ze het bespiegelende inzicht – door de cognitiewetenschapper C.S. Peirce ‘abductie’ genoemd – dat je nodig hebt voor daadwerkelijk innovatieve ontdekkingen.
Maar laten we even aannemen dat AGI er komt en dat machines in sommige opzichten intelligenter zullen worden dan mensen. Er zijn sterke gronden om aan te nemen dat dit onze maatschappij op allerlei manieren zal veranderen, maar misschien niet die explosieve economische groei teweeg zal brengen die de pleitbezorgers van AI verwachten.
De reden voor deze scepsis is dat het vandaag de dag eenvoudigweg niet een gebrek aan intelligentie of cognitieve vaardigheden is waardoor economische groei wordt beperkt. Zelfs zonder slimme machines bezitten mensen collectief tegenwoordig meer cognitief vermogen dan ooit in de geschiedenis van de mensheid. De beperkingen komen voort uit de talloze manieren waarop die intelligentie in wisselwerking staat met de materiële wereld. Economische groei hangt uiteindelijk af van de kunst om echte dingen in de echte wereld te creëren. Een slimme machine komt misschien op de proppen met een beter model voor een muizenval, maar voor het produceren van die muizenval zijn capaciteiten benodigd die buiten het bereik liggen van welke machine dan ook.
Economische groei hangt uiteindelijk af van de kunst om echte dingen in de echte wereld te creëren
Op macroniveau lopen we nu al aan tegen het feit dat er te veel geld is in verhouding tot de hoeveelheid goederen. Zoals klimaatdoemdenkers al jaren zeggen, zijn er materiële grenzen aan groei. De grens die het meest in het oog springt, is de opwarming van de aarde, maar er zijn er nog veel meer. De planeet is niet gemaakt voor 8 miljard mensen met een Amerikaanse levensstandaard; met een groeitempo van 10 procent per jaar zouden China, Amerika en Europa algauw met tekorten te maken krijgen, tekorten aan landbouwgrond, water, energie – aan bijna alles.
Op microniveau is het probleem het vertalen van het werk van slimme machines in materiële goederen. Bij productinnovatie komt een langdurig, iteratief proces kijken waarbij een ontwerper ideeën uitprobeert, faalt en het ontwerp aanpast op basis van die ervaringen. Zoals generaties van ontwikkelaars en knutselaars weten zal geen superintelligentie ooit groot genoeg zijn om te kunnen simuleren hoe voorwerpen zich zullen gedragen in de stoffelijke, echte wereld.
Ten slotte is er het politieke en maatschappelijke niveau. Ik was een keer bij een presentatie van een ingenieur van een toonaangevend AI-bedrijf die zei dat AGI in de nabije toekomst bijvoorbeeld voor schoon drinkwater zou kunnen zorgen in bepaalde steden in ontwikkelingslanden.
Dat arme landen er niet in slagen in zulke basisbehoeften te voorzien komt echter niet door een gebrek aan kennis van hoe een goede drinkwatervoorziening eruitziet. Het is een politiek en maatschappelijk probleem. Niemand wil opdraaien voor de hogere kosten die een nieuw watersysteem met zich meebrengt: de werknemers van de gemeentelijke drinkwatervoorziening willen hun baan niet verliezen door automatisering; winkeleigenaren zien het niet zitten dat de straten worden opgebroken voor nieuwe leidingen; de minister van Financiën heeft andere prioriteiten en wil niet de belasting verhogen voor de aanleg van het nieuwe systeem. In veel arme landen heb je watermaffia’s die goedkoop water inkopen en het voor buitensporig hoge prijzen doorverkopen. Ze zijn gewapend en zullen niet aarzelen geweld te gebruiken als je ze in de weg zit.
[Het gebrek aan drinkwater] komt echter niet door een gebrek aan kennis… Het is een politiek en maatschappelijk probleem.
Een superintelligente machine kan deze problemen misschien begrijpen, maar zal niet in staat zijn er iets tegen te doen. We weten al hoe een goede watervoorziening eruitziet; wat we niet hebben is een implementatieplan voor een specifieke stad.
Ons begrip van de rol van intelligentie is vertekend door de technologische veranderingen van de laatste decennia. Internet, sociale media en aanverwante technologieën zijn allemaal gebaseerd op software. Afgezien van dataservers en cloudopslag hoeven hiervoor geen apparaten te worden gebouwd die nog nooit zijn getest. Daardoor kun je met software zo makkelijk opschalen. Dat is de reden dat Google, Meta en andere bedrijven zo snel reuzen hebben kunnen worden.
Bedrijven die geld verdienen door materiële zaken in de materiële wereld te bouwen hebben veel meer moeite met opschalen. Ook zij hebben baat bij schaalvoordelen, maar bereiken het punt van afnemende meeropbrengsten veel eerder dan een softwarebedrijf. (Dit is trouwens een van de redenen dat Elon Musks Tesla zo’n opmerkelijk verhaal is: dat hij een materieel product zo succesvol heeft weten op te schalen.) Op de een of andere manier zijn we het softwareparadigma gaan zien als het model dat het AI-tijdperk zal kenmerken, maar de economische voordelen die AI belooft zullen niet even gemakkelijk meegroeien.
Waarmee ik niet wil zeggen dat AI niet zal leiden tot een enorme productiviteitsverhoging: kijk bijvoorbeeld naar Jerry Kaplans voorspellingen over de toekomst van robotaxi’s. Maar intelligente mensen, zoals die in Silicon Valley, neigen ernaar het belang van intelligentie in het leven te overschatten. Om een goed en succesvol mens te zijn heb je behalve intelligentie veel andere capaciteiten nodig, en voor het bewerkstelligen van economische groei is ook veel andere input nodig dan die AI kan leveren.
Francis Fukuyama is Olivier Nomellini Senior Fellow aan Stanford University. Zijn meest recente boek is Liberalism and Its Discontents en hij schrijft de column ‘Frankly Fukuyama’ in Persuasion.
