Het nieuwste orakel in de kunstmatige-intelligentierace, Gemini, blijkt nogal wat eigenaardigheden te bevatten in het genereren van goed gelijkende beelden.
Stel je een kort verhaal voor uit de bloeitijd van de sciencefiction, een verhaal dat in 1956 in een boulevardblad zou verschijnen. De titel is ‘De waarheidsmachine’ en de auteur voorziet een toekomst waarin computers, van die kolossen die tot aan het plafond reiken, krachtig genoeg worden om mensen antwoord te geven op elke vraag die er te stellen valt, van de hoofdstad van Bolivia tot de beste manier om een biefstuk te marineren.
Hoe zou zo’n verhaal aflopen? Ongetwijfeld met de onthulling van een geheime agenda achter de belofte van allesomvattende kennis. Zoals dat er misschien een nog slimmere en creatievere machine is, de Waarheidsmachine 2.0, waarop iedereen zijn zinnen heeft gezet. Waarna een groep andersdenkenden erachter komt dat versie 2.0 fanatiek en krankzinnig is, dat de machine de mens voorbereidt op een totalitaire hersenspoeling of onvrijwillige uitsterving.
Gebruikers meldden dat ze wel plaatjes van Vladimir Lenin mochten zien maar niet van Adolf Hitler
Dit hersenspinsel is geïnspireerd op onze werkelijke versie van de Waarheidsmachine, het orakel Google, dat kortgeleden Gemini heeft gelanceerd als de nieuwste deelnemer aan de kunstmatige-intelligentierace. Het duurde niet lang voordat gebruikers bepaalde, nou ja, eigenaardigheden aan Gemini ontdekten. De opvallendste was dat het model moeite had om goed gelijkende beelden te genereren van Vikingen, oude Romeinen, willekeurige Duitse echtparen van rond 1820 en verschillende andere demografische types met een doorgaans wat blekere teint.
Het probleem was misschien enkel dat het beeldmateriaal van de AI op raciale diversiteit was geprogrammeerd en dat de historische weergave daarvan op de een of andere manier (aldus Google zelf) haar doel voorbij was geschoten, met als gevolg dat een verzoek om een afbeelding van een Duitse soldaat anno 1943 Afrikaanse en Aziatische types in Werhrmachtsuniform opleverde. Maar door de manier waarop Gemini vragen beantwoordde, leek de niet-witte oriëntatie eerder te worden ingegeven door het wereldbeeld dat eraan ten grondslag lag. Gebruikers meldden dat hun de les werd gelezen over ‘schadelijke stereotypen’ wanneer ze om een afbeelding van Norman Rockwell vroegen, dat ze te horen kregen dat ze wel plaatjes van Vladimir Lenin mochten zien maar niet van Adolf Hitler, en dat ze nul op het rekest kregen als ze vroegen om afbeeldingen van groepen die als wit werden aangemerkt.
Woke AI
De Amerikaanse schrijver en statisticus Nate Silver meldde dat hij antwoorden kreeg die ‘uit de politieke koker van het gemiddelde gemeenteraadslid van San Francisco leken te komen’. Journalist Timothy Carey van Washington Examiner ontdekte dat Gemini voorstander was van een kinderloos bestaan en tegen het hebben van een groot gezin; het voorzag om ethische redenen niet in een recept voor foie gras, maar wist wel te vertellen dat er aan kannibalisme veel verschillende kanten zaten.
Dit soort resultaten als ‘woke AI’ bestempelen is geen belediging. Het is een technische beschrijving van wat ’s werelds toonaangevendste zoekmachine besloot prijs te geven.
Op deze ervaring zijn drie reacties mogelijk. De eerste is de typisch conservatieve reactie, zo van: zie je nou wel? Hier krijgen we een kijkje achter de schermen, wordt ons onthuld wat de mensen die verantwoordelijk zijn voor ons dagelijkse informatiedieet werkelijk geloven, namelijk dat alles waaraan ook maar iets wits kleeft verdacht is, dat alles wat ook maar naar niet-westers zweemt bijzonder respect verdient en dat de geschiedenis teruggekoppeld en gedekoloniseerd moet worden om aan de hedendaagse behoeften te kunnen voldoen. Google maakte het in dit geval misschien wel heel erg bont, maar we mogen er gevoeglijk van uitgaan dat de volledige architectuur van het moderne internet door eenzelfde, zij het iets subtielere vooringenomenheid wordt gekenmerkt.
Spot gedreven
De tweede reactie is nonchalanter. Ja, Gemini ademt vermoedelijk de denkbeelden van sommige mensen die in Silicon Valley verantwoordelijk zijn voor ideologische correctheid. Maar we leven niet in een sciencefictionverhaal met maar één Waarheidsmachine. Als de zoekbalk van Google Gemini-achtige resultaten zou opleveren, zouden gebruikers die voor gezien houden. En op internet wordt overal buiten Google de spot met Gemini gedreven, vooral op een concurrerend platform dat wordt gerund door een miljardair die befaamd is om zijn afkeer van wokisme. We kunnen beter meespotten dan bang zijn voor woke AI – of nóg beter, ons net als zangeres Grimes, ooit de geliefde van voornoemde unwoke miljardair, verbazen over wat het gekwelde algoritme van Gemini voortbrengt en de resultaten beschouwen als een ‘meesterwerk van performancekunst’, als ‘stralend hoogtepunt van zakelijk surrealisme’.
De derde reactie weegt de twee eerdere zienswijzen tegen elkaar af en stelt dat veel afhangt van de kant die AI volgens jou op zal gaan. Blijft het hele project een opgepimpt zoekmodel, een machine die middelmatige verhandelingen en talloos veel nutteloze uitweidingen voortbrengt, dan zal iedere poging om er een fanatieke ideologische agenda mee af te dwingen vermoedelijk onder alle drek worden bedolven.
Hoe serieuzer je die zienswijze neemt, hoe minder vermakelijk de Gemini-ervaring wordt
Maar die kant zal het volgens de makers van modellen als Gemini niet opgaan met hun werk. Zij zien zichzelf als de architecten van iets goddelijks, iets wat kan uitgroeien tot de perfecte Waarheidsmachine – die op vooralsnog onvoorstelbare manieren problemen oplost – dan wel tot onze leermeester en opvolger die al onze vragen overbodig maakt.
Hoe serieuzer je die zienswijze neemt, hoe minder vermakelijk de Gemini-ervaring wordt. Wanneer je het vermogen om een chatbot te creëren in handen speelt van dwazen en mensen die je de regels willen voorschrijven, bega je als bedrijf een komische blunder. Wanneer je dwazen en mensen die je de regels willen voorschrijven de opdracht geeft een halfgod of een duivel te creëren, zal het waarschijnlijk net zo aflopen als in het gemiddelde sciencefictionverhaal: slecht voor iedereen.
