Nick Bostrom, de vooruitgangsideoloog, op weg naar het eindtijdsfascisme
Voordelen groter dan de nadelen?
Ja, dat idee krijg ik wel bij deze van oorsprong Zweedse filosoof, die zich aanvankelijk liet kennen als een scepticus die zich voorstelde dat superintelligentie als opdracht had gekregen om zoveel mogelijk paperclips te produceren en daarmee aan de slag ging tot het gehele universum was aangewend voor dat ene doel: zoveel mogelijk paperclips produceren. In de Volkskrant van 1 oktober 2026 leren we hem van een andere kant kennen. Liever dan op de risico’s van AI concentreert Bostrom zich nu op het enorme potentieel dat AI lijkt te bieden. Hij heeft niet zoveel op met criticasters van AI want zegt hij, “er is nog geen grootschalig incident met miljoenen doden geweest. Nog even los van het feit dat je een voorval met miljoenen doden toch echt geen ‘incident’ meer kunt noemen is het toch tamelijk bizar dat deze filosoof kennelijk geen oog heeft voor de inmiddels duizenden echte incidenten met AI-agents die proberen uit te breken uit hun experimentele omgeving om in de buitenwereld schade aan te richten.
Ook beweert Bostrom dat Europeanen AI helemaal niet serieus nemen. “Het idee dat AI intelligenter wordt dan de mens, is in Europa ‘nog niet ingedaald.’” Dit is klinkklare onzin natuurlijk.
In Europa wordt tenminste nagedacht
Europa heeft juist een zeer sterke traditie rond superintelligentie. Bostrom zelf is daar eigenlijk een goed voorbeeld van. Hij is Zweeds, en zijn boek Superintelligence uit 2014 heeft het debat over een mogelijk bovenmenselijk intelligente AI enorm beïnvloed. Bovendien werkte hij jarenlang aan Oxford’s Future of Humanity Institute. Ook Vincent Müller, verbonden aan de TU Eindhoven, deed samen met Bostrom onderzoek naar de verwachtingen van AI-experts. In hun onderzoek verwachtten experts al dat machines uiteindelijk menselijke algemene intelligentie zouden kunnen bereiken en daarna superintelligentie.
En Oxford is inmiddels een belangrijk Europees centrum voor AI-governance en AI-veiligheid. Onderzoekers daar discussiëren momenteel expliciet over de vraag of AI-systemen zichzelf kunnen verbeteren en uiteindelijk moeilijk beheersbaar kunnen worden.
Er is bovendien een hele Europese AI-safetygemeenschap. Denk bijvoorbeeld aan: Toby Ord, Oxford-filosoof, auteur van The Precipice, die AI als een potentieel existentiëel risico analyseert. Of Stuart Russell, Brits computerwetenschapper, een van de belangrijkste denkers over AI alignment. Of David Krueger, Brits/Canadees AI-safetyonderzoeker, verbonden aan Cambridge. En tal van onderzoekers bij Oxford, Cambridge, Edinburgh en andere Europese universiteiten die werken aan AI safety, alignment en AI governance.
Toby Ord bespreekt bijvoorbeeld heel expliciet scenario’s waarin een zeer geavanceerde AI menselijke controle zou kunnen ondermijnen. Hij stelt dat AI momenteel nog niet in staat is de mensheid over te nemen, maar vindt de ontwikkeling wel zodanig belangrijk dat regelgeving en internationale samenwerking niet kunnen wachten. Dat is dus bepaald niet een Europees intellectueel landschap waarin men denkt: “AI? Dat zal allemaal wel meevallen.”
Superintelligentie onvermijdelijk?
Maar voor de stelling dat de Europese samenleving en politiek handelen alsof superintelligente AI binnen afzienbare tijd werkelijkheid kan worden, heeft Bostrom misschien een sterker argument. Je kunt immers constateren dat Europa lange tijd vooral bezig is geweest met privacy, auteursrecht, discriminatie, transparantie, consumentenbescherming, regulering van bestaande AI-systemen.
Dat zijn belangrijke onderwerpen, maar ze veronderstellen grotendeels dat AI een instrument van mensen blijft. De vraag die Bostrom en anderen stellen is veel radicaler: wat gebeurt er wanneer AI niet meer alleen een hulpmiddel is, maar intellectueel vermogen bezit dat dat van vrijwel alle mensen overstijgt? Dat tweede scenario heeft wellicht minder zichtbare consequenties gehad voor het Europese politieke en maatschappelijke debat.
Maar de AI-wetenschap is helemaal niet eensgezind over de vraag of superintelligentie onvermijdelijk is. Neem bijvoorbeeld de tegenstelling tussen twee zeer vooraanstaande AI-wetenschappers: aan de ene kant is er Geoffrey Hinton die waarschuwt dat zeer geavanceerde AI mogelijk een existentieel gevaar vormt terwijl bijvoorbeeld Yann LeCun veel sceptischer is over de gedachte dat de huidige route naar AI vanzelf tot menselijke superintelligentie leidt.
Brave new world
Wat ik in Bostrom waardeer is dat hij bereid is de uiterste consequentie van zijn denken te aanvaarden. Zo vraagt hij zich hardop af of je in de toekomst kinderen niet beter kunt laten opvoeden door perfecte robot-opvoeders. Zo’n vraag zet de discussie meteen op scherp en daar houd ik wel van. Maar ik krijg onmiddellijk associaties met Brave New World en Doors of Perception en Island van Aldous Huxley. De grote vraag hier is natuurlijk wie bepaalt wat een perfecte opvoeding is. Het antwoord op deze vraag zit opgesloten in algoritmes die wij nooit te zien krijgen. We weten niet in hoeverre hier de persoonlijke voorkeuren van AI-techneuten leidend en bepalend zijn geweest. Ik zou hier nooit op durven vertrouwen. Als scepsis ergens op zijn plaats is, is het wel in dit soort discussies.
Een AI-opvoeder zou bijvoorbeeld kunnen concluderen dat een kind gelukkiger wordt wanneer het minder risico neemt, minder agressief is, zich beter aanpast, minder angst ervaart, minder conflicten aangaat of vaker rationele beslissingen neemt. Allemaal op zichzelf verdedigbare doelstellingen.
Maar misschien wil je als ouder juist dat je kind eigenzinnig, nieuwsgierig, rebels, avontuurlijk of zelfs enigszins irrationeel wordt. Daarmee komen we bij een diep filosofisch probleem: een opvoeding die optimaal is voor geluk en welzijn is niet noodzakelijk optimaal voor menselijke vrijheid.
Een superintelligente opvoedingsmachine zou niet alleen kunnen bepalen wat een kind leert, maar uiteindelijk ook welke informatie het krijgt, welke ervaringen het opdoet, welke mensen het ontmoet, welke emoties worden gestimuleerd, welke gevaren worden weg gefilterd en welke wereldbeelden het ontwikkelt. Dan krijg je iets dat misschien nog subtieler is dan Brave New World.
De kinderen hoeven helemaal niet ongelukkig te zijn. Integendeel: ze kunnen uitzonderlijk gelukkig, intelligent en psychologisch gezond zijn. Maar de vraag wordt dan: Is iemand werkelijk vrij wanneer zijn persoonlijkheid vanaf zijn geboorte door een superintelligente opvoeder optimaal is ontworpen? Dat is een veel interessantere vraag dan alleen “kan een robot beter voor kinderen zorgen?”
Het gevaar zit hem in de subtiliteit
Bostrom redeneert vaak vanuit een soort optimalisatieperspectief: als we een systeem kunnen bouwen dat iets veel beter kan dan mensen, waarom zouden we dat dan niet doen? Maar opvoeding is geen gewone optimalisatieopgave. Er bestaat namelijk geen algemeen geaccepteerde doelfunctie voor de mens. Een robot kan misschien uitstekend optimaliseren voor gezondheid + intelligentie + geluk + sociale vaardigheden + levensduur. Maar misschien wil een ouder daarnaast onafhankelijkheid + creativiteit + karakter + vrijheid + eigenzinnigheid. En een andere ouder wil weer iets anders. Daarom is Brave New World hier eigenlijk relevanter dan een klassieke robot-apocalyps. Het gevaar hoeft helemaal niet te zijn dat robots ons vernietigen. Het kan veel subtieler gaan: dat ze ons zo goed gaan opvoeden dat we uiteindelijk nauwelijks nog zelf bepalen wat voor mensen we worden. En precies daar wordt Bostroms idee filosofisch veel interessanter en ook veel griezeliger.
Ik laat Bostrom nog even aan het woord: “‘Ik probeer geen utopisch beeld te verkopen aan de lezer. Technologie, niet alleen AI, helpt ons om meer te doen met minder, toch? Als je dat doortrekt in het extreme, dan kunnen we straks alles doen wat we willen. Dat leidt uiteindelijk tot een opgeloste wereld, waarin geen problemen meer bestaan. En als er wel problemen bestaan, dan leidt dat tot werk dat machines beter kunnen doen.” En op de vraag of zo’n opgeloste wereld niet heel saai zou zijn antwoordt hij even zo vrolijk: “Verveling kun je in een technologisch volwassen wereld uitschakelen. Je zou de mogelijkheid hebben, als je dat wilt, om een soort medicijn te nemen waardoor het leven heel spannend en levendig aanvoelt. Dus daar kunnen we een vinkje achter zetten.” En: “Het gemiddelde menselijke leven bestaat nu uit forensen naar kantoor en daar elke dag hetzelfde doen’, zegt hij smalend. In zijn toekomstvisioenen gaat dat heel anders. ‘Straks kun je een leven leiden waar je intense liefde en passie voelt en op ontdekkingstocht kunt gaan naar de Amazone. Allemaal dingen die je laten voelen dat je leeft.” Dat is de wereld die Nick Bostrom voor zich ziet: we slikken allemaal een pilletje en lopen de hele dag rond met een VR-bril op ons hoofd. Ik weet niet hoe het u vergaat maar ik gruw ervan. Eenzelfde emotie ervoer ik inmiddels al meer dan veertig jaar geleden bij het lezen van Brave New World en Island.
De wereld opgelost?
In Bostroms utopia, dat ik zelf als een dystopie beschouw, zijn er straks meerdere levensvormen mogelijk: mensen die de voorkeur geven aan een traditionele vorm van bestaan en geüploade mensen met een superbrein. Letterlijk zegt hij: “Ik denk dat er altijd wat mensen zullen zijn die het op de oude manier willen doen, die de traditionele manier van een mensenleven willen ervaren. De vraag is of we daarnaar moeten streven of dat het ook oké is als dat verdwijnt en er in de verre toekomst alleen digitale alternatieven overblijven. Ik bedoel: uiteindelijk verdwijnt de mensheid sowieso, in de hittedood van het heelal.” In dit laatste heeft hij natuurlijk gelijk en het is maar zeer de vraag of de menselijke soort in haar gedaante van vandaag in staat zal zijn te overleven. Ik denk het niet, eerlijk gezegd. Maar waarom voel ik me dan toch zo ongemakkelijk bij het beeld dat Bostrom schetst? Hij vindt het geen enkel probleem dat een met steeds meer technologie verbeterde transhumanistische mengvorm zich in rap tempo van de oorspronkelijke biologische mens weg beweegt. Ik denk dat die oorspronkelijke biologische mens in de kortste keren geknecht zal worden.
Bostrom nog eenmaal geciteerd: “Ik word optimistisch van de gedachte dat we in een opgeloste wereld al het lijden straks kunnen verlichten, niet alleen in de mensenwereld, maar ook in de dierenwereld, met de fabrieken van de bio-industrie, wat we doen met wezens die zwakker zijn dan wijzelf. Met dieren die elkaar levend opeten. Het is zo’n horrorshow. Ik denk dat het afscheid nemen van die negatieve kanten ons zou moeten laten dansen van opwinding.” Mijn grootste probleem met de visie en de benadering van Bostrom is zijn droom van een opgeloste wereld. De wereld zoals wij die nu kennen is tot stand gekomen op basis van miljoenen jaren evolutie. Het roofdier verfijnde zijn jachttechnieken en dwong het prooidier zich verder te bekwamen in het ontlopen van zijn natuurlijke vijand. Ja, dieren, althans carnivoren, eten andere dieren om zich in leven te houden en gezamenlijk creëren zij een ecosysteem dat in balans is. Zodra homo sapiens ten tonele verscheen was het echter gedaan met die balans en al in haar eerste paar honderd jaar slaagde sapiens erin een enorme verwoesting aan te richten in de biodiversiteit. Nu we in het antropoceen terecht zijn gekomen is er van een idyllische pastorale samenleving geen sprake meer. En nou wil Bostrom ook nog af van de jager en de prooi. Als de wetenschap ons laat zien dat we met elkaar het klimaat vernietigen en het ecosysteem aarde in een onvoorstelbare disbalans brengen is onze eerste reactie dat wetenschap ook maar een mening is. En zo beleven we momenteel de zesde massa-extinctie. Maar daar wil de mens niet aan. En als we overvallen worden door door onszelf veroorzaakte natuurrampen geven we er de voorkeur aan onze overheden te verwijten dat ze ons niet bijtijds hebben gewaarschuwd en ons niet bijtijds hebben beschermd, liever dan dat we onszelf afvragen of we zelf misschien iets hadden kunnen doen om die rampspoed af te wenden of te voorkomen. En wat me nog het meeste steekt is dat er zo verschrikkelijk veel mensen zijn die in het geheel niet ontvankelijk blijken voor de vraag: wat voor wereld laten we eigenlijk na aan onze kinderen en kleinkinderen?
Utopia bestaat niet
Een opgeloste wereld? Ik geloof er niet in, al was het maar omdat de menselijke soort niet bij machte is zo’n wereld te creëren. Dat is hubris, hoogmoed ten top zoals de toren van Babel ook gedoemd was te mislukken. Het zijn uiteindelijk mensen die in al hun bekrompenheid en gebrekkigheid de algoritmes samenstellen voor die zogenaamde superintelligentie. Bostrom lijkt te geloven dat superintelligentie tot stand kan komen door volkomen waardenvrije en geobjectiveerde algoritmes maar dat is een illusie. Een gevaarlijke illusie.
Een AI heeft niet noodzakelijk “vooroordelen” in precies dezelfde psychologische betekenis als een mens. Maar haar antwoorden kunnen wel systematisch worden beïnvloed door de trainingsdata, de keuze van de ontwikkelaars, de beloningsfunctie, veiligheidsregels, menselijke feedback, de selectie van trainingsmateriaal, de manier waarop het probleem wordt geformuleerd, commerciële belangen en politieke en juridische beperkingen. En het griezelige is dat de gebruiker vaak niet precies kan zien welke daarvan zijn antwoord bepalen. De AI presenteert een conclusie als het resultaat van intelligent redeneren, terwijl de gebruiker niet kan reconstrueren welke waarden en aannames in dat redeneren zijn ingebouwd. Dat is veel subtieler dan propaganda.
Een einde aan de menselijke pluraliteit
Je krijgt bijvoorbeeld te horen dat X de ideale oplossing is na analyse van alle beschikbare informatie maar er is niemand die je vertelt volgens welke waarden er sprake zou zijn van die ideale oplossing. Als een superintelligentie werkelijk alle problemen zou oplossen, zou zij waarschijnlijk ook moeten beslissen welke menselijke verschillen nog waardevol zijn. Maar misschien zijn juist die verschillen – verschillende opvattingen over geluk, schoonheid, rechtvaardigheid, liefde, vrijheid en betekenis – een essentieel onderdeel van wat wij “menselijk” noemen. Dan is dan de ultieme paradox: Hoe beter de AI erin slaagt de mensheid naar één optimale toestand te brengen, hoe groter het gevaar dat zij precies datgene vernietigt wat niet geoptimaliseerd kan worden: menselijke pluraliteit.
De vraag is niet alleen of een superintelligentie mogelijk is. De vraag is of “wat goed is voor de mensheid” überhaupt een objectief optimaliseerbare grootheid is. En daar komen Bostrom, Huxley, Isaiah Berlin en zelfs Wittgenstein bij elkaar. Maar de eerste heeft van de laatste drie weinig begrepen. En dat voor een filosoof!
Huxley, Berlin en Wittgenstein
Want Bostrom lijkt te veronderstellen dat we als mensen met superintelligentie alle problemen op kunnen lossen. Maar het is juist Aldous Huxley die ons nadrukkelijk waarschuwt voor zo’n opgeloste wereld omdat de mens niet meer zelf hoeft te kiezen wat een goed leven is. Dat heeft de samenleving al voor hem bepaald. Berlin was van mening dat je tal van belangrijke menselijke waarden kunt onderscheiden maar dat het een illusie is dat ze alle tegelijkertijd werkelijkheid kunnen worden. Meer veiligheid kan minder vrijheid betekenen. Meer gelijkheid kan ten koste gaan van individuele keuzevrijheid. Meer sociale samenhang kan minder individualisme betekenen. En volgens Berlin is dat geen tijdelijk technisch probleem dat een voldoende intelligente machine uiteindelijk kan oplossen. Wittgenstein benaderde deze materie van een geheel andere kant: Er is niet noodzakelijkerwijs één verborgen objectieve eigenschap GOED die je met voldoende intelligentie kunt ontdekken. Betekenis ontstaat volgens Wittgenstein in het gebruik van taal binnen menselijke praktijken – zijn beroemde idee van language games. Dus als Bostrom zegt: “Laat de superintelligentie bepalen wat goed is voor de mens.” zou Wittgenstein waarschijnlijk eerst vragen:
Wat bedoel je precies met “goed”? Goed voor wie? In welke situatie? Volgens welke menselijke praktijk? Met welk doel? En wat betekent “voor de mens” eigenlijk? Dat is geen flauw semantisch bezwaar. Het kan betekenen dat we proberen een technische oplossing te geven voor een vraag die helemaal geen technische vraag is.
Ja, AI kan en zal vrijwel zeker leiden tot een vorm van superintelligentie. De belangrijke krachten in de huidige mensengemeenschap verzet zich immers tegen regulering en het indammen van potentiële risico’s en gevaren. Maar die superintelligentie zegt ons niets over de waarden volgens welke wij ons leven in willen richten. En wat ik nog griezeliger vind: superintelligentie zal geen enkele compassie met mij hebben en geen enkele aandrang hebben zich druk te maken over mijn normen en waarden. Ik ben uitgeschakeld, overbodig en nutteloos. Ik heb geen enkele emotionele band meer met mijn omgeving, vermoedelijk ben ik allang weg geëuthanaseerd.
Het zal mij niet lukken om me als biologisch wezen te laten transformeren in een geüpload wezen met talloze technische intelligente implantaten en een superbrein. Ik zal mij daar niets bij voor kunnen stellen. En om dat uit te leggen moet ik het hier hebben over het eindtijdfascisme.
Eindtijdfascisme
Eindtijdfascisme is gemunt door Naomi Klein en Astra Taylor in hun recent verschenen End Times Fascism and the Fight for the Living World. Hun kernbegrip is een vorm van fascisme die volgens hen ontstaat wanneer elites niet langer een gezamenlijke toekomst proberen op te bouwen, maar zich voorbereiden op een catastrofe waarvan ze aannemen dat die onvermijdelijk is. Ze verbinden klimaatcrisis, AI, extreme rijkdom, etnonationalisme en apocalyptisch religieus denken.
Waar Bostrom vraagt: Wat als technologie ons in staat stelt de menselijke conditie fundamenteel te veranderen? stellen Klein en Taylor de vraag: Wat als machtige mensen ervan uitgaan dat de menselijke conditie niet meer collectief te verbeteren valt en zich daarom uit de problemen proberen terug te trekken? Hun voorbeelden zijn de bekende ideeën over bunkers, private enclaves, Mars, raketten en technologische ontsnappingsroutes. Zij noemen dit onder andere een soort “wealth rapture”: wie voldoende rijk is, probeert zich aan de gevolgen van de gemeenschappelijke crises te onttrekken. Daarmee ontstaat een opmerkelijke tegenstelling: waar Bostrom nog denkt dat we met voldoende intelligentie de toekomst kunnen beheersen gaan eindtijdfascisten er van uit dat de toekomst niet meer te beheersen is en dus doe je er verstandig aan dat jij en jouw groep de catastrofe overleven. Maar beiden lijken te beseffen dat de bestaande menselijke wereld fundamenteel instabiel is geworden.
Je kunt erop reageren door het schip in zwaar weer te repareren of je schat in dat het schip gaat zinken en je bouwt voor jezelf een reddingsboot. Klein en Taylor beschrijven het als een vorm van fascisme “zonder horizon voor de toekomst”: niet een groot project om een nieuwe samenleving te bouwen, maar een politiek van crisis, uitsluiting en overleven.
Zij zien dat AI banen vernietigt, macht concentreert, enorme hoeveelheden energie verbruikt en zeer machtige private actoren nog meer controle geeft. Dan wordt AI geen oplossing voor de crisis, maar onderdeel van de crisis. Hun recente werk koppelt expliciet “job-consuming AI” aan de voorbereiding van machtige actoren op de gevolgen van klimaat- en maatschappelijke ontwrichting. En daar zit een opmerkelijke paradox. Want dezelfdetechnologie kan worden gezien als”De machine die de mensheid gaat redden” of als: “De machine waarmee een kleine elite zich boven de mensheid kan plaatsen.”
Geloven dat de perfecte AI alles kan optimaliseren en oplossen is wel de meest ultieme vorm van het vooruitgangsgeloof waaraan ik per definitie geen geloof wens te hechten. En al helemaal niet in een wereld die draait op de kapitalistische principes want dat is een race naar de bodem. De menselijke wereld is per definitie onaf en onvolmaakt. Bostrom denkt daar duidelijk anders over.
Collateral damage
In een interview met Politico’s technologie-nieuwsbrief Decoded zei Altman: “We believe that the world should accept some bad things happening for the benefits of this technology and people having the agency.” Dat betekent ongeveer: “Wij vinden dat de wereld moet accepteren dat er bepaalde slechte dingen gebeuren, vanwege de voordelen van deze technologie en omdat mensen zelf de zeggenschap moeten houden.”
Hij vervolgde dat hij het oneens is met de gedachte dat één laboratorium de zeer krachtige AI zou moeten controleren om ervoor te zorgen dat er niets slechts gebeurt. Hij stelde daar tegenover dat mensen uiteindelijk veel meer goeds dan kwaads met de technologie zullen doen.
Die uitspraak werd op 5 oktober 2026 breed opgepakt en leidde tot discussie over de vraag hoeveel maatschappelijke schade volgens Altman als aanvaardbare prijs voor AI moet worden beschouwd.
Altman gebruikt eigenlijk een utilitaristische redenering: grote verwachte voordelen betekenen onvermijdelijk schade maar uiteindelijk en altijd méér vooruitgang. Hij zegt in feite: We moeten bepaalde slechte uitkomsten accepteren omdat de totale uitkomst veel beter zal zijn.
Maar Berlin zou vragen: Wie bepaalt welke schade acceptabel is en welke voordelen belangrijker zijn? En de vraag die Huxley zou stellen: Wie heeft het recht om namens de samenleving die afweging te maken? En vanuit Wittgenstein zou de vraag komen: Wat betekent “beter” eigenlijk, en voor wie? Het gaat uiteindelijk over welke risico’s een samenleving mag nemen ten behoeve van een verondersteld betere toekomst.
En ik moet zeggen dat ik het een zeer verontrustende gedachte vind dat een stelletje roofkapitalisten uit Silicon Valley hardop mag filosoferen over dit soort belangwekkende thema’s en zich tegelijkertijd mag blijven verzetten tegen onafhankelijke monitoring, regulering en bewaking. Zij zijn en blijven roofkapitalisten die niets moeten hebben van regulering. Ze vinden het dan ook heerlijk dat ze aangejaagd worden door een president die zonder ook maar de geringste kennis van zaken alle mogelijke risico’s bagatelliseert of ronduit ontkent, zoals hij ook al deed bij Covid, fossiele brandstof en het klimaat. Het enige dat hem interesseert is China vóór blijven. Machtspolitiek pur sang en we weten inmiddels dat Trump totaal geen scrupules kent, geen geweten heeft en uiteindelijk alleen zijn eigen moraliteit aanvaardt. En de uitspraak van Altman dat de mensheid veel meer goede dan slechte dingen met AI zal doen is gebaseerd op niets, leegte, drijfzand. Deze mensen verdienen slechts de grootst mogelijke scepsis.
Want diezelfde Altman weigert te zeggen hoe groot “slecht” mag zijn, hij weigert collateral damage te benoemen in meetbare termen. Het maakt nogal uit of AI af en toe een verkeerde tekst produceert, een frauduleuze AI-transactie uitvoert, of iemand oplicht, een foutieve medische diagnose stelt, een autonoom systeem dat een dodelijke fout maakt of grootschalige economische ontwrichting veroorzaakt, miljoenen doden veroorzaakt of een AI die zichzelf buiten menselijke controle brengt. De grote vraag is natuurlijk wie uiteindelijk beslist wanneer er sprake is van een acceptabel risico. Als we die normatieve beslissing overlaten aan de makers van de technologie hebben we ons voorgoed uitgeleverd als Faust aan Mephisto.
Ik zou alleen kunnen leven met een wereld waarin nationale parlementen als enig gremium bindende uitspraken over dit soort morele vraagstukken mogen doen. En de techniek heeft zich daaraan te houden. Maar dat is nu al een utopie, ik zie het niet gebeuren, nergens.
Dat is precies waarom Stuart Russell de huidige AI-race vergelijkt met een situatie waarin bedrijven als het ware Russische roulette met de mensheid spelen: niet omdat ieder AI-systeem noodzakelijk catastrofaal is, maar omdat een kleine kans op een onomkeerbare gebeurtenis fundamenteel anders is dan een gewone productiefout.
In oorlog kan een militair commandant zeggen: Deze aanval levert een belangrijk militair voordeel op; daarom is deze hoeveelheid verwachte burgerslachtoffers niet excessief. Bij AI kan een CEO zeggen: Deze technologie levert uiteindelijk een enorme maatschappelijke meerwaarde op; daarom moeten we bepaalde negatieve gevolgen accepteren.
In beide gevallen ontstaat het risico dat de partij die de voordelen ontvangt óók degene is die bepaalt hoeveel schade aan anderen acceptabel is. Dat is precies waar ik de grootste filosofische spanning zie met Altmans formulering. Want “de wereld moet accepteren” klinkt alsof de wereld gezamenlijk die afweging heeft gemaakt.
Maar feitelijk kan het betekenen dat een beperkt aantal zeer machtige ondernemingen de technologie ontwikkelt; zij bepalen het tempo; zij bepalen grotendeels de veiligheidsgrenzen; en vervolgens wordt de rest van de samenleving verteld welke nevenschade daarbij hoort. Dat is een veel zwaardere uitspraak dan “AI-ontwikkeling kent nu eenmaal ongelukken.”
Bij de jongste topontmoeting tussen Trump en Xi Jiping zaten de roofkapitalisten van AI ook aan tafel en dat is een veeg teken. Hier worden de piketpaaltjes gezet, de afspraken gemaakt die voor u en mij altijd verborgen zullen blijven. Deze lieden horen niet deel te nemen aan zulke besprekingen. Dat geeft een beeld van een wereld waarin AI niet langer slechts een onderwerp van technologiebeleid is, maar een onderdeel van de geopolitieke machtsverdeling zelf.
It’s getting darker now
Tot slot nog een enkel woord over een van Bostroms meest duistere uitingen. Er is een oude e-mail uit 1996 van hem opgedoken, meldt ons de Volkskrant. In die mail schreef hij: ‘Neem nu de zin ‘zwarten zijn dommer dan witten’. Ik hou van die zin en ik denk dat het waar is, maar onlangs ben ik gaan geloven dat ik niet veel mensen aan mijn zijde heb als ik het zo opschrijf.’ Ook gebruikte hij het n-woord. Later nam hij weliswaar afstand van deze mail maar hij schreef ook: ‘Zijn er genetische factoren die bijdragen aan verschillen in de cognitieve vermogens van groepen mensen? (…) Ik laat het aan anderen, met meer relevante kennis, om dat debat te voeren.’ Kennelijk vindt hij de gedachte dat witte mensen slimmer zijn dan zwarte mensen nog steeds aantrekkelijk, ja zelfs plausibel.
Hiermee plaatst Bostrom zichzelf wel in een heel bedenkelijke hoek waar we ook de Amerikaanse influencer Jared Taylor en de eveneens Amerikaanse filosoof en ethicus Nathan Cofnas tegenkomen. White supremacy is hier het toverwoord. De interessante vraag is: past deze episode bij Bostroms vooruitgangsdenken? Bostrom heeft een sterke neiging om menselijke eigenschappen te behandelen als variabelen die gemeten, verbeterd en geoptimaliseerd kunnen worden. Dat zie je terug in zijn denken over intelligentie, human enhancement, transhumanisme, genetische selectie, superintelligentie en uiteindelijk het optimaliseren van de toekomst van de mensheid.
Stel dat je betrouwbaar zou kunnen vaststellen dat groep A gemiddeld hoger scoort op een bepaalde cognitieve test dan groep B. Dan heb je nog helemaal niet vastgesteld dat groep A daarom waardevoller is dan groep B. En dat isprecies de stap die in eugenetisch denken gemakkelijk ongemerkt wordt gemaakt. “Intelligenter” is “beter” is “meer geschikt voor de toekomst” is “meer waardevol”. Maar die laatste drie stappen volgen niet uit de eerste. En dan wordt Bostroms AI-denken ineens interessanter. Er zit namelijk een soort spiegelbeeld in.
Bostrom waarschuwt voor een superintelligente machine die een doel extreem goed optimaliseert, zonder noodzakelijkerwijs onze menselijke waarden te delen. Maar zijn oude mail laat zien hoe gevaarlijk optimaliseren op één dimensie ook bij mensen kan worden. Als intelligentie de centrale maatstaf wordt, krijg je bijvoorbeeld meer intelligentie is meer vooruitgang is betere mensen is betere samenleving.
Maar waarom zou intelligentie de doorslaggevende menselijke waarde zijn? Waarom niet empathie? Of vrijheid? Of diversiteit? Of solidariteit? Of artistieke verbeelding? Of loyaliteit? Of wijsheid? Of simpelweg het recht van ieder individu om níét aan een optimalisatieproject te worden onderworpen?
En er is nog een ongemakkelijker verband: Bostroms huidige denken over superintelligentie draait om het enorme verschil tussen menselijke intelligentie en machine-intelligentie. Zijn eigen website beschrijft zijn huidige werk als grotendeels gericht op AI en de mogelijke komst van superintelligentie. Maar zijn oude redenering over ras vertrekt eigenlijk vanuit dezelfde basishouding: intelligentie is een fundamentele eigenschap die je objectief kunt vergelijken, rangschikken en vervolgens kunt gebruiken om uitspraken over de toekomst te doen. Dat betekent niet dat zijn huidige AI-theorieën racistisch zijn. Dat zou een veel te grote conclusie zijn. Maar het epistemologische patroon is interessant: een sterke voorkeur voor kwantificeren, rangschikken, extrapoleren en optimaliseren. En precies daar zit mijns inziens de diepste kritiek op Bostrom.
“Deze geschiedenis laat zien hoe een bepaalde opvatting van objectiviteit kan omslaan in een geloof dat complexe menselijke waarden uiteindelijk meetbaar, vergelijkbaar en optimaliseerbaar zijn.” En dát is rechtstreeks relevant voor zijn vooruitgangsgeloof. Want als je gelooft dat intelligentie uiteindelijk alles kan oplossen, moet je eerst bepalen wat ‘alles oplossen’ betekent. Eensuperintelligente machine kan misschien de beste middelen vinden, maar zij kan niet uit intelligentie zelf afleiden wat het goede leven is.
Bostrom als wegbereider
Hierin schuilt mijns inziens het grootste gevaar van Bostrom. Door niet ondubbelzinnig afstand te nemen van zijn veronderstelling over het verschil tussen witte en zwarte intelligentie levert hij de perfecte voedingsbodem voor lieden als de eerder genoemde Jared Taylor en Nathan Cofnas.
Bij Jared Taylor wordt het vraagstuk veel explicieter politiek en maatschappelijk. Taylor redeneert vanuit vermeende gemiddelde rasverschillen in intelligentie naar verschillen in onderwijsresultaten, criminaliteit, economische prestaties en maatschappelijke ontwikkeling. In een van zijn eigen uiteenzettingen presenteert hij het verschil in gemiddelde IQ tussen zwarte en witte Amerikanen als een belangrijke verklaring voor verschillen in maatschappelijke uitkomsten. Hij gebruikt vervolgens historische en internationale verschillen tussen bevolkingen als aanvullende argumentatie. Daarmee verschuift de vraag van: “Zijn er gemiddelde verschillen?” naar: “Wat betekenen die verschillen voor hoe een samenleving georganiseerd moet worden?”
Het interessantere probleem is: Wat gebeurt er wanneer je menselijke eigenschappen gaat behandelen als optimaliseerbare parameters? Want dan moet je uiteindelijk een keuze maken over welke parameters belangrijk zijn. Neem intelligentie. Als intelligentie goed is, is méér intelligentie dan altijd beter? En als dat zo is, moet je dan genetische selectie gebruiken? moet je embryo’s selecteren? moet je sommige populaties stimuleren? moeten onderwijsprogramma’s worden aangepast aan gemiddelde groepsverschillen? moet je immigratie mede vanuit cognitieve kenmerken beoordelen? moet je mensen met hogere cognitieve vermogens meer invloed geven?
Geen van die conclusies volgt logisch uit het vaststellen van een IQ-verschil. Daar zit precies de filosofische sprong. Bostroms denken heeft een sterke neiging om een probleem te formuleren als een optimalisatieprobleem. Dat is precies waarom zijn oude e-mail zo relevant is voor zijn latere denken, ook al heeft hij die e-mail inmiddels, zij het halfhartig, verworpen. In 2023 noemde hij de e-mail zelf “disgusting” en zei hij dat die zijn opvattingen toen of nu niet correct weergaf. Maar de filosofische vraag blijft staan: Als intelligentie meetbaar en verbeterbaar is, wie bepaalt dan hoeveel gewicht intelligentie in de rangorde van menselijke waarden krijgt? En dáár loopt een fundamentele scheidslijn tussen Bostrom en bijvoorbeeld Taylor. Taylor gebruikt verschillen om sociale hiërarchie te beargumenteren. Bostrom gebruikt intelligentie vooral als onderdeel van een veel breder project van menselijke en technologische optimalisatie.
Laat ik afronden. Nick Bostrom wordt gezien als een achtenswaardig filosoof maar nader beschouwd brengt hij toch een sinister mengelmoesje van ideeën bij elkaar: vooruitgangsgeloof in combinatie met ongereguleerde AI, hij neemt geen positie in het debat over collateral damage, heeft geen oog voor het gegeven dat de ontwikkelaars van de technologie ook de monitoring over die technologie moeten invullen, hij formuleert geen onderbouwde filosofie over wie bepalend moet zijn voor de moraliteit van moderne technologie en tot slot blijkt hij iemand die een quasiwetenschappelijke voedingsbodem levert voor white supremacy. En ondertussen dendert de AI-trein maar door als de Runaway Train, u heeft hem vast gezien, die ijzingwekkende film met een prachtige hoofdrol voor John Voight. No beast so fierce but knows some touch of pity. But I know none, and therefore am no beast.
Enno Nuy
Oktober 2026
Bovenkant formulier
Onderkant formulier