Kosmoloog Martin Rees geeft de mensheid 50-50 kans om de 21e eeuw te overleven

Martin Rees is de Britse koninklijke astronoom, hoogleraar aan de universiteit van Cambridge, en een van de meest vooraanstaande kosmologen ter wereld. In een boek uit 2003, getiteld Our Final Hour, gaf hij de beschaving een 50-50 kans om de 21e eeuw te overleven, een schatting die hij bereikte na een inventarisatie van alle manieren waarop de mensheid zichzelf zou kunnen vernietigen.

Rees heeft dat boek opgevolgd met een ander over existentiële bedreigingen, getiteld On the Future: Prospects for Humanity. En de uitkomst van het nieuwe boek is duidelijk: de keuzes die we vandaag maken, en in de komende decennia, zullen waarschijnlijk het lot van het leven op aarde bepalen.

Rees’ grootste angst is onze toegenomen technologische capaciteit, die slechts een paar mensen de macht geeft om meer schade aan te richten dan ooit tevoren. Zo zou een handjevol kwaadwillenden kwaadaardige code kunnen vrijgeven die computernetwerken over de hele wereld ontwricht, of bioterroristen zouden een dodelijk virus kunnen ontketenen dat snel uitgroeit tot een wereldwijde pandemie, of overijverige natuurkundigen zouden een zwart gat kunnen laten ontstaan door protonen tegen elkaar te laten botsen.

Dan is er nog de zeer reële mogelijkheid dat bio-engineering technologieën, zoals genbewerking, ongekende ongelijkheden in de samenleving zullen veroorzaken die het leven zoals wij dat kennen zouden kunnen veranderen. En dan is er nog het dreigende gevaar van kunstmatige intelligentie, dat, afhankelijk van wie je het vraagt, ofwel een existentiële bedreiging is ofwel een zwaar overdreven nonconcern.

Ondanks dit alles noemt Rees zichzelf nog steeds een “techno-optimist”. Dat wil zeggen, hij denkt dat we wetenschap en technologie kunnen inzetten om onszelf en de planeet te redden. Ik sprak vorige week met hem over waarom hij hoopvol blijft ondanks al deze bedreigingen, en waarom hij vindt dat wetenschappers een ethische plicht hebben om zich politiek in te zetten. Ik vroeg hem ook of hij denkt dat de mens de aarde zal moeten ontvluchten als we op lange termijn willen overleven. (Zijn antwoord zou u kunnen verrassen.)

Een licht bewerkt transcript van ons gesprek volgt.

Sean Illing

In uw vorige boek, Our Final Hour, zei u dat we 50 procent kans hadden om de 21e eeuw te overleven. Hoe schat u onze kansen vandaag de dag in?

Martin Rees

Wel, dat was duidelijk een ruw getal, maar ik geloof nog steeds dat er ernstige tegenslagen voor onze beschaving kunnen zijn, en ik maak me nu meer zorgen dan toen over het feit dat technologie betekent dat kleine groepen of zelfs individuen door fouten, of door ontwerp, een verstorend effect kunnen hebben dat zich wereldwijd verspreidt.

Dit is iets betrekkelijk nieuws, en ik weet niet zeker of we de gevaren volledig onderkennen. Technologie heeft niet alleen de manieren waarop we onszelf kunnen vernietigen vergroot, het is ook veel makkelijker voor ons geworden om het te doen. Dus dat betekent dat we altijd dicht bij een potentiële wereldramp zijn.

Ik maak me meer zorgen dan ik deed over de collectieve impact die we hebben op de hulpbronnen en het milieu. We blijven bouwen en uitbreiden, en we eisen meer energie en meer hulpbronnen, en we zijn op wat een onhoudbare weg lijkt te zijn. Mijn zorgen hierover zijn sinds 2003, toen ik Our Final Hour schreef, alleen maar toegenomen.

Sean Illing

Wat baart u op dit moment de meeste zorgen? Wat houdt u ’s nachts wakker?

Martin Rees

Op de korte termijn maak ik me zorgen over de ontwrichtende effecten van cyberaanvallen of een vorm van biologische terreur, zoals de opzettelijke verspreiding van een dodelijk virus. Dit soort gebeurtenissen kan op dit moment gebeuren, en ze kunnen worden uitgevoerd door kleine groepen of zelfs door een individu. Het is buitengewoon moeilijk om je tegen dit soort dreigingen te beschermen.

Dergelijke verstoringen zullen in onze toekomst een steeds groter probleem worden, en het zal leiden tot meer spanningen tussen privacy, veiligheid, en vrijheid. En het zal alleen maar acuter worden naarmate de tijd vordert.

Ik ben ook bang dat onze samenlevingen nu brozer zijn en minder tolerant voor verstoringen. In de Middeleeuwen, bijvoorbeeld, toen de Zwarte Pest de helft van de stadsbevolking uitroeide, gingen de anderen als het ware fatalistisch verder.

Maar ik denk dat als we vandaag de dag een soort pandemie zouden hebben, en als die eenmaal de capaciteit van ziekenhuizen te boven zou gaan om alle gevallen te verwerken, dan denk ik dat er een catastrofale sociale ontwrichting zou zijn lang voordat het aantal gevallen 1 procent zou bereiken. Met andere woorden, de paniek zou zich onmiddellijk verspreiden en onmogelijk in te dammen zijn.

Sean Illing

Laten we even afstand nemen van de richel en het hebben over wetenschap en technologie. Denkt u dat de technologische veranderingen te snel gaan om de samenleving bij te houden?

Martin Rees

Ik denk dat het verbazingwekkend snel gaat. Is het te snel voor de samenleving? Ik weet het niet. Ik weet wel dat we moeite hebben om met al deze technologieën om te gaan. Kijk maar naar de impact van sociale media op de geopolitiek op dit moment. En de risico’s van kunstmatige intelligentie en biotechnologie zijn veel groter dan die van sociale media. Maar deze dingen hebben ook potentieel enorme voordelen voor de samenleving, als we ze op verantwoorde wijze kunnen beheren.

Sean Illing

Wel, dat is zo’n beetje mijn punt: Technologie gaat sneller dan cultuur, en de kloof wordt groter. Ik zie geen reden om te geloven dat we deze innovaties “verantwoord” kunnen beheren. In feite lijken we het tegenovergestelde te doen: Technologie ontwricht de samenleving, en dan worstelen we om ons aan te passen in het kielzog van deze ontwrichtingen.

Martin Rees

Ik begrijp het punt zeker, en ik ben het er niet noodzakelijk mee oneens. De nadelen zijn enorm, en de inzet wordt steeds hoger. Maar deze veranderingen komen eraan, of we dat nu willen of niet, dus moeten we proberen de voordelen te maximaliseren en tegelijkertijd de risico’s te minimaliseren.

Sean Illing

Denkt u dat onze grootste existentiële bedreiging op dit moment wijzelf zijn en niet een of andere externe bedreiging vanuit de natuur?

Martin Rees

Ik denk dat de belangrijkste bedreigingen de bedreigingen zijn die wij zelf veroorzaken. Ik ben astronoom, maar ik maak me geen zorgen over asteroïden die de aarde binnenstormen en ons vernietigen, omdat we die dingen kunnen zien aankomen. Ik maak me zorgen over menselijke dwaasheid, menselijke hebzucht en menselijke fouten. Ik maak me veel meer zorgen over, laten we zeggen, een kernoorlog dan over een natuurramp. Menselijke bedreigingen zoals deze groeien veel sneller dan traditionele risico’s zoals asteroïden, en in veel gevallen zijn we gewoon niet voorbereid om ermee om te gaan.

Sean Illing

Je hebt het in het boek veel over samenwerking en de noodzaak van betere besluitvorming. Ik maak me vaak zorgen dat onze stimuleringsstructuren – op individueel en collectief niveau – zo slecht zijn afgestemd op onze werkelijke belangen dat het bijna onmogelijk is ons voor te stellen dat we het soort slimme langetermijnbeslissingen nemen die we zullen moeten nemen om de toekomst te navigeren. Ik ben benieuwd hoe u hierover denkt, en welke rol wetenschap en technologie volgens u spelen.

Martin Rees

Ik ben het ermee eens dat de kloof tussen de prikkels die ons gedrag sturen en onze werkelijke belangen steeds groter wordt, en veel van de problemen waarmee we worden geconfronteerd, vereisen internationale afspraken en langetermijnplanning, waarbij klimaatverandering een duidelijk voorbeeld is. En we hebben de grootste moeite om politici ervan te overtuigen dat ze moeten doen wat in ons langetermijnbelang is, als het enige waar ze om geven is herkozen te worden.

Als wetenschappers moeten we proberen oplossingen voor deze problemen te vinden, maar we moeten ook het bewustzijn en de belangstelling van het publiek vergroten. Politici geven om wat er in de pers staat, wat er in hun postvakjes staat, en wetenschappers moeten doen wat ze kunnen om deze dringende problemen op hun radar te houden. Ik beschouw dit als mijn plicht als wetenschapper.

Zelfs hebben wetenschappers geen speciale wijsheid als het gaat om politiek of ethiek, dus hebben wij niet de antwoorden als het gaat om beslissingen over wat we moeten waarderen of doen. Het bredere publiek moet bij dat gesprek worden betrokken, en wetenschappers kunnen helpen door hen zoveel mogelijk voor te lichten.

Sean Illing

Ik ben blij dat je daar op ingaat, want ik denk dat dit zo’n cruciaal punt is. We vergeten vaak dat de wetenschap een instrument is dat ons helpt meer te krijgen van wat we willen, maar het kan ons niet vertellen wat we zouden moeten willen of doen. Maar als je nu naar onze cultuur kijkt, is het voor mij duidelijk dat we onze waarden laten bepalen door de technologieën die we hebben gebouwd, en niet andersom.

Martin Rees

Je maakt een geweldig punt, en je hebt helemaal gelijk als je zegt dat we een waardesysteem nodig hebben dat de wetenschap zelf niet kan verschaffen. In het boek heb ik het over de atoomgeleerden die tijdens WO II kernwapens ontwikkelden, en van wie velen na de oorlog politiek betrokken raakten om te doen wat ze konden om de krachten die ze hielpen ontketenen te controleren. Zij dachten dat zij een speciale verplichting hadden.

En ik denk dat dit ook geldt voor wetenschappers op andere gebieden. We zien dat sommige van de grote techbedrijven zoals Facebook en Twitter hun verantwoordelijkheid nemen, misschien te laat in het spel, maar er zijn andere voorbeelden van wetenschappers die werken op gebieden zoals bio-engineering die de risico’s nu begrijpen en veel moeite doen om ze te beheersen.

Maar het grote verschil nu is dat er veel meer mensen in de wereld zijn met expertise in al deze technologieën, vooral in AI en bio-engineering. En de commerciële druk om ze te ontwikkelen is enorm, wat betekent dat pogingen om regels op te leggen maar matig succes zullen hebben.

Dus zelfs als we een ethiek ontwikkelen om deze technologieën te sturen, weet ik niet zeker of we die ooit op mondiaal niveau zullen kunnen afdwingen. En dat is buitengewoon beangstigend.

Sean Illing

Mensen als Steven Pinker beweren dat het leven gestaag beter wordt, en dat rede en technologie de belangrijkste aanjagers van die verbetering zijn. Er is iets ontegenzeggelijks waar in dit argument, maar ik denk dat het ook iets fundamenteels mist over onze aard en de kwetsbaarheid van de wereld die we hebben geschapen.

Martin Rees

Ik heb Pinker’s boek gelezen, en ik heb met hem hierover van gedachten gewisseld. Er is geen twijfel dat hij gelijk heeft over de verbetering van de levensverwachting en minder mensen in armoede en zo, maar ik denk dat hij twee dingen over het hoofd ziet. Het eerste is wat ik eerder zei over nieuwe technologieën die nieuwe bedreigingen creëren die relatief gemakkelijk kunnen worden ontketend door kleine groepen mensen of individuen.

Hij lijkt ook te denken dat de mens ethisch vooruit is gegaan vergeleken met eerdere generaties, en daar ben ik niet zo zeker van. In de middeleeuwen was het leven ellendig en de mensen konden niets doen om het te verbeteren. Vandaag de dag is de kloof tussen hoe de wereld is en hoe hij zou kunnen zijn enorm.

We hebben een miljard mensen in de wereld die in bittere armoede leven, die verlicht zou kunnen worden door de rijkdom van de duizend rijkste mensen op deze planeet. Dat we dat laten voortbestaan, zegt zeker iets over hoeveel – of weinig – morele vooruitgang we sinds de middeleeuwen hebben geboekt.

Sean Illing

Gelooft u dat de mensheid verder zal moeten gaan dan de aarde als ze op de lange termijn wil overleven?

Martin Rees

Ik hoop zeker van niet. Ik hoop dat er een paar pioniers zullen zijn die naar de ruimte reizen en een kleine kolonie op Mars stichten, maar ik denk dat dit aan de particuliere sector moet worden overgelaten. Ik zie geen enkel praktisch nut meer voor NASA om mensen naar de ruimte te sturen. De particuliere sector kan het zich veroorloven om meer risico’s te nemen dan NASA, en veel avonturiers zijn blij om te leven met de risico’s van ruimtereizen.

We kunnen hopen dat deze mensen naar Mars zullen gaan en in de voorhoede van de ontwikkeling van nieuwe technologieën zullen staan, omdat ze alle stimulans zullen hebben om zich aan te passen aan een vijandige omgeving. Maar ik ben het sterk oneens met Elon Musk en mijn overleden collega Stephen Hawking die spreken over massa-immigratie naar Mars. Ik denk dat dat een gevaarlijke waanidee is, omdat Mars een vijandigere omgeving zal zijn dan de top van de Everest of de Zuidpool, en het aanpakken van de klimaatverandering hier op aarde is veel belangrijker dan het terraformen van Mars.

Sean Illing

U noemt uzelf een “techno-optimist” ondanks het feit dat u twee boeken hebt geschreven over alle manieren waarop menselijk leven kan worden vernietigd. Waar komt uw optimisme vandaan?

Martin Rees

Ik ben een optimist in die zin dat ik geloof dat het vermogen van de technologie om iedereen een goed leven te bieden, niet alleen in onze landen, maar in de hele wereld, zal toenemen. Maar ik ben ook een ethisch pessimist in die zin dat ik erken dat dit niet gebeurt op de manier waarop het zou moeten gebeuren. We hebben schrijnende armoede in onze landen, we hebben hele regio’s in de wereld waar mensen in armoede leven, en dit is een politiek falen. En deze kloof wordt groter, niet kleiner.

Sean Illing

Denkt u dat de mensheid zal moeten evolueren naar iets anders, naar iets postmenselijks, om nog 100 eeuwen te kunnen overleven?

Martin Rees

De mensheid is in termen van lichaamsbouw en mentaliteit niet zo veel veranderd. Als door technologie of ruimtevaart of een andere ontwikkeling de evolutie zich op een veel snellere tijdschaal gaat voltrekken, zal dat belangrijke gevolgen hebben voor het menselijk leven.

We kunnen bijvoorbeeld nog steeds genieten van de literatuur die Griekse en Romeinse auteurs meer dan 2000 jaar geleden schreven, omdat het karakter van de mens niet zo veel veranderd is, en we hun gevoelsleven herkennen in onze eigen wereld. Maar als we bedenken wat er zou kunnen gebeuren met bio-ingenieurstechnieken of kunstmatige intelligentie, dan is het heel goed mogelijk dat mensen over een eeuw of twee alleen nog maar een algoritmisch begrip hebben van ons en hoe we waren.

Als dat gebeurt, als we deze continuïteit tussen generaties mensen verliezen, dan zal dat een totale game changer zijn. Ik weet niet wat er daarna komt, maar we zullen een nieuwe fase van de menselijke evolutie zijn ingegaan.