Home

Harari en de tovenaarsleerling

Rineke van Daalen

1

Kunnen we de tovenaarsleerling nog in bedwang houden? Dat is de kernvraag die het lezen van Yuval Noah Harari’s Homo Deus (2015) bij me oproept. Eeuwenlang hebben mensen technologie en wetenschap naar believen ontwikkeld, en al naar hun machtspositie gebruikt en misbruikt, maar nu dreigen hun toverkunsten zich tegen hen te keren.

Homo Sapiens heeft het ver gebracht. Mensen hebben honger, ziekten, oorlogen en geweld leren bestrijden, met steeds meer kennis en steeds nieuwe middelen. Door taal en schrift zijn ze erin geslaagd om de beperkte vermogens van de hersenen van individuen te overstijgen door ook verbeelde en papieren werkelijkheden te creëren, naast de werkelijkheid van bomen en rotsen. Ze zijn steeds beter geworden in het verwerken van gegevens – qua hoeveelheid, verscheidenheid, het leggen van verbindingen, en de vrijheid van beweging van deze gegevens. Daardoor zijn ze in staat om hele samenlevingen met behulp van ‘algoritmen’ te organiseren, een kernbegrip in Harari’s verhaal. Hij bedoelt er een reeks methodische stappen mee, formules die gebruikt kunnen worden om berekeningen te maken, problemen op te lossen, beslissingen te nemen. In het tijdperk waarin wij leven figureren mensen in wereldomspannende netwerken en beschikken ze over data-verwerkende algoritmen die vele malen intelligenter zijn dan zijzelf. Ze stellen zich steeds hogere doelen, meer geluk en een eeuwig leven, en bij het streven daarnaar maken ze gebruik van die algoritmen. De meest recente fase in deze opmars laat zich het moeilijkst overzien en daarover gaat Homo Deus.

Harari is iemand van de wereldschaal en de lange termijn. Hij put met evenveel gemak uit theorieën over de evolutie en AI als uit psychologie, biologie of geschiedenis. Hij is een fantastische verhalenverteller, die ingewikkelde verbanden begrijpelijk maakt, met ruimte voor detail en onverwachte voorbeelden. Dat maakt het boek een plezier om te lezen en moeilijk om het in kort bestek recht te doen. Eerder schreef Harari Homo Sapiens. A Brief History of Humankind (2011). In Homo Deus. A Brief History of Tomorrow gebruikt hij een historisch perspectief, niet om lessen te trekken of voorspellingen te doen, maar om mensen in hun denken van het verleden te bevrijden. Om hun verbeeldingskracht te stimuleren bij het formuleren van een agenda voor de toekomst.

2

De overeenkomsten en verschillen tussen mensen en dieren vormen in Homo Deus een belangrijk Leitmotiv. Mensen hebben zichzelf in het centrum van de wereld weten te plaatsen, maar het is de vraag met welk recht zij zich superieur noemen. Ook andere dieren blijken onvermoede vermogens te bezitten, een bewustzijn en subjectieve ervaringen zoals vreugde, angst en verlangens. En net als bij mensen worden de organismen van andere dieren gestuurd door ‘algoritmen’, die via sensaties, emoties en verlangens werken. Anders dan algoritmen in machines, die een mechanische en electrische werking hebben.

Maar mensen beschikken ook over kenmerken die hun een voorsprong op dieren geven. Hun intelligentie en hun vermogen om gereedschap te maken zijn groter, én ze beschikken over de taal en verbeeldingskracht om nieuwe intersubjectieve werkelijkheden te creëren – geld, wetten, goden, naties. Ze geven hun leven betekenis in een web van verhalen die ze aan elkaar vertellen. Die zijn niet afhankelijk van individuele opvattingen en gevoelens, noch zijn het objectieve gegevens. Zulke intersubjectief verbeelde werkelijkheden zijn van vitaal belang voor het functioneren van complexe samenlevingen. Ze vormen een voorwaarde voor flexibele samenwerking tussen onbekenden, en ook daarin onderscheiden mensen zich van dieren.

Mensen geloofden – en geloven – in uiteenlopende ficties, in kruistochten en wereldrijken, en ze hebben zulke ficties in de objectieve werkelijkheid vorm gegeven. Zoals de Europese diplomaten die in 1884 landsgrenzen aangaven door lijnen te trekken op de kaart van Afrika. Maar mensen kunnen hun geloof ook verliezen en een wereldrijk als de Sovjet-Unie met één pennenstreek weer ongedaan maken. Voor latere generaties wordt het dan onbegrijpelijk om zich het IJzeren Gordijn nog voor te stellen.

In de loop van de mensheidsgeschiedenis hebben menselijke hersenspinsels aan belang en invloed gewonnen. Niet omdat menselijke vermogens sinds het Stenen Tijdperk zijn veranderd, maar door de uitbreiding van afhankelijkheidsnetwerken, waarbinnen zij uitvindingen zoals het schrift en het geld op steeds grotere schaal gingen gebruiken.

3

Eeuwenlang vormden religies het belangrijkste oriëntatiemiddel van de mensheid, maar de opkomst van de moderne wetenschap heeft dat veranderd. Harari ziet die twee oriëntatiemiddelen niet als gezworen vijanden, evenmin als afzonderlijke domeinen. Beide hebben elkaar nodig.

Het universum werd voor mensen echter pas kenbaar, toen ze het geloof in een groot kosmisch plan opgaven en het universum als een blind en doelloos proces gingen zien. Zelf gingen ze daarin de plaats van goden innemen. Wetenschap gaf hun macht, maar de prijs die ze daarvoor betaalden was een onttovering van de wereld. Dat de samenleving desondanks niet is ingestort, schrijft Harari toe aan het humanisme dat als een nieuw geloof de functie van morele leidraad ging vervullen. Individuen moeten daarin zelf betekenis geven aan hun leven. Hun individuele ervaringen werden de bron van alle betekenis, geloof in hun innerlijke stem werd de maat der dingen, en hun vrije wil, gevoelens en verlangens werden de hoogste autoriteit. Op de vrije markt is dat zichtbaar in de centrale plaats die klanten krijgen toebedeeld, in het democratische kiesstelsel in de plaats van de kiezers; individuele gevoelens worden de bron van schoonheid; onderwijs moet kinderen zelfstandig leren denken. Voor ethische kwesties moeten mensen nu terugvallen op een sensitieve interpretatie van hun eigen ervaringen. Hun gevoeligheid daarvoor vormt zich in wisselwerking met individuele ervaringen – sensaties, emoties en gedachten.

Maar in een data-georiënteerde samenleving zal het humanisme volgens Harari die oriënterende rol niet lang meer kunnen vervullen. Die is eerder weggelegd voor het ‘dataïsme’, met intelligente algoritmen die zijn losgekoppeld van bewustzijn. Deze datastromen ontwikkelen een eigen dynamiek, die bestaande machtsverhoudingen doet kantelen.

Zo is de computerrevolutie niet langer een zuiver mechanische aangelegenheid, die zich in de buitenwereld voltrekt. Het samengaan van levenswetenschappen en technologie maakt het mogelijk om aan de biologie van mensen te sleutelen, ze steeds verder en heel geleidelijk met steeds betere motorische en zintuiglijke middelen te ‘upgraden’, met een intelligentie die veel groter is dan die ze nu bezitten. Maar het risico bestaat dat deze medische doorbraken niet zoals vroeger bij de massa terecht zullen komen. De tijd van de grote legers en de grote fabrieken zou wel eens voorbij kunnen zijn, en dan wordt het de vraag of de overheid en de machthebbers het de moeite waard zullen vinden om nog in volksgezondheid te investeren. De 20e-eeuwse geneeskunde had de genezing van zieken tot doel en had een egalitaire inslag, de 21e-eeuwse ‘geneeskunde’ is ook gericht op het upgraden van een select gezelschap gezonde mensen. Zo kan zich een kleine onmisbare elite van creatieve supermensen vormen, terwijl de rest van de mensheid tot een inferieure, nutteloze kaste gaat behoren. Die loopt dan het gevaar dat de elite hen onderwerpt en uitbuit, zoals deze door de eeuwen heen met dieren heeft gedaan, en met mensen die ze als lagere wezens beschouwde. Dat ondermijnt de liberale logica dat alle menselijke wezens evenveel waard zijn, ook al zijn ze in economisch opzicht ongelijk. Het geloof in de waarde van individuen loopt daarmee gevaar, het liberalisme, de democratie, de vrije markt, het individualisme, de mensenrechten.

4

De data-revolutie heeft de afhankelijkheidsnetwerken van mensen zo complex gemaakt, dat mensen afzonderlijk daar weinig greep meer op hebben. Het verzamelen en analyseren van data is zozeer in omvang en snelheid toegenomen, dat noch democratieën noch dictatoriale regimes dat kunnen bijhouden. Overheden weten niet wat ze met die datastromen aan moeten, bestuurders ontbreekt het aan visie.

Hun controle wordt verder verkleind door het wereldwijde web, dat zonder democratische besluitvorming is ontworpen en dat een heel eigen dynamiek heeft. Het internet is een vrije, wetteloze zone die zich aan overheidscontrole onttrekt en die de soevereiniteit van staten ondermijnt. De algoritmen waarop het is gebaseerd zijn vele malen sneller dan de intelligentie van individuele mensen. De veelvoudige complexiteit waarover Harari schrijft levert stuurloze dystopieën op.

Het is mogelijk dat de mensheid het tijdperk van de data-religie ingaat, met een angstaanjagende sociale ongelijkheid. Maar het is de kunst om ook over andere scenario’s na te denken. Homo Deus kan daarbij helpen, maar het laat ook veel vragen open. Kan ‘het nut’ van mensen niet in andere termen dan ‘betaalde arbeidskracht’ of ‘vechtkracht’ worden gedefinieerd? Hoe kunnen mensen ‘hun bewustzijn’ en verbeeldingskracht gebruiken om de toekomst vorm te geven? Zulke vragen gaan niet alleen over technologie en algoritmen, maar vooral over het gebruik daarvan en de sociale en psychische verhoudingen waarbinnen dat gebeurt. Het gaat dan niet alleen over cijfers, maar ook over betekenisgeving. Harari laat zien hoe urgent dat is, ook al is het minder spectaculair en op korte termijn waarschijnlijk minder lonend dan te investeren in nieuwe technologische mogelijkheden.

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google+ photo

You are commenting using your Google+ account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s