Verder leven in de cloud: de illusies van het dataïsme

Het dataïsme belooft ons een eeuwig leven: in de toekomst kunnen we onszelf uploaden in de cloud om verder voort te bestaan, en nu al kunnen we gevoelsmatig in contact blijven met overledenen door het gebruik van deep fakes. Wat het dataïsme inhoudt en wat deze beloftes betekenen voor ons menszijn, onderzoeken wij in dit artikel. We leggen de achterliggende redeneringen van het dataïsme bloot en ontmaskeren de illusies die achter de belofte van het eeuwig leven schuilgaan.

In de toekomstserie ‘Years & Years’ (BBC 2019) wil tiener Bethany ‘transhuman’ worden. Bethany wil voorbij aan de beperkingen van haar fysieke omhulsel. Gaandeweg zien we hoe Bethany zichzelf wil upgraden door implantaten in haar handen en ogen te plaatsen. Ze hoeft geen telefoon meer vast te houden, want haar handen zijn de telefoon. Ze wil geen foto’s meer maken met een apparaat, want haar ogen zijn haar fototoestel. Aangemoedigd en vergezeld door een vriendin vervaagt ze de grenzen tussen het fysieke en het virtuele zijn. Haar ultieme droom wordt het uploaden van haar brein in de ‘cloud’, zodat haar ‘geest voor altijd blijft leven’. De grootste beperking van haar lichamelijke zijn, de eindigheid van haar lichaam, wordt daarmee opgeheven. Als het aan futuristen in Silicon Valley ligt, ligt deze droom binnenkort binnen handbereik.

De drijvende gedachte achter de beloften van Silicon Valley is het techsolu­tio­nisme en de meer specifieke invulling daarvan, het dataïsme. Het techsolutionisme gaat ervan uit dat technologie het antwoord (‘the solution’) biedt op alle problemen waar de mensheid voor staat. Het dataïsme kleurt dit techsolutionisme in met ‘data’. De Nederlandse filosoof Miriam Rasch beschrijft in haar boek ‘Frictie’ het dataïsme als het heilige geloof dat data de werkelijkheid ten goede kan beïnvloeden. De hedendaagse technologische ontwikkelingen, waaronder de beloften zoals hierboven beschreven, gaan gepaard met grootschalige data­verwerking zoals in dit essay naar voren komt. Data maken de huidige technologieën en dus ook de oplossingen mogelijk. Het dataïsme begint inmiddels religieuze proporties aan te nemen. Net als vele andere religies belooft het dataïsme ons – weliswaar digitaal – het eeuwige leven. Wie dat wil, hoeft slechts zijn data toe te vertrouwen aan de goden van Silicon Valley. De vraag is of we ons door het dataïsme moeten laten leiden.

‘There’s an app for that’: het vermijden van pijn en vermeerderen van geluk

In 2009 lanceerde Apple de slogan: ‘There’s an app for that’. Een slogan waarin het techsolutionisme optima forma tot uitdrukking komt. In de loop van de tijd zijn er miljoenen apps ontwikkeld die ons een makkelijker en aangenamer leven beloven, variërend van het openen van de gordijnen, het vinden van de juiste partner of het meten van je bloeddruk. Om deze belofte te realiseren ver­zamelen ontwikkelaars een enorme hoeveelheid aan gebruikersgegevens, zodat apps continu verbeterd kunnen worden en andere problemen kunnen oplossen. Op deze manier wordt technologie ingezet om een samenleving te realiseren die welvarender, gezonder en gelukkiger is.

Een voorbeeld van hoe dataïsme onze omgang met sterfelijkheid probeert te beïnvloeden komen we tegen in de documentaire ‘Deepfake Therapy’ van de filmmaker Roshan. De documentaire laat op intrigerende wijze zien hoe deepfake­ technologie ingezet kan worden bij rouwverwerkingsprocessen. Met behulp van persoonlijke gegevens van de overledene wordt een levensechte virtuele kopie van de persoon gecreëerd. Nabestaanden hoeven alleen maar hun laptop te openen om met een virtuele versie van hun overleden dierbare te spreken. Deze deepfaketechnologie probeert het ‘probleem’ van rouw op te lossen. De therapievorm probeert namelijk de pijn die het verlies van een dierbare met zich meebrengt te verminderen.

Het verminderen van problemen en het vermeerderen van geluk laat zien dat het techsolutionistische fundament van het dataïsme opvallend veel overeenkomsten vertoont met het utilitarisme van de Britse filosoof Jeremy Bentham (1748-1832). In zijn hoofdwerk ‘An Introduction to the Principles of Morals and Legislation’ uit 1789 stelt Bentham dat menselijk gedrag bepaald wordt door het vermijden van pijn en het maximaliseren van geluk. De filosofie van Bentham is sterk beïnvloed door het hedonisme, waarbij geluk het belangrijkste principe is dat moet worden nagestreefd. Geluk moet volgens Bentham niet alleen het privébelang, maar ook het maatschappelijke belang dienen. Voor het creëren van een utopische samenleving ontwikkelde Bentham zijn wereldberoemde principe van het grootste geluk. Volgens dit principe moet de samenleving streven naar het grootste geluk voor het grootste aantal mensen. Het principe van het grootste geluk zien we terug in het dataïsme. De data waar technologie op gebaseerd en gedreven wordt, wordt namelijk gezien als dé sleutel naar de utopistische samenleving waarin pijn en lijden kan worden vermeden, iets waar Bentham in 1789 slechts van droomde. De vraag is of het optimistische geloof in technologie daadwerkelijk een samenleving creëert waarin men welvarender, gezonder en gelukkiger is.

Schaduwzijden van het dataïsme

De Britse tv-serie ‘Black Mirror’ weet als geen ander de schaduwzijde van technologie op een scherpe wijze in beeld te brengen. Zo sluit de aflevering ‘Be Right Back’ nauw aan op de huidige ontwikkelingen op het gebied van deepfaketherapie. In deze aflevering besluit de jonge moeder Martha haar verongelukte echtgenoot terug uit de dood te halen. Om dit te bereiken schakelt Martha een techbedrijf in dat op basis van zowel haar persoonlijke gegevens als die van haar man (communicatiegeschiedenis, foto’s, video’s, enzovoorts) een virtuele versie van haar man kan reconstrueren. Via een computerscherm kan Martha vervolgens met een virtuele versie van haar man communiceren. Na vele gesprekken met haar man achter het computerscherm, begint Martha het te missen dat ze haar man niet fysiek kan vasthouden. Ze besluit nog een stapje verder te gaan en het bedrijf toestemming te geven om een levensechte kloon van haar echtgenoot te laten maken. Daarvoor zal ze nog meer persoonlijke data van hem moeten delen. Martha is aanvankelijk dolblij dat ze haar man dankzij deze technologie eindelijk weer in haar armen kan sluiten, tot ze er tot grote frustratie achter komt dat de kloon zich niet exact hetzelfde gedraagt als haar overleden man. Martha begint zich ongemakkelijk te voelen en probeert daarom de kloon te lozen. Deze aflevering van ‘Black Mirror’ laat ons achter met de ongemakkelijke vraag of deze technologie rouwverwerking heeft uitgesteld of zelfs geheel heeft belemmerd.

Internetcriticus en publicist Evgeny Morozov benoemde in 2013 al dat technologie maatschappelijke en individuele problemen zou kunnen oplossen, maar dat aan dit solutionisme wel een prijskaartje hangt. Martha heeft bijvoorbeeld al haar persoonlijke gegevens en die van haar man moeten delen met het techbedrijf om gebruik te kunnen maken van hun rouwverwerkingsdiensten. Dit voorbeeld laat zien dat, als het gaat om technologie, we vaak (onbewust) kiezen voor gemak, in de plaats van grondrechten. In dit geval doet Martha afstand van haar recht op privacy. We lijken, zo zouden Rasch en Morozov kunnen zeggen, te streven naar een ‘frictieloos’ bestaan, een bestaan waarin alle ‘ruwe’ randjes van het leven kunnen worden weggevijld door middel van technologie. We ontkennen niet dat technologie een middel kan zijn om bepaalde individuele of maatschappelijke problemen op te lossen, maar het maakbaarheidsgeloof dat het dataïsme verkondigt, berust volgens ons wel op een aantal illusies.

De illusies van het dataïsme

Het dataïsme belooft ons op verschillende manieren een eeuwig leven. Zo bestaat er de radicale belofte dat we onszelf in de toekomst zouden kunnen laten voortbestaan in de cloud. Nu al zien we aan de hand van de technologische mogelijkheden dat deep fakes ons in staat stellen om met overleden dierbaren te interacteren, waardoor op zijn minst de suggestie wordt gewekt dat deze personen weer tot leven worden gewekt. Vanuit dit perspectief bekeken lijkt het dataïsme een oplossing te hebben gevonden voor het eindige leven. Dit is echter gebaseerd op een aantal illusies.

Ten eerste, zo blijkt uit het voorbeeld van Martha uit ‘Black Mirror’, is het leven een stuk minder maakbaar dan techbedrijven doen voorkomen. Ook al preten­deert het dataïsme menselijke beperkingen als ziekte en dood in de nabije toekomst te overwinnen, dan nog zullen er altijd problemen blijven bestaan die een prettig leven in de weg staan. Het tragische is dat het solutionistische denken een maakbaar, beheersbaar en verlengbaar leven voorspiegelt, terwijl deze belofte hiermee niet zal worden ingelost.

Een tweede illusie is dat ‘een goed leven’ een hedonistisch en frictieloos leven is. In het gedachte-experiment ‘de geluksmachine’ van de Amerikaanse filosoof Robert Nozick wordt het brein van een deelnemer aangesloten op een machine die louter plezierige ervaringen simuleert voor diegene die in de machine zit. Volgens Nozick willen de meeste mensen zich niet laten ‘inpluggen’ in een dergelijke geluks­ machine, omdat het geluk dat de machine genereert berust op een illusie. Het is geen werkelijk ervaren geluk. Op de korte termijn lijken de voorspiegelingen van het dataïsme aantrekkelijk, maar op lange termijn gaan ze voorbij aan andere waarden en grondrechten, zoals het recht op privacy.

Kortom: als het al mogelijk zou zijn dat we, zoals Bethany droomt, ons brein kunnen uploaden en zo eeuwig kunnen leven, dan is het ons inziens een illusie om te denken dat het eeuwig leven een paradijselijk leven zou zijn. De eindig­heid, de worsteling, en de kwetsbaarheid ervan geven het leven gelaagdheid, diepgang en betekenis. Het is geen probleem dat opgelost moet worden. Een levenspad zonder frictie, is niet de gemakkelijkste weg, maar ongemak zet ons in beweging. Als het leven alleen berust op het ervaren van geluk, dan ontneemt dit ons het leven te leven.

Geschreven door

Ruwan van der Vaart, mediavormgever, theoloog en filosofiestudent

Piek Visser-Knijff, data-ethicus, Filosofie in actie.

Literatuur

Bentham, J. (2000). An Introduction to the Principles of Morals and Legislation. Kitchener: Batoche Books. (Origineel werk gepubliceerd in 1781)

Harris O. (Regisseur). (2013). Be Right Back. In Brooker C. & Jones A. (Uitvoerend producenten), Black Mirror [Netflix]. Via https://www.netflix.com/nl-en/, geraadpleegd op 30 maart 2021.

Kurzweil, R. (2013, 21 juni). Ray Kurzweil: Immortality by 2045 [Video-bestand]. Via https://www.kurzweilai.net, geraadpleegd op 23 april 2021.

Nozick, R. (1974). Anarchy, State, and Utopia. USA: Basic Books.

Rasch, M. (2020). Frictie: Ethiek in tijden van dataïsme. Amsterdam: de Bezige Bij.

Tucker, I. (2013, 9 maart). Interview Evgeny Morozov: “We are abandoning all the checks and balances”. The Guardian. Via https://www.theguardian.com/technology/2013/mar/09/evgeny-morozov-technology-solutionism-interview, geraadpleegd op 23 april 2021.

Afbeelding: Billy Huynh, via Unsplash