metropolis m

Miriam Rasch, Frictie. Ethiek in tijden van dataïsme, De Bezige Bij, 2020

Patricia de Vries, Algorithmic Anxiety in Contemporary Art, Institute of Network Cultures, 2020

De afgelopen jaren is langzaam het besef doorgedrongen dat de apparaten, softwares en algoritmes waarmee we ons hebben omringd, ons leven en de samenleving op een fundamenteel niveau vormgeven en disciplineren. Het gebruik ervan is nooit neutraal. Die apparaten zijn ten diepste ideologisch, al doen ze zich voor als een oppervlakkige manier om het dagelijks leven wat te veraangenamen of efficiënter te maken, zonder grote gevolgen. Technologische oplossingen, algoritmes en zelfs data belichamen politiek, ze impliceren waarden, ideeën over wat een mens is en manieren om de samenleving in te richten. Dat is op zich geen probleem. Het probleem is dat vaak lijkt of wordt gepretendeerd alsof dit niet het geval is. 

Dataïsme is ‘het geloof dat alles wat bestaat te vertalen is in data en dat daarmee de wereld de goede kant op te duwen is’, schrijft Miriam Rasch in haar onlangs verschenen boek Frictie. Ethiek in tijden van dataïsme (2020) In dit filosofisch getinte onderzoek laat ze zien waarom het belangrijk is om dataïsme te bekritiseren en te blijven onderzoeken. En ze laat zien waarom en hoe de werkelijkheid zal blijven ontsnappen aan de mal die gevormd wordt door data en modellen. Want hoeveel data er ook verzameld worden, de hele werkelijkheid vang je er niet mee. Rasch beschrijft de vervreemding die optreedt als ze geconfronteerd wordt met haar data-selfie, een zelfportret samengesteld uit online sporen van zichzelf. Die vervreemding is een teken dat er iets schuurt. ‘Ergens in het proces van dataficatie ga ikzelf verloren.’

Rasch benadrukt dat data nooit een neutrale uitdrukking van de werkelijkheid zijn. ‘Data liggen niet klaar om opgeraapt te worden’. Ze worden geproduceerd en kunnen pas verschijnen als er een infrastructuur is. De vraag is altijd: waar komen de data vandaan? Wie vraagt haar op? Wie levert aan? Wie valideert? En algoritmes zijn net mensen, schrijft Rasch: zonder vooronderstellingen kunnen ze zich niet oriënteren. Data zijn nooit zomaar data; cijfers zijn nooit zomaar cijfers. Data worden verzameld vanuit een aanname over de werkelijkheid. Geldige data worden gescheiden van ongeldige. Ze krijgen pas betekenis in de context van opvattingen over wat waarde heeft en wat niet.

Data reduceren een rommelige werkelijkheid en maken haar beheersbaar. Het dataïsme gelooft dat data wel alles kunnen vatten en streeft naar een optimale, gladde werkelijkheid waarin identiteit en het gedrag van mensen niets anders zijn dan persoons- en locatiegegevens die toekomstig gedrag voorspellen. De meest extremen onder hen, zoals aanhangers van de Quantified Self-beweging, menen daarom dat je beslissingen beter overlaat aan algoritmes. Die maken tenminste zuivere beslissingen op basis van harde cijfers. Zij zien eindelijk een mogelijkheid om de door vooroordelen besmette menselijke politiek buiten spel te zetten. Zij ontkennen dat modellen en data politiek zijn, wat de weg vrijmaakt om maatregelen te treffen op grond van de uitkomsten van een model, zonder hierover politieke discussie te voeren waarin fricties en andere perspectieven aan bod komen.

Rasch ontkent niet dat dataverzamelen en data-analyse inzicht bieden in aspecten van de werkelijkheid. Wat ze bekritiseert is de veronderstelling dat het verzamelen en analyseren van data niets te maken heeft met politiek of het geloof dat je met data de hele werkelijkheid kunt omvatten. Ze maakt een filosofisch punt, dat ze onder andere uitwerkt aan de hand van de filosofie van Søren Kierkegaard en de object-georiënteerde ontologie van Graham Harman en Timothy Morton: er ontsnapt altijd iets aan de data, er blijft altijd iets in het verborgene, er is altijd een else. Tegenover de belofte van een gladde, voorspelbare wereld waarin technologie voor alles een oplossing heeft een waarin alle processen zijn geoptimaliseerd, zet Rasch de frictie en de vervreemding. Zonder frictie komen we niet vooruit. Aanknopend bij Simone de Beauvoir, voor wie er zonder echec geen moraal is, en die ethiek verbindt aan falen en niet-weten, ziet Rasch in frictie een kern voor een ethiek. Dankzij frictie is de toekomst open. Aan de Russische formalist Viktor Sjklovski ontleent Rasch het inzicht dat kunst het vermogen heeft om de wereld als nieuw te tonen door onze perceptie te vervreemden en de-automatiseren (het ostranenie-begrip). Het zijn bouwstenen van haar poging om zich een toekomst voor te stellen anders dan dat van het dataïsme. Ze nodigt uit tot verder denken en kritische verdieping.

Disciplinering door technologie is altijd een belangrijk onderwerp geweest van kunstenaars die zich inlaten met nieuwe technologie. De fascinatie voor uitdrukkingsmogelijkheden van nieuwe technologie gaat vaak hand in hand met een onderzoek naar de effecten ervan op de wereld. Machine-learning (een vorm van kunstmatige intelligentie), automatische gezichtsherkenning, online-profilering, data-analyse, en de op computernetwerken en -modellen gebaseerde financialisering van de economie, zijn populair in de kunst. De urgentie om na te denken over zulke onderwerpen werd de afgelopen jaren benadrukt door nieuws over de inherente racistische bias van profileringsalgoritmes, de Cambridge Analytica-affaire, of gezichtsherkenningssoftware en zeepdispensers die dienstweigeren bij een zwarte huidskleur in filmpjes die viraal gingen. Het zijn allemaal onderwerpen die ook terugkomen in het boek van Rasch.

In Algorithmic Anxiety in Contemporary Art (2020) bespreekt Patricia de Vries, die net als Miriam Rasch betrokken is bij het Amsterdamse Institute of Network Cultures, het werk van een aantal kunstenaars die reageren op de rol van algoritmes in onze samenleving. Zij vertrekt vanuit de vaststelling dat ‘[d]e alledaagse aspecten van ons leven, zoals werk, reizen, spelen, consumeren, daten, vriendschappen en winkelen, deels gedelegeerd worden aan algoritmes; ze zijn een rol gaan spelen in de productie van kennis, in beveiligingssystemen, in de partners die we kiezen, het nieuws en de informatie die we ontvangen (of niet).’ (vertaling auteur) Jammer genoeg is het boek niet zo aantrekkelijk geschreven als dat van Miriam Rasch, maar het is wel interessant hoe ze laat zien dat algoritmes bestaande waardes en opvattingen ondermijnen, via interpretaties van bijvoorbeeld Zach Blas’ werk over gezichtsherkenning, en Femke Herregravens installaties waarin ze beursalgoritmes een materiële vorm geeft. Onze existentiële angst voor algoritmes, zo argumenteert De Vries, is niet de angst voor algoritmes, maar heeft te maken met hoe ze onze opvattingen over samenleving, kennis en de werkelijkheid veranderen. Net als voor Rasch is de openheid van de wereld een kernpunt van haar betoog, waarbij De Vries zich ook baseert op Kierkegaard in haar analyse van angst. De angst zet aan tot actie en is de sleutel tot verandering.

In zijn roman Klont (2017) liet Maxim Februari zien hoe ons democratische idee van politiek ‘automatisch’ uit zicht raakt door de dataficatie. Zijn meer recente roman De onbetrouwbare verteller uit 2019 biedt argumenten die aantonen dat de werkelijkheid zich niet laat vangen in modellen. Hij merkt daarin terecht op dat we niet alleen moeten nadenken over hoe algoritmes disciplineren, maar ook wat ze kunnen faciliteren. Een mooi voorbeeld hiervan is het politiek gemotiveerde werk van Forensic Architecture dat op basis van nauwgezette analyses van publiek beschikbare data misdaden tegen de menselijkheid onthult, en bewijs levert voor rechtszaken. Kunst kan ook de machtsverhoudingen omkeren, zoals kunstenaar Paolo Cirio in oktober 2020 deed met zijn werk Capture dat hij naaste en solotentoonstelling in Le Fresnoy in het Noord-Franse Tourcoing, ook toonde op een onlineplatform en met posters in de straten van Parijs. Om het gebruik van automatische gezichtsherkenning aan de kaak te stellen, liet hij zien hoe je op basis van publiek beschikbare foto’s, gezichtsherkenningssoftware en onlinedata de identiteit kunt achterhalen van duizend Franse politieagenten. Het gebrek aan regulering van deze software keert zich zo tegen de autoriteiten die aandringen op het gebruik ervan. De autoriteiten were not amused en censureerden de tentoonstelling in Le Fresnoy. De kwestie is een brandende, omdat gezichtsherkenning al lang is geïmplementeerd, niet alleen bij de paspoortcontrole, maar ook in de software voor smartphones en bewakingscamera’s, waarbij deze in toenemende mate wordt gekoppeld aan ‘behavioral prediction’.

Zulke voorbeelden laten zien hoe belangrijk het is dat kunst ruimte biedt aan experiment dat het kritisch vermogen op scherp stelt, en waarbij naast dystopische, en activistische perspectieven ook plek is voor verrassende of vrolijke ideeën. (Al is dat laatste lastig; de vrolijke ideeën blijken bij nader inzien meestal even dystopisch.) Perfecte oplossingen bestaan niet. Wie een gladde weg naar de toekomst belooft, moet gewantrouwd worden. ‘Moeilijkheden maken, overal’ dat is de opdracht, zoals Kierkegaard stelt in het motto van Frictie. In frictie en vervreemding zit een begin van verzet, van weigering; ze leggen een andere toekomst open.

Arie Altena

schrijft over kunst en technologie, werkt voor V2_ Lab voor de instabiele media en Sonic Acts

Recente artikelen