
De AI-afgrond – over de gevaren maar ook kansen van artificial intelligence
Artificiële intelligente wordt in de beeldvorming vaak afgeschilderd als een gevaarlijk monster dat de mensheid vroeg of laat volledig zal gaan overvleugelen. Zover is het nog lang niet, maar de ontwikkelingen gaan snel. Er is reden om waakzaam te zijn, maar er zijn bovenal veel nieuwe kansen.
‘In this arrogance which fancies it has, by the gift of a meal, acquired the self of another’s ‘I’ and thereby gained for itself the submission of that other’s inmost being, it overlooks the inner rebellion of the other; it overlooks the fact that all restraints have been cast off, overlooks this state of sheer disruption in which, the self-identity of being-for-self having become divided against itself, all identity, all existence, is disrupted, and in which the sentiment and view-point of the benefactor suffer most distortion. It stands on the very edge of this innermost abyss, of this bottomless depth, in which all stability and Substance have vanished; and in this depth it sees nothing but a common thing, a plaything of its whims, an accident of its caprice. Its Spirit is a subjective opinion wholly devoid of essentiality, a superficiality from which Spirit has fled.’
– G.W.F. Hegel, Phenomenology of Spirit, Oxford: Oxford University Press, 1977, p. 519 (vertaald door A. V. Miller)
Artificiële intelligentie (ai) gaat te diep. Ai is saai. Net zoals Elon Musk voor de grap The Boring Company begon, terwijl het boren van tunnels in de aarde in werkelijkheid heel serieus moet worden genomen, zijn bedrijf bouwt per slot van rekening infrastructuur, zo dringt ai door in zowel onze cognitieve als in onze fysieke en ecologische infrastructuur. Al bijna tien jaar lang is dit gaande. Stilletjes, als naakte mollen in de grond, volledig blind, maar begiftigd met verschillende zintuiglijke vermogens, een onverwoestbaar instinct en het twijfelachtige verlangen om door te blijven graven en boren. Deze entiteiten hebben op een subtiele manier onze technologische infrastructuur ondermijnd en technologische ecologieën gecreëerd die we nog moeten leren begrijpen.
In 2015 liet zij zich plotsklaps zien op Reddit [een Amerikaanse sociale nieuwswebsite, red.]. Met een toon van vertier en verbijstering werd ons verteld dat dit, DeepDream en Inception genaamd, het antwoord was op de vraag van schrijver Philip K. Dick of androïden dromen van elektrische schapen. Afbeeldingen verspreidden zich overal op internet, met alle kleuren van de regenboog, caleidoscopisch, kleurrijk, zeker diepzinnig, maar relatief onschuldig en grappig genoeg om de interesse te wekken van miljoenen mensen om ze te stimuleren om ermee te spelen. De tool daarvoor, gemaakt door Google, heette TensorFlow, werd vrijgegeven als open sourcesoftwareprogramma en onmiddellijk op grote schaal gebruikt. ‘Deep Dream Generators’, websites waar gebruikers afbeeldingen kunnen uploaden en in ruil daarvoor hun machinale hallucinatie teruggeprojecteerd krijgen, doken overal op. Zonder het echt te beseffen, waren we begonnen iets te voeden, te trainen, aan te moedigen en op te voeden, zonder ons bewust te zijn van de consequenties. We werden tegelijkertijd de hulpbron en de mijnwerker.
Kort na DeepDream werd in 2016 een softwareprogramma genaamd AlphaGo gebouwd met behulp van TensorFlow. Net als zijn imaginaire voorganger versloeg het Lee Sedol, de Zuid-Koreaanse Go-grootmeester [Go is een van origine Oost-Aziatisch bordspel voor twee spelers, red.]. Dit was een bijzonder moment voor de politiek en paranoia rond mechanische intelligentie. Terwijl het schaakspel al volledig was vernietigd door de pure rekenkracht van Deep Blue in de historische wedstrijd tegen Garry Kasparov in 1997, werd Go altijd gezien als nog complexer en niet kapot te krijgen met de brute kracht van het waanzinnig snel schakelen tussen nullen en énen, maar enkel beheersbaar door dat ondoorgrondelijke ding dat ‘intuïtie’ wordt genoemd, wat alleen mensen zouden kunnen bezitten.
Go betoverde al eeuwenlang wiskundigen en ingenieurs. Filosoof Gottfried Wilhelm Leibniz hoorde over het spel in brieven die hij in de zeventiende eeuw ontving van jezuïtische missionarissen in Beijing. In juni 1949 ontving Norbert Wiener, de uitvinder van de wetenschap en filosofie achter feedbackcycli, die hij een jaar eerder ‘cybernetica’ noemde, een brief van zijn Chinese vriend Zhao Yuanren, waarin hij hem vertelde dat Go misschien wel de interessantste uitdaging zou zijn voor het soort machines dat tijdens de Tweede Wereldoorlog was uitgevonden. Wiener had in het begin van de jaren dertig twee jaar op de Tsinghua-universiteit in Beijing lesgegeven en er onderzoek gedaan. Hij werkte op het gebied van analoge computers en circuit- en netwerkdesign, terwijl hij de Chinese taal en de Chinese natuurlijkfilosofie bestudeerde. Het vergt niet veel moeite om de eeuwig terugkerende, harmonieuze elementen yin en yang uit het Boek der veranderingen en het taoïsme te verbinden aan de feedbackcycli van natuur en technologie in de naoorlogse cybernetica van Wiener. Zhao Yuanren was zijn tolk (en ook die van Bertrand Russell en Albert Einstein tijdens hun bezoeken aan China) en één van de weinige Chinese deelnemers aan de oprichtingsconferenties van cybernetica in de vroege jaren vijftig, de zogenaamde Macy-conferenties. Hij was ook vertaler, voornamelijk van het werk van Lewis Carroll. Die vertalingen werden zo’n hit in China dat ze leidden tot een Chinees vervolg, Alice’s avonturen in China. Wat ligt er achter de spiegels en achter Wonderland?
Maar weer even terug naar de Koreaanse nationale tragedie; de historische nederlaag van Lee Sedol tegen AlphaGo (de naam komt niet geheel toevallig bijna overeen met de naam van de gestoorde superbesturingscomputer Alpha60 uit Jean-Luc Godards film Alphaville uit 1968). Toeschouwers van de wedstrijd waren het meest verbaasd over het feit dat de machine gedrag vertoonde dat ze niet konden begrijpen. Go werd beschouwd als één van de meest essentiële uitdrukkingen van menselijke intuïtie, zoals al eerder gezegd. De software maakte zetten die totaal onverwacht en ongekend waren. Lee Sedol won wel één van de vijf partijen, en wel op de meest bizarre manier: hij probeerde, met succes, om de manier van spelen van AlphaGo na te bootsen. Dit verandert, uiteraard, de betekenis van de Turingtest, de historische manier om de mens van de machine te onderscheiden op het vermogen van mensen om elkaar te imiteren en voor de gek te houden, op manieren die bijna niet in woorden uitgedrukt kunnen worden. Natuurlijk had AlphaGo geen eigen brein ontwikkeld. Of misschien wel, wat zou betekenen dat we de soevereiniteit van ons eigen bewustzijn compleet zouden moeten herzien. De meest waarschijnlijke verklaring zou zijn dat het systeem gewoon meer Go-spellen had gespeeld dan welke menselijke speler dan ook ooit zou kunnen spelen of onthouden. De kans dat de software iets zou doen wat nog nooit iemand eerder had gezien, was dus niet zo klein. In ieder geval heeft de wedstrijd geleid tot een nacht van nationale rouw in Zuid-Korea, met berichten over binge-drinken. De volgende dag schonk de Zuid-Koreaanse overheid ongeveer 1 miljard dollar aan ai-onderzoek. Dit was dus de manier om financiering te krijgen.
Eind 2017 versloeg een nieuwe generatie AlphaGo, genaamd AlphaGo Zero, met groot gemak zijn voorgangers en deed dit zonder de mogelijkheid het spel van tevoren al te spelen. Aanvankelijk kende de software niets anders dan de regels van Go en leerde het zichzelf wat een bord, een steen en een partij zijn door eenvoudigweg met zichzelf te spelen. In korte tijd overtrof het de capaciteiten van niet alleen alle menselijke, maar ook van alle machinale spelers. Tot op de dag van vandaag blijft AlphaGo Zero ongeslagen.
Ai is overal
Door onze schermen vol te zetten met kleurrijke afbeeldingen en door ons spelletjes te geven, had het Computational-Infrastructural Complex, op de zeer Romeinse imperiale manier van panem et circenses, de weg geëffend voor een ongekende herstructurering van onze intelligente infrastructuren. Alle grote platforms hebben zich erop aangepast. We hebben Facebook niet alleen al onze eigen gezichten gegeven, maar ook die van alle mensen die we kennen en ontmoeten. Facebooks subafdeling FAIR (Facebook Artificial Intelligence Research) heeft Deep Face gemaakt, dat al vele jaren beter is in het herkennen van gezichten dan wie dan ook ooit zou kunnen zijn (het is in staat om biologische relaties te herkennen tussen, laten we zeggen, jou en de drie maanden oude peuter van je achterneef). We hebben Twitter 140 eenvoudige karakters gegeven van inhoud en betekenis, syntaxis en semantiek. We hebben Google onze ideeën over kennis en query gegeven. De Chinese gigant Baidu bracht hun machine learning toolset Paddle uit en de Chinese regering heeft, na baanbrekend te zijn geweest met al hun technologieën voor beeldherkenning in de ‘proeftuin’ van de altijd rebelse semiautonome regio Xinjiang om de soms opstandige Oeigoerse bevolking onder controle te houden, massale ai-gedreven surveillance-infrastructuren op hun enorme bevolking losgelaten.
Het nieuwste, grappigste en meest cynische voorbeeld is de distributie van toiletpapier op openbare toiletten. Aangezien de infrastructuur van kanalisering en riolering in veel grote Chinese steden, waaronder Beijing, zo slecht is dat grote delen van de bevolking zelfs geen toilet hebben in hun huis, zijn openbare toiletten heel gangbaar. Om diefstal van wc-papier uit deze openbare toiletten tegen te gaan, moeten mensen nu een gezichtsherkenningsprocedure ondergaan om toiletpapier te kunnen krijgen (waardoor biometrische databases eindeloos en van twee kanten worden aangevuld). Dit is waar de deep shit samenkomt met de new normal: oude en nieuwe infrastructuren botsen op elkaar en de meest elementaire menselijke behoeften worden onderworpen aan extreme bewaking en controle. Burgers worden ‘shitizens’, gezichten die in kaart worden gebracht om te kunnen poepen.
De mol in onze zielen van deep learning bleef bouwen aan wat we ‘convolutionele neurale netwerken’ noemen om alle sentimentele sedimenten op te vissen die verzonken in de vloeibare oppervlakten van onze technologische interfaces liggen. Het bedacht zijn eigen diepzeemijnbouw en vistechnieken, en haalde de meest onverwachte, vreemd uitziende, donkere, soms giftige, soms zeer waardevolle, en soms alles tegelijkertijd, dingen en bronnen eruit. Dit vereist natuurlijk niet alleen de juiste algoritmen en software, maar ook op maat gemaakte hardware en een politieke en economische eenheid om te zorgen voor een winst genererend, concurrerend, mechanisch kapitalisme. Google gaf hun Tensor Processing Unit uit. Intel kocht een klein bedrijf gespecialiseerd in chips die maar voor één doel worden gemaakt, namelijk voor neurale netwerkberekeningen, toepasselijk Nervana genoemd. Smells like deep spirit.
Zoals we hebben gezien, vindt er een enorme herstructurering plaats, die natuurlijk een langdurig effect heeft op de tektoniek van de mensheid, de beschaving, de politiek, het kapitalisme, de natuur en de technologie. Hoewel er een affirmatieve, progressieve geest waait, wordt er ook veel gesproken over enge superintelligenties, Skynet-achtige, kwaadaardige terminators die graag de mensheid willen onderwerpen of uitroeien, maar ook over min of meer slimme of gevoelige robotsystemen die onze banen afnemen, ons arm en nutteloos maken, enzovoorts. We moeten goed luisteren naar wat voor soort retoriek hier wordt gebruikt. We moeten de grootst mogelijke aandacht schenken aan de manier waarop kapitalistische en politieke systemen in elkaar grijpen om van deze ontwikkelingen te kunnen profiteren, zowel op het gebied van geld als van macht.
De manier waarop deze technologieën worden gereguleerd, of eigenlijk niet worden gereguleerd, lijkt op de zeewet die moest gaan over de slavenhandel uit de achttiende en negentiende eeuw. Daar ergens ver op zee, diep in de technologische oceanen, is er iets aan de hand. Er worden onzichtbare oorlogen gevoerd, nieuwe slaven en dienaren gemaakt en verhandeld, waarbij wij uiteindelijk op weg zijn om goddelijke schepper te worden. De gruweldaden uit de twintigste eeuw hebben een nieuw abc geschreven op het gebied van oorlogsvoering: atomair, biologisch, chemisch. De d voor digitaal wordt op dit moment geschreven. En we moeten nog een duurzame, verantwoorde manier vinden om met die kracht om te gaan. Een kracht die de relatieve eenvoud van het abc ingrijpend overtreft.
Intelligente, alles omvattende infrastructuren hebben een groot potentieel, maar intelligente, alomtegenwoordige oorlog zit ook in dit potentieel verborgen. Datzelfde geldt voor civiele technologieën en computerintelligentie: als je de meeste mensen vraagt of computers binnenkort sentimentele technologieën zijn, of ze ons werk zullen overnemen, of ze zullen zorgen voor onze kinderen en ouderen, ons voedsel zullen oogsten, onze huizen zullen bouwen en of ze dus basisrechten moeten krijgen, dan is de meest voorkomende reactie een verbijsterde blik. Hoezo? Het zijn slechts machines? Denk dan terug aan die andere tijd, een paar decennia geleden, slechts een paar minuten geleden op Twitter, of gewoon aan andere landen van nu, aan tijdperken en locaties waar slaven niet als mens worden gezien en geen rechten hebben, waar vluchtelingen als ongedierte worden beschouwd, en gehandicapten geen recht hadden om te leven. Op de rand van deze ai-afgrond komen we in contact met onszelf. Daarom moeten we serieuze vragen stellen en op een verantwoordelijkere manier dan ooit handelen als mensheid. De toekomst ziet er rooskleurig uit, mits we het goed doen.
Uit het Engels vertaald door Loes van Beuningen
Paul Feigelfeld
is a media theorist. He is currently the Data & Research Architect at TBA21-Academy, the exploratory arm of Thyssen-Bornemisza Art Contemporary, and holds a guest professorship at the Art Institute in Basel.