PDA

View Full Version : Kunstmatige intelligentie en het einde van de democratie (doemdenk draadje)


Bovenbuur
4 december 2018, 09:50
Beste forumgangers,

Jullie kennen mij misschien als iemand die vaak verkondigd dat dingen zo'n vaart niet lopen, dat de toekomst waarschijnlijk best wel prima is. Vandaag ga ik eens een gedachtenexperiment doen de andere kant op. We gaan allemaal dood, door AI, en niet op de manier dat je denkt.


De klassieke situatie

Er zijn van oudsher drie manieren om geld en macht binnen te harken: arbeid (tijd), bezit (geld, macht) en kennis en kunde. In de grote rijken van de bronstijd en de klassieke oudheid waren zowel bezit als kennis voornamelijk in handen van een vrij kleine elite. Het waren succesvolle economieën, maar de verdeling van de rijkdom lag vaak vrij scheef, en de macht lag bij de bovenlaag van de bevolking. Zelfs de befaamde Atheense democratie was een zaak van de rijken. De Nijldelta die in het Egypte van de piramides zo'n rijke landbouw opbrengst kende kende deze opbrengst dankzij een top-down planeconomie. Hoge ambtenaren rekenden uit wanneer de boeren moesten zaaien en oogsten. Dit was goed voor de boeren, zij verbouwden meer voedsel. Tegelijkertijd was dit waarschijnlijk ook hoe die piramides ooit gebouwd hebben kunnen worden: het deel van het jaar dat er niks te boeren viel werkten de boeren tegen betaling aan grote staatsprojecten, een betaling die gedaan werd vanuit de belastingen die geheven werden over hun opbrengsten, in ruil voor het advies dat hen een succesvolle oogst bezorgde. Een sigaar uit eigen doos, mogelijk gemaakt door een ongelijke verdeling van kennis.


Verspreiding van kennis als basis van de moderne tijd

Door de eeuwen heen bestaan vele variaties op dit systeem, maar een vaste component is de aanwezigheid van een vastgeroeste bovenlaag, een adel die er zeker van kan zijn over vijf generaties nog steeds rijk te zijn. Dit verandert langzaamaan vanaf grofweg de late middeleeuwen. Een mooi tegenvoorbeeld van het oude Egyptische landbouwsysteem zijn bijvoorbeeld de boeren almanakken. Een almanak gaf uitleg over vaardigheden die een boer moest hebben, zoals het weer voorspellen en zaai- en oogstmomenten bepalen. Eerst veelal bestaand uit afbeeldingen, gekopieerd door monniken en ter inzage voorin de kerk gelegd, na de uitvinding van de boekdrukkunst gedrukt en wijder verkrijgbaar. Boeren werden minder afhankelijk van landheren, de kennis kwam vrij. Ook in andere vakken zaten kennis en kunde steeds minder vast achter de "paywall" van een meerjarig leerjongenschap bij een meester. We zien dan ook langzaam de opkomst van een middenklasse van handelaren, rijke winkeliers, en later in de industriële revolutie een kader van arbeiders die bijvoorbeeld kunnen boekhouden. Een persoon uit de onderklasse heeft nu in meer of mindere mate beschikking over 2 van de 3 manieren om geld en macht te vergaren, in plaats van maar 1. Dit zorgt voor sociale mobiliteit, een verschuiving van de macht, en de doorbraak van de moderne democratie. Wie veel bezit heeft tot op de dag van vandaag nog steeds meer te zeggen, maar de ongelijkheid is wel kleiner dan in de periodes voor deze ontwikkeling.


Kunstmatige intelligentie: kennis als bezit

Op dit moment zijn er al kunstmatige intelligentie routines (artificial intelligence, AI) die onder testomstandigheden op basis van een korte omschrijving van een patiënt vaker een correcte diagnose kunnen stellen dan een individuele menselijke dokter. Die zijn voorlopig nog niet klaar om een echte artsenpraktijk te kunnen draaien, maar het gaat wel die kant op. Als computers beter worden in het verzamelen en gebruiken van kennis en kunde dan mensen dan wordt kennis dus een vorm van bezit. Een dokter is niet meer iets dat je wordt door jaren van studie, maar iets dat je koopt als je er genoeg geld voor hebt. Kennis als manier om geld en macht te vergaren komt terug in handen van de mensen die al geld hebben. Het is niet onvoorstelbaar dat dit leidt tot het einde van de glorietijd van de democratie, grote bedrijven en rijke erfgenamen gooien het systeem terug op slot omdat niemand uit de onderklasse hen nog iets te bieden heeft. Alles wat jij kan kan een apparaat beter. De lagere klasses verarmen, de sociale mobiliteit duikt omlaag, we zitten vast in een cyberpunk toekomst met geweldige technologieën, maar geen manier om ervoor te betalen. De oude middelen bestaan technisch gezien nog wel, je kan nog jaren leren om een goede dokter te worden, maar omdat AI artsen goedkoper en beter zijn loont het niet. Je kan beter naar voedsel graven op de vuilnisbelt.

In veel westerse landen zien we nu al een groeiend verschil tussen arm en rijk. Activiteiten als het bespelen van de beurs en als groot aandeelhouder bedrijven aanzetten tot objectief slechte keuzes lonen erg goed, terwijl het door één persoon gedaan kan worden met een bepaalde hoeveelheid kennis maar vooral ook veel geld. AI heeft de potentie om dit effect ontzettend te versterken, bijvoorbeeld door de kennis en menselijke aandacht van een beurshandelaar te vervangen door algoritmes, waardoor alleen nog maar geld en aangekochte algoritmes nodig zijn, een proces dat nu al bezig is.


Mogelijke oplossingen

Maar misschien is het wel niet zo slecht. Menselijke fysieke arbeid is de afgelopen eeuwen altijd erg moeilijk te vervangen gebleken. tractoren hebben boeren niet vervangen, ze hebben elke boer efficiënter gemaakt. De mensen die vrijkwamen gingen de fabriek in, waar machines hen ook efficiënter maakten. Telkens als de efficiëntie ergens omhoog ging was dat goed voor de economie, en kwamen er meer werkzaamheden bij waar de vrijgekomen arbeiders terecht konden. Misschien werkt AI wel hetzelfde. Maar misschien wel niet. Als computers echt zo goed worden dat er niemand meer nodig is om ze draaiende te houden gaat dit model niet op.

Een andere game changer zou "echte" kunstmatige intelligentie zijn, een computer met een eigen wil, die zich niet voor het karretje laat spannen van de persoon of andere computer die zijn hardware betaald heeft. Of dit een oplossing is, of eerder meer van hetzelfde waarbij alle rijken computers zijn en alle mensen in armoede leven, valt nog te bezien. Een heuse robot apocalypse behoort zelfs ook nog tot de mogelijkheden. Ja, zo heb ik hem toch nog genoemd.

Een andere mogelijkheid is kennis die vrij wil zijn. Computers zijn zo goedkoop en software is van nature zo kopieerbaar dat een AI nooit lang iemands exclusieve bezit blijft. Iedereen een dokter op zijn telefoon, en een beurshandelaar!

En dan is er nog het scenario waarin AI het beste blijkt te werken in innige samenwerking met menselijke intelligentie. Omdat ieder persoon maar een beperkte hoeveelheid daarvan heeft loont het nog steeds om veel mensen te hebben met de kennis en kunde om een AI voor een specifieke taak te bedienen. Mogelijk vraagt dat wel om meer dan een paar knopjes indrukken. Cyborgs regeren dan de toekomst, maar wel cyborgs met een redelijke verdeling van macht en geld, en een democratie.


Tot zover mijn gedachten. Het is wellicht een wat complexe dystopie, maar het lijkt me nou ook weer niet onrealistisch. Binnen enkele decennia zouden we al sterke tekenen van deze ontwikkelingen kunnen zien. Wat denken jullie hierover?