Het algoritme als ideologie (Column Robbert Dijkgraaf, Katern Wetenschap/nrc.nl, 5 en 6 mei)
Robbert Dijkgraaf bezocht de ‘techies’ van Silicon Valley en vond vooral blind vertrouwen in de goede bedoelingen van de techreuzen. Wat voor samenleving willen wij eigenlijk?
Dat Dijkgraaf ‘vond vooral blind vertrouwen in de goede bedoelingen van de techreuzen’ zegt al genoeg over de ‘nerds’ die hij daar ontmoette. Als je in deze tijd nog zo vol blind vertrouwen in de goede bedoelingen van de digitalisering en meer kunt leven, zegt iets over de wereldvreemdheid van die specialisten. Dat die technici het liefst een gecomputeriseerde wereld wensen, is hun goed recht, maar in het betoog dat hieronder staat afgedrukt wordt duidelijk dat ze nauwelijks een onafhankelijke mening hebben maar een collectieve droom over een volledige digitalisering van de wereld en samenleving. Ronduit naïeve opvattingen dus.
Robbert Dijkgraaf, 4 mei 2018
# Als Karl Marx zou terugkeren op aarde, zou hij een software-ingenieur zijn. Hij zou geen dikke politieke verhandeling schrijven, maar een computeralgoritme dat bepaalt wat de wereld leest, ziet, koopt en denkt. Geen Das Kapital, maar Der Algorithmus. Moderne ideologie is een icoontje op je telefoon.
Dit zou zo kunnen zijn, maar het hoeft helemaal niet. Dat niet alleen vanwege het feit dat Marx nog geen idee had wat in zijn toekomst algoritmes zouden zijn, maar of zijn sociaalwetenschappelijke natuur en kennis hem ook geleid zouden hebben – ware hij levend in dit tijdsgewricht – naar de wereld van de technocraten, is maar de vraag. Hij was naar mijn gevoel teveel een politiek filosoof dan een techneut. En dan kun je je niet geheel storten op de digitale geheimen van deze wereld.
# Onlangs was ik op een conferentie met ‘techies’ uit Silicon Valley. Natuurlijk ging het gesprek over de controversiële invloed van sociale media en digitale technologie. Met name de recente schandalen rondom Facebook en diens rol bij de Amerikaanse verkiezingen stonden centraal.
Dit laatste komt niet geheel uit de verf in onderstaand verslag.
# Twee zaken vielen mij in die discussies op. Ten eerste, het blinde vertrouwen in de goede bedoelingen van de oprichters. Velen waren verongelijkt dat de geliefde internetfirma’s en hun leiders nu opeens onder vuur lagen. Ze hadden er het volste vertrouwen in dat zij uiteindelijk de wereld beter gingen maken, te beginnen met hun eigen producten.
Hoe kun je door de schandalen, die toch door alle techreuzen worden gebezigd – al zijn ze nog niet ontdekt – toch nog zo’n blind vertrouwen blijven houden in de goede bedoelingen in zelfs de whizzkids die bij banken en verzekeraars werken, is een raadsel.
# Het tweede punt was cynischer. Alle maatregelen die nu worden voorgesteld om de privacy van burgers te beschermen en de vrijheid van internetbedrijven in te perken, werken uiteindelijk alleen maar in het voordeel van diezelfde reuzen. Zuckerberg is het gelukt zijn bedrijf op te bouwen dankzij de goedgelovigheid van de eerste generatie gebruikers die vrij hun data deelden. Je hebt een pioniersfase nodig met bijbehorende wildwesttaferelen om te kunnen uitgroeien van start-up tot megaconcern. Men was het dan ook unaniem eens dat Europa, met zijn nieuwe stringente privacy- en belastingmaatregelen, nooit een bloeiende internetcultuur zal krijgen.
Zelfs zijn die techneuten en technocraten zo verweven van de ‘automatismen’ van hun sector, dat ze niet eens in de gaten hebben dat de huidige ontwikkeling om de vrijheid van internetbedrijven in te perken, uiteindelijk alleen maar in het voordeel van diezelfde reuzen werken. Wat een bekrompen wereld is Silicon Valley toch.
Bekeerlingen
# Mijn conclusie na enkele dagen onder deze bekeerlingen te hebben doorgebracht was, dat ideologie voortijdig is doodverklaard. Er mogen nog maar weinig communistische of fascistische regimes zijn, voor de moderne ideologie moeten we niet naar Noord-Korea reizen, maar naar het binnenste van onze computers en smartphones. Daar wordt steeds meer ons leven bepaald.
Het is natuurlijk vanaf het begin en ontstaan van Silicon Valley binnen het tijdperk waarin de ideologie dood was verklaard, als variant op Nietzsche’s ‘God is dood’-verklaring. Dat heb je met een groeiende en potentieel machtigste technologie van afgelopen eeuwen. Waar groot geld valt te verdienen is alles gefocust op winst- en omzetmaximalisering. Wereldvreemde technologen kortom.
# Wat voor samenleving willen wij? Wat zijn onze normen en waarden? Dit zijn niet langer vragen voor politici, economen en filosofen, maar voor machines en algoritmes. Computercodes bepalen welk nieuws we lezen en welk product we kopen, wat we denken en voelen. En steeds meer worden die codes niet door mensen geschreven, maar door de machines zelf.
Mijns inziens is, waar hier te lezen staat ‘Dit zijn niet langer vragen voor politici, economen en filosofen, maar voor machines en algoritmes’, sprake van een levensgroot misverstand. Dat de politici, economen en filosofen niet meer doordringen in het publieke debat met hun opvattingen over waarden en normen, betekent nog helemaal niet dat die morele deugden uit onze maatschappij verdwenen zijn. Ze zijn op de achtergrond gedrongen omdat niemand er een nieuwe, eigentijdse inhoud aan te geven. Maar dat komt vanzelf en wel of niet automatisch weer terug als de algoritmen verkeerde verbanden gaan of menen te zien, want MENSENWERK, programmeerwerk.
Als de mens weer wakker wordt en zich actief gaat afvragen waar de digitale ontwikkelaars mee bezig zijn. En even verkeerd is het te menen dat computercodes bepalen welk nieuws we lezen en welk product we kopen, wat we denken en voelen. Die algoritmen zoeken inderdaad verbanden tussen menselijk consumptief gedrag en voorkeuren, want daarmee kunnen die programmeurs hun eigen portemonnee en bankrekening verder spekken, maar die algoritmen bepalen ons leven absoluut niet. Zelfs is er geen sprake van volgen van koopgedrag als je je smartphone uitzet of gewoon thuislaat bij je boodschappen doen of winkels bezoeken. Dan staat een smartphone ‘machteloos’. Alleen bij aankoop van artikelen in de winkel zal de winkelcomputer je betaalpas lezen en daaruit een potentiële klant herkennen omdat die kassacomputer daarop is ingesteld, geprogrammeerd.
# Techneuten zien de samenleving als een enorme machine vol knoppen en schakelaars die moeten worden ingesteld. Niet lang geleden hadden we een mechanistisch beeld van de technicus, als monteur in de machinekamer gewapend met een oliekannetje en een waterpomptang. Het recente beeld is de software-ingenieur die de parameters van het zoekalgoritme bijstelt om zo een optimale maatschappij te creëren. Met de juiste balans tussen sensatiezucht en empathie, nieuwsgierigheid en privacy, entertainment en informatie. Misstanden worden gezien als afwijkingen van de correcte stand van de knoppen. De oplossing is een verdere aanpassing van het algoritme, dat lerend van zijn fouten steeds dichterbij het ideaal komt.
‘Niet zo een optimale maatschappij te creëren’, maar een optimaal consumptiemaatschappij en dat dus als erg selectief gedeelte van onze samenleving, laat staan en ‘optimale maatschappij’. Dat is schromelijk overdreven, zelfs een onjuiste waarneming want niet aan de orde.
Nu is een zekere terugkeer van ideologieën wel welkom. De huidige politiek wordt vaak als bloedeloos ervaren. Men argumenteert pragmatisch per onderwerp. Een half procent erbij of eraf.
De auteur kan wel wensen dat ‘een zekere terugkeer van ideologieën wel welkom’ is, maar daar laten de politici en politieke partijen het afweten en door dat falen van de politieke wereld om visie te ontwikkelen en dus ideologieën van een nieuw jasje te voorzien, is dus de schuld van die politici die geen benul meer hebben welke behoeften er maatschappelijk bestaan om de politiek weer een sturende richting te geven. Niet de schuld van computerprogrammeurs die wél doen wat de opdrachtgever van hen verwacht. De politiek laat het simpelweg afweten. En daarvoor bestaan diverse oorzaken, maar dat leidt af van de hoofdzaken die de auteur in kaart wenst te brengen.
# Het aantrekkelijke van een ideologie is dat die overkoepelende ideeën schetst en onderliggende gedachten blootlegt. Een visie gaat niet uit van concrete antwoorden, maar van het zoekproces. Precies het verschil tussen een algoritme en een uitkomst, zou de informaticus zeggen. Ook een computer is een machine die op systematische wijze aan iedere input een output toekent.
Hier wordt de eerste juiste constatering gedaan, te weten dat ‘computer is een machine die op systematische wijze aan iedere input een output toekent’. Zolang dat het geval blijft, hoeven we dus helemaal geen angst te kennen voor algoritmen die alleen door technici worden ontwikkeld en aangestuurd. En die aansturing kan iedereen links laten liggen. Maar zolang de mens als buitenstaander onwetend blijft over waar de programmeurs mee bezig zijn, leidt automatisch tot angstcomplexen. Onnodig, maar wel logisch vanwege het vele in deze wereld dat onkenbaar is.
Normen en waarden
# Alleen is het uiterst onwaarschijnlijk dat zo’n optimale visie bestaat: een verzameling normen, waarden, leefregels die het geluk van ons allen maximaliseert. De confrontatie met alwetende ideologieën is wereldwijd een bloederig experiment gebleken. Er is geen Mount Everest in het morele landschap die boven alles uit torent, maar er is een reeks bergtoppen, ieder met zijn eigen compromissen en onvolledigheden.
Er wordt een ander, historisch, thema erbij gehaald door de auteur: ‘alwetende ideologieën is wereldwijd een bloederig experiment.’ Waar in de tekst tot nu toe alleen sprake was van ‘het aantrekkelijke van een ideologie’, wordt hier plotseling overgestapt op het radicaal tegenovergestelde van de ‘alwetende ideologieën’, en dat is geen logische stap in het betoog. Jammer. In deze tijd is er trouwens geen risico meer op ‘alwetende’ ideologieën, al zouden de techneuten dat maar al te graag willen zien ontstaan in de vorm van alwetende computerkennis/inzichten.
Kortom, de conclusie is dat geen sprake is van algoritme als ideologie, maar dat algoritmes slechts als marktinstrumenten kunnen worden aangemerkt die de consumptie van burgers altijd en steeds wensen te stimuleren tot nog groter aankoopgedrag dan tot dat moment het geval was. Méér doet een algoritme, dat ontwikkeld is op aankoopgedrag, dus niet. De heiligverklaring van het algoritme is dus zinloos en gewone onzin en dient nergens toe. Of stap ik nu op gevoelige tenen?
# Dit is een gedachte die in Silicon Valley weinig leeft. Men gelooft heilig in zelflerende algoritmes die ons naar een universele utopie leiden. Een planeconomie zonder planners, de samenleving als bijrijder in een zelfrijdende auto.
Leeft dus in Silicon Valley helemaal niet omdat ze alleen maar gebiologeerd zijn door de fabelachtige nieuwe producten die men denkt te kunnen ontwikkelen. Maar het zijn illusies, zoals ik in mijn kanttekeningen heb geprobeerd uiteen te zetten. En zelflerende algoritmes bestaan voorlopig niet en ikzelf ben er vanuit mijn logica van denken in de technologie van overtuigd dat het nooit van zelflerende instrumenten zal komen, want zeker niet lerend zoals de mens dat kan. Computer zijn en blijven instrumenten ten dienste van de mensheid.
Het ‘heilige geloof in zelflerende algoritmes’
# Misschien dat hier het rommelige mensenverkeer inspiratie kan bieden, waar ideeën met elkaar in een gezonde competitie verkeren. Ik wil niet één universele internetgigant die bepaalt welk nieuws ik lees, welke films ik zie, waarheen ik op reis ga en wat ik koop. Ik wil zelf kiezen welk diensten ik gebruik. Als de wereld iets nodig heeft is het meer en verschillende Facebooks en Googles.
Ook hier worden nodeloze angsten ons aangepraat want één universele internetgigant zal in onze pluriforme marktwereld (ofwel het vrijemarktstelsel) nooit ontstaan. Dat zou Marx in onze tijd hebben kunnen bevestigen. Daar zorgt de consument wel voor. En als ik het wonder van algoritmes goed heb begrepen draait alles om het uitvinden van ‘welk nieuws de consument leest, welke films hij ziet (of wil zien), waarheen hij op reis gaat en wat hij koopt. Hij wil zelf kiezen welk diensten hij gebruikt en daarop is een algoritme afgesteld. Die verbanden worden per persoon gezocht. Maar het leven zal nooit door algoritmes bepaald gaan worden, zoals het voorbeeld ‘hoe zal ik denken of (geestelijk) leven, want het materiële leven is wel meetbaar’. dat is precies het verschil tussen wat het algoritme kan (consumentengedrag) en niet kan (alles buiten het consumentengedrag om). Dit laatste behoort tot het autonome mechanisme en besluitvormingsproces van de mens zelf. Dat blijft zo tot aan het einde van zijn leven, tenzij de gezondheid van de bejaarde dat onmogelijk maakt. Dan resteert opname in het verzorgingstehuis.
# Een wereld geleid door de andere Marxistische ideologie, die van de komiek Groucho met zijn uitspraak: „Dit zijn mijn principes en als die je niet bevallen, heb ik andere.”
Andere ideologische principes? Of moet deze komische Groucho-wijsheid iets anders worden toegedicht? Bij komieken hoef je gelukkig niets te interpreteren!
[Robbert Dijkgraaf is directeur van het Institute for Advanced Study in Princeton.]
https://www.nrc.nl/nieuws/2018/05/04/het-algoritme-als-ideologie-a1601897