Tags

‘Een algoritme kan politieke besluitvorming beïnvloeden. Een koelkast niet’ (Hella Hueck, Tech en Media/fd, 21-8-19)

Stelling: Dat digitale, annex socialemedia-bedrijven een groeiende invloed hebben op onze (en andere werelddelen) is evident, maar dat komt door de meningsuiting die door deze digitaal geconstrueerde wereld mogelijk is geworden. En een bedrijf als Tom Tom heeft die invloed niet, waarmee ik maar wil aangeven dat het alleen om digitale en sociale meningenuitwisselings-techniek gaat die ze politieke macht op een presenteerblad hebben aangereikt gekregen. De politiek gaat namelijk over meningen om daarmee politiek beleid te maken en de samenleving in te richten. Sociale media zijn daarom hyper-politiek, maar Tom Tom – om maar een voorbeeld te noemen buiten de huiselijke sensoren in alle elektrische apparatuur – niet. Dat is een apparaat gebaseerd op weg-algoritmen. Vanuit deze redenering – als die juist is – is er geen nieuwe scheiding van machten nodig.

In het kort:

  • Techbedrijven als Google en Facebook hebben een groeiende invloed op onze democratie.
  • Digitale technologieën zijn namelijk hyper-politiek.
  • Schrijver Jamie Susskind pleit daarom voor een nieuwe scheiding der machten.

‘Aan weerszijden van de Atlantische Oceaan woedt de discussie of grote techbedrijven als Google en Facebook opgebroken moeten worden. Het is de verkeerde discussie, zegt de Britse schrijver en jurist Jamie Susskind van het boek Future Politics. ‘Ik maak me niet zo zeer zorgen over hun marktpositie, maar over de politieke macht die techbedrijven hebben.’

Vanwege hun bedrijfsvermogens hebben de socialemediabedrijven als Apple etc. een even grote politieke macht als de grote olie/gas-multinationals en andere conglomeraten die wereldwijd opereren. Het gaat om hun misbruik van (internationaal) bestaande fiscale wetgevingsmogelijkheden en daarmee de ruimte om nationale wetgevingen te omzeilen ofwel tegen elkaar uit te spelen. Dat is volgens mij de sleutel van die politieke macht, zodat ze overal de gunstigste vestigingslocaties kunnen vinden.

‘Tien jaar geleden genoot Jamie Susskind volop van de vakken politicologie die hij volgde aan de universiteit van Oxford. Plato, Hobbes, Montesquieu – alle grote denkers kwamen voorbij. Hij kraakte zijn hersens over wat abstracte concepten als macht, vrijheid en democratie inhouden.

Omdat ik dezelfde wetenschappelijk gevormde achtergrond heb kan ik hier aanvullend toelichten dat het niet gaat om wat genoemde filosofen precies gezegd hebben – die spelen alleen mee als het om masterscripties (of tentamens) gaat die tijdens de studie geschreven moeten worden -, maar om vanuit die ervaring met ‘denkoefeningen’ uit dat verleden, vandaag gemakkelijker alle toepasselijke abstracte begrippen als ‘gelijkheid’, ‘vrijheid’ en ‘democratie’ in de huidige maatschappelijke omstandigheden te vertalen.

En aangezien ik afgelopen week ook een blog schreef over westerse ideologieën die wel of geen lege huls zijn geworden, en waarop ik dus aangaf dat die waarden en normen eeuwig geldig blijven omdat het om abstracties gaat, dienen die waarden om de tien jaar aangepast te worden om er houvast te vinden om veranderde maatschappelijke omstandigheden gemakkelijk te vertalen in concreet beleid.

Susskind is er van overtuigd dat als we niet ingrijpen de grote techbedrijven de toekomst van de democratie zullen bepalen

Eén ding verbaasde hem. Het ging vooral over de geschiedenis van al die politieke ideeën. Maar kunnen ze ook antwoord geven op de grote vraagstukken van vandaag? ‘In de politiek van de twintigste eeuw stond één vraag centraal: hoe groot mag de invloed van de overheid op ons leven zijn? Nu moeten we naar een ander maatschappelijk debat: tot welke hoogte laten we ons leven controleren en sturen door machtige, digitale systemen? En op welke voorwaarden?’

Bij deze passage komen onze verschillen in denken naar boven. In de eerste plaats constateer ik dat onze studietijd er anders uitzag omdat ik in de basisjaren te maken kreeg met – inderdaad – de geschiedenis van politieke ideeën en de veelheid van politiek filosofen die nu het curriculum uitmaken, maar ik de masterfase in seminar- of werkgroep verband de huidige politieke praktijk verklaard moest worden aan de hand van die oude basiswaarden. Dan kom je direct op de eigentijdse vertaling uit.

In de tweede plaats passen ook basiswaarden zich met wijzigende tijdsomstandigheden aan. De 20e eeuw stond vanzelfsprekend de vraag centraal hoe groot de invloed van de overheid mocht of moest zijn, want dat lag in het verlengde van de 19e eeuw met alleen klassieke vrijheden: vrijheid om je eigen ruimte te scheppen in plaats van de feodale vrijheid van de vorst om zijn onderdanen alleen datgene te geven wat hem goed dunkte.

In de derde plaats hebben we nu inderdaad te maken met een ander maatschappelijk debat, waarin de taak van de overheid complexer is geworden, niet in de laatste plaats vanwege de complexere maatschappij zelf. En de overheid dient dienovereenkomstig een standpunt te hebben (ontwikkeld) hoe je als maatschappij omgaat met een werkelijkheid waarin ons leven gecontroleerd ‘heet’ te worden door machtige digitale systemen. De lezer merkt dat ik hierbij accentverschuivingen heb aangebracht door ‘heet’ te worden. Want dit is voor mij geen feit op zichzelf, maar een persoonlijke en dus subjectieve waarneming. Voor de een geldt dat inderdaad, voor een ander niet. Hoezo dat?

Ik durf hier – ten vierde – met droge ogen te beweren dat de digitale systemen geen invloed hebben op mijn leven en ik me er dus ook niet door laat sturen. Ja, ik breng dagelijks vele uren achter de laptop door, maar dat die schijnbare verslaving is geen feitelijk gegeven, aangezien ik het toetsenbord slechts gebruik als de ouderwetse typemachine en mijn blogs de moderne variant zijn van de vroegere scripties en andere werkstukken. En als ik snel iets even wil controleren heb ik de handzame smartphone naast me liggen om Google te raadplegen.

En de smartphone zelf staat eigenlijk doorlopend op offline, want waarom zou ik hem constant – zelfs in de nacht – aan laten staan. Door mijn levensstijl hebben sensoren buitenshuis en algoritmen bij mij geen kans van slagen. De enige (on)gewenste reclames die ik ontvang zijn nieuwe boekuitgaven omdat ik alleen op dat vlak en langs die weg regelmatig bestellingen doe. Ik heb dus geen hinder van dat digitale verkeer en ik beweer dus ook dat de overheid ten aanzien van deze digitale evolutie alleen een taak heeft in de vorm van ‘goed’ bijhouden wat er gaande is, en dat houdt niet alleen privacy-schendingen in, maar ook cyberspionage die tegenwoordig alle publieke handelingen van burgers/consumenten kan volgen.

En welke gevaren algoritmen in zichzelf in? Het antwoord luidt dat er geen gevaren zijn als er maar publieke informatie hierover bekend is, en het echte dilemma of probleem dat zich voordoet zijn bedrijfsgeheimen, zodat de producten van al die smartphones (met ingebouwde sensoren) op hun gebruik van concurrentiebedingen kunnen wijzen. In plaats dat had onze regering, sinds de eerste verhoren van Mark Zuckerberg in het Congres, kunnen besluiten om Facebook aan te klagen voor privacy misbruik. Maar dat is naar mijn weten nagelaten.

Kortom, mijn conclusie luidt dat alleen dié praktijken die in strijd zijn met wet- en regelgeving, aanleiding dienen te zijn voor overheidsingrijpen, maar ‘machtige digitale systemen’ controleren of besturen? Onzinnig aangezien ik meen te hebben aangetoond in dit betoog dat daar geen sprake van is. dat zou kunnen worden getypeerd met ‘fakeniews’ ofwel een misverstand bij gebrek aan kennis en of waarnemingen die niet toetsbaar zijn, omdat dit onderdeel is van welig tierende complottheorieën. En daarom zijn de volgende hieronder volgende passages ook onzinnig.

Susskind is er van overtuigd dat als we niet ingrijpen de grote techbedrijven de toekomst van de democratie zullen bepalen. De macht van partijen als Facebook, Twitter en Google is een hele andere dan die van meer traditionele techbedrijven als Siemens of General Electric. ‘Het gaat niet om een praktisch consumentenproduct als een koelkast. Digitale technologieën zijn hyperpolitiek’, vertelt Susskind. ‘Zij gaan over informatie en communicatie. De twee belangrijkste ingrediënten voor elk politiek systeem.’

Hoe beïnvloedt technologie onze democratie?

‘Een democratie is zoveel meer dan af en toe naar de stembus sloffen. Zo hebben we onderschat [sic] hoe belangrijk goede beraadslaging is. In een democratische samenleving wordt met elkaar overlegd en beargumenteerd wat de grote, politieke vraagstukken en mogelijke oplossingen moeten zijn. Sociale platforms zouden iedereen de kans geven mee te doen, maar we zijn van een koude kermis thuisgekomen. Digitale systemen bepalen welke berichten we wel of niet zien. Daarmee kunnen onze politieke voorkeuren gestuurd worden. Ik noem dat ‘perceptie-controle’. Door berichten te filteren ontstaat een werkelijkheid die gefragmenteerd is.

Aan de andere kant: de consument heeft last van informatiestress en is ook gebaat bij filters en gepersonaliseerd nieuws?

‘Hoe kunnen we het nog met elkaar eens worden als techbedrijven ervoor zorgen dat niemand in de digitale leefwereld meer hetzelfde ziet? Bovendien zitten we nog met al die anonieme accounts en bots die zich mengen in het debat. De oude Grieken hadden het belachelijk gevonden als iemand in het forum anoniem mee had willen praten. Sociale platforms zijn private bedrijven, maar het politieke debat is een publieke zaak. We zouden platformen zo kunnen ontwerpen dat er geen plaats is voor bots en anonimiteit.’

Volgens mij wordt hier de denkfout gemaakt dat er geen onderscheid wordt gemaakt tussen sociale media en de journalistieke wereld. De sociale media kunnen worden gekenmerkt als mogelijkheid én gelegenheid aan ieder die dat wenst om zijn privé-opvattingen en meningen rond te sturen, die geen garantie bieden dat er sprake is van ‘deugdelijke inhoud’. Bij de journalistiek – en zeker de kwaliteitskranten – is dat zeker wel het geval. Daarom bestaan er journalistieke vakopleidingen. Met die journalistiek is het westen groot geworden, simpelweg omdat zonder communicatiemiddelen geen handelsverkeer mogelijk is. Daarom is er niets mis met die kwaliteitsmedia, en die zullen daarom ook blijven bestaan als een vorm van nutsbedrijf.

Zowel in Europa als in de Verenigde Staten wordt de roep luider om grote techbedrijven op te splitsen, zoals dat met de moloch Standard Oil gebeurde begin vorige eeuw. Waarom is dat volgens u niet de oplossing?

‘Toezichthouders kijken alleen maar naar marktmacht en verdienmodellen. Maar het gaat erom dat algoritmes teveel invloed kunnen krijgen op onze vrijheid. Dat private bedrijven zo’n politieke macht hebben is nieuw. We kunnen leren van Montesquieu en nadenken over een nieuwe scheiding van machten bij private techbedrijven. Zo worden we in onze vrijheid van meningsuiting beperkt door sociale platformen. Twitter bepaalt niet alleen óf we iets mogen zeggen, als iets racistisch is wordt het verwijderd, maar ook hoeveel tekens we mogen gebruiken. Dat heeft impact op de kwaliteit van het publieke debat. De nuance is weg. De perceptiecontrole, de manier waarop digitale systemen ons naar de wereld laten kijken, is ook een vorm van macht. Net als de manier waarop digitale systemen ons nauwlettend in de gaten kunnen houden, omdat er zoveel data over je verzameld wordt. Dat beïnvloedt ons gedrag, onze vrijheid. Bedrijven mogen niet op al die drie domeinen te machtig worden.’

Wat hier aan de orde wordt gesteld met algoritmen op het terrein van nieuwsgaring, is wel belangrijk. En deze opmerking heb ik nergens nog opgemerkt zien worden: ‘Maar het gaat erom dat algoritmes teveel invloed kunnen krijgen op onze vrijheid.’ Wat hier staat geformuleerd, klopt in zekere zin wel. Maar tóch te generalistisch geformuleerd aangezien algoritmen géén invloed kunnen uitoefenen op personen die voldoende feitelijke kennis in huis hebben om de doortraptheid van algoritmische uitkomsten niet te kunnen doorzien.

Mensen die zichzelf onvoldoende op de hoogte hebben gesteld van thema’s die in de nieuwsmedia afspelen of maar de mening van één enkele populaire krant tot zich nemen, zijn alleen daarom niet op de hoogte van andere soorten meningen. Zij hebben daarmee onvoldoende ‘onderscheidingsvermogen’ ontwikkeld. En worden alleen daarom al slachtoffer van vals of nepnieuws.

En hiermee wordt duidelijk dat onze bevolking die in meerderheid dat onderscheidingsvermogen niet heeft ontwikkeld, dat in het onderwijs moet worden aangeleerd. Maar in net huidige gepolariseerde leefklimaat wordt het heel moeilijk om dit in het basisonderwijs of middelbare scholen te presenteren, want dan komen de verbale gevechten om de hoek kijken wie gelijk heeft en wie niet. Kortom, een argument om in onze klassen ‘beginnerssociologie’ te introduceren, waarop de Onderwijsinspectie toezicht houdt willen alle eigenwijze ouders redelijk in bedwang kunnen worden gehouden!

Stel u mag uw premier Boris Johnson adviseren, waar zet u op in?

‘Ik zou beginnen met het reguleren van transparantie. Digitale systemen nemen belangrijke beslissingen die invloed hebben op het leven van mensen. Wie krijgt toegang tot gezondheidszorg, leningen, uitkeringen en op welke voorwaarden? Verantwoording afleggen is een politiek begrip dat we kunnen toepassen op technologie. Algoritmes moeten hun beslissingen kunnen onderbouwen. We moeten systemen geen belangrijke sociale functies geven als we niet begrijpen wat ze doen.’

Antwoorden:

  1. * Wie krijgt toegang tot gezondheidszorg, leningen, uitkeringen en op welke voorwaarden? * Antwoord: Algoritmen en bijbehorende techniek worden pas collectief ingevoerd als alle algoritmen betrouwbaar zijn en als zodanig getoetst (door TNO). Dàn alleen zijn toewijzingen op genoemde thema’s veilig. Mochten er toch fouten boven komen drijven, dan wordt de toepassing direct stopgezet, omdat er toch valse algoritmen (van andere doelgroepen en uit oude databestanden aanwezig bleken te zijn).
  2. * Verantwoording afleggen is een politiek begrip dat we kunnen toepassen op technologie * Antwoord: Verantwoording afleggen is inderdaad een politiek begrip, maar er bestaat geen enkele garantie dat binnen de politieke organen zuivere politieke afwegingen worden gepresenteerd, omdat alles is gepolitiseerd. Ik beschouw daarom dit huidige – representatieve democratie – bestel ook als gatenkaas, en dus een bestel dat in dit kader van juiste informatie en kennisvertrekking ondoenlijk is en daar heeft de politiek het zelf naar gemaakt.
  3. * Algoritmes moeten hun beslissingen kunnen onderbouwen * Antwoord: Dit is een onzinnige stelling. Algoritmen kunnen niet onderbouwen en dus niet spreken of zich verdedigen. Dat kunnen alleen de algoritmen-gebruikers of -programmeurs. Die moeten inzage geven, maar wederom bestaat er het risico van bedrijfsgeheimen. Facebook en alle overige sociale media moeten hun algoritmen openbaren en uitleggen of toelichting daarop geven. Maar de weerstand zal erg groot zijn omdat zij hun verdienmodellen niet wensen prijs te geven. Alleen dat feit kan de sleutel bieden om de politieke manipulatiemacht van deze sociale media onder controle te krijgen, hetzij via de overheid, hetzij toezichthouders.
  4. * We moeten systemen geen belangrijke sociale functies geven als we niet begrijpen wat ze doen * Antwoord: zie punt 1.