Tags

Waak voor risico’s van algoritmen (Jan Middendorp, Opinie/de Volkskrant, 27-5-19)

De overheid moet veel meer kennis en kunde ontwikkelen om klaar te zijn voor de digitale toekomst.

Toen het Amerikaanse Amazon probeerde computergestuurd, zonder menselijke invloed, nieuw personeel aan te nemen en zo vooroordelen tijdens sollicitatieprocedures uit te sluiten, gebeurde er iets onverwachts. In het algoritme dat het sollicitatieproces aanstuurde bleek een mechanisme te zitten waardoor alleen maar mannen werden aangenomen. Data-analyse, kunstmatige intelligentie en de algoritmen kunnen ons leven mooier, makkelijker en vrijer maken, maar net als bij Amazon kunnen algoritmen ook tot onverwachte gevolgen leiden en soms zelfs onbedoeld of met opzet onze grondrechten, zoals privacy of gelijke behandeling, aantasten.

Algoritmen kunnen in handen van kwaadwillenden tot veel persoonlijke ellende leiden. Een voorbeeld zijn phishingmails. Op grotere schaal kunnen algoritmen ook gebruikt worden om via sociale media onze democratie te manipuleren. Werken de spelregels voor onze verkiezingen, soms nog uit de tijd van Thorbecke, in een tijd dat politieke campagnes online worden uitgevochten? Dit soort vragen spelen overal waar algoritmen met hun computertaal mensenwerk overnemen.

Algoritmen zijn zo handig omdat ze ons ‘persoonlijk’ kunnen leren kennen als wij daar toestemming voor geven. De slimme toepassingen die algoritmen aansturen worden beter als ze toegang krijgen tot onze mobiele telefoon en ze kunnen meekijken in ons dagelijks leven. Ook de overheid kan efficiënter werken door het gebruik van algoritmen. Bijvoorbeeld bij de belastingdienst, maar ook bij het ophalen van vuilnis in gemeenten. Algoritmen, die ook extern ingekocht kunnen worden door de overheid, doorbreken de grenzen tussen overheid en niet-overheid. Het was altijd het individu dat beschermd moest worden tegen de staat. Die had ruim toegang tot ons persoonlijk leven. Nu weten supergrote technologiebedrijven minstens net zoveel van ons. Na altijd aan de balans tussen overheid en markt te hebben gebouwd, moeten we daarom naar een nieuwe balans tussen overheid, markt en algoritmen.

Versnipperde aanpak

En dat moet snel. Als we met de traditionele versnipperde aanpak doorgaan, of niets doen, lopen we het risico straks gestuurd te worden door computertaal van technologiebedrijven uit Amerika of China. Of weten we straks niet meer hoe de overheid digitaal beslissingen over ons neemt. Dat kan niet, want als je als vrouw een baan bij de overheid misloopt, wil je zeker weten dat er geen selectiemechanisme diep in een algoritme verborgen zit dat alleen maar mannen selecteert. Maar daar wringt de schoen. Om onze werkwijze, wetten en regels klaar te maken voor de digitale toekomst moet de overheid veel meer kennis en kunde hebben en zich anders organiseren.

https://krant.volkskrant.nl/titles/volkskrant/7929/publications/652/articles/909043/18/2

Advertisements