Tags

Algoritmes zijn gemaakt door witte mannen @trouw #waar-of-onwaar #naderonderzoeknoodzakelijk

(Kelli van der Waals, Achterop/Katern de Verdieping/Trouw, 15-4-21)

(…)

Die algoritmes zijn grotendeels in elkaar gedraaid door witte mannen, waardoor er automatisch een witte mannen-wereldvisie in verwerkt zit. Zij bepalen immers de waarden waarop het algoritme zijn keuzes baseert, wanneer het ‘ja’ of ‘nee’ zegt, ‘omhoog’ of ‘omlaag’. Een machine is geenszins de objectieve beoordelaar die hij lijkt te zijn.

*Natuurlijk is de machine ‘geenszins’ de objectieve beoordelaar die hij lijkt te zijn, want het is de programmeur die bepaalt dat welke data ingebracht worden en hoe de zoekfunctie van het algoritme gaat werken. Daarom kan er nooit sprake zijn van de machine die dat kan uitvoeren omdat de machine niet beschikt over het menselijk denkvermogen en sterker: daarover nooit kan gaan beschikken. Er worden alleen algoritmische conclusies ofwel verbanden gesignaleerd van de ingebrachte data, meer niet.

*We – als belastingbetalende burgers – hebben vanwege de computertaal die anders is dan de mensentaal, altijd aangenomen dat de programmeur 1. bewust was van deze gevoelige thema’s en verschillen in het wezenskenmerk tussen beide talen, die verschillen ook kende of wist te benutten, maar 2. één aspect vergat de betrokken ambtelijke opdrachtgever aan de programmeur te vertellen of mee te delen, namelijk dat ‘computertaal’ geen notie heeft van onze Grondwet en daarom niet op de hoogte was van artikel 1 dat bepaalt dat discriminatie van personen verboden is. Daarom mochten sowieso geen nationaliteiten ingevoerd of ingebracht worden, maar dit inzicht kun je niet automatisch van die programmeur verwachten, aangezien het schoolvak ‘staatsinrichting’ sinds de Mammoetwet geen onderdeel meer uitmaakt van het vakkenpakket in het VO. Laat staan dat ICT-studenten ooit een college staatsrecht hebben gevolgd. En de geijkte uitdrukking ‘iedereen wordt geacht de Grondwet te kennen’ is altijd een loze belofte of ‘terra incognita’ geweest.

*In dat opzicht zijn programmeurs en andere computerspecialisten volkomen onbekend op dat terrein van staatrecht en juist onder die omstandigheden heeft die programmeur dus altijd ‘braaf’ de opdracht van overheidsinstanties uitgevoerd zonder de wetenschap of het inzicht dat de strikte voorwaarden bestonden zoals het feit dat ‘discriminerende’ data niet mochten worden geselecteerd of zelfs ontworpen. Zo dragen beide partijen, ICT- én overheidssector in gelijke mate bij aan de schuld aan strafbare feiten die hen kan worden opgelegd en dat maakt en verklaart ook dat de Toeslagendrama kinderopvang zo gierend uit de hand kon lopen vanwege het ‘onbewust’ uitvaardigen door overheden – onbewust van de gevaren van algoritmes – aan de wereld van programmeurs: onbewust van discriminatoir handelen en construeren van die opdrachtuitvoering. Oorzaak van dat intense drama kan hiermee als opgelost worden beschouwd. En laat de overheden in het vervolg bij nieuwe opdrachten aan het bedrijfsleven ook duidelijke instructies overdragen aan betrokken vaklieden waar ze zich aan te houden hebben en laat dat ook vastgelegd worden in het contract tussen beide partijen.    

(…)

https://krant.trouw.nl/titles/trouw/8321/publications/1226/articles/1335294/44/1