Tags

Gisteren, de 6e juni werden de volgende moties ingediend na het debat van een week ervoor in de plenaire zaal van de Tweede Kamer, waarmee een overzicht ontstond over Big data en de bescherming van persoonsgegevens. Dit is een belangrijk thema aangezien Big data het belangrijkste terrein van innovatie betekent dat een exponentiële groei en ontwikkeling doormaakt naast de hele industriële sectoren van een drietal ‘toevallige’ – omdat er meer velden te noemen zijn – als de nano-, genetische- en biotechnologie, zaken die vanwege hun maatschappelijk revolutionaire potentie haarscherp in de gaten moeten gehouden. Met de nieuwe technologische werkvelden op het grensterrein van mens en machine, waarbij cruciale vraagstukken als de menselijke autonomie over zijn eigen product(en) in de vorm van robotisering en ‘kunstmatige intelligentie’ in het geding zijn.

Deze terreinen zijn van meer invloed dan enige andere dossier, op de menselijke geestelijke gezondheid omdat de commerciële potentie en dus de gevaarlijke aspecten van deze ‘commercialiteit’ van deze technologie de mens op de rand van de afgrond kunnen brengen. Alertheid is hier een permanente vereiste, waar parlementaire controle geen moment mag verslappen aangezien vooral commerciële bedrijven wel eens kansen ruiken die tegen het algemeen belang ingaan. Waar winst en omzetvergroting veilig lijken, komen we snel in een waanwereld terecht.

De voorzitter: Ik geef de heer Verhoeven namens D66 het woord.
De heer Verhoeven (D66):

Dank u wel, voorzitter. Wij hebben vorige week een goed debat gehad over big data in het algemeen en over kunstmatige intelligentie. Het focuste zich heel erg op de algoritmes, dat zijn rekenformules die worden gebruikt om grote hoeveelheden data te kunnen analyseren met verschillende doelen. Dat doen commerciële bedrijven maar ook de overheid doet het steeds meer. Wij hebben daarover een lange discussie gehad met de Kamer. Ik heb op basis van dat debat twee moties opgesteld die ik nu wil indienen. Ze luiden als volgt.

De Kamer,

gehoord de beraadslaging,

overwegende dat het gebruik van big data, algoritmen en analysemethoden door overheden kansen kan bieden op gebied van betere dienstverlening, efficiëntie en veiligheid;

overwegende dat er ook serieuze risico’s kleven aan het gebruik van big data, algoritmen en analysemethoden, met discriminatie of schending van privacy of andere grondwetten als potentieel gevolg;

Vermoedelijk staat hier een tik- of drukfout: ‘andere grondrechten’ in plaats van ‘grondwetten’.

verzoekt de regering na te streven dat de werking en de broncode van algoritmen en analysemethoden die een aanmerkelijke impact op burgers hebben openbaar zijn, inclusief informatie over gebruikte databestanden;

verzoekt de regering voorts bij algoritmen en analysemethoden die om zwaarwegende redenen niet openbaar gemaakt kunnen worden een technische audit uit te voeren om te controleren of de algoritmen en analysemethodes niet onbedoeld discrimineren of andere negatieve effecten hebben die al dan niet wet- en regelgeving schenden en het resultaat van die audit openbaar te maken,
en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door de leden Verhoeven, Buitenweg en Van Nispen. Naar mij blijkt, wordt de indiening ervan voldoende ondersteund.

Zij krijgt nr. 117 (32761).

De heer Verhoeven (D66):

De tweede motie is als volgt.

De Kamer,

gehoord de beraadslaging,

constaterende dat het kabinet het aantonen van logica als beleidsuitgangspunt hanteert in het kader van de omgang van big data en algoritmes en dat overheden conform de AVG desgewenst informatie over de onderliggende logica van processen van overheidsdiensten moeten verschaffen;

overwegende dat de onderliggende logica van het Systeem Risico Indicatie (SyRI) niet openbaar is, terwijl het systeem een aanmerkelijke impact op burgers heeft of kan hebben;

verzoekt de regering informatie over de gebruikte databestanden, algoritmes en analysemethodes van SyRI openbaar te maken en een technische audit uit te voeren op het SyRI-systeem om te controleren op onbedoelde negatieve effecten, zoals discriminatie of strijdigheden met wet- en regelgeving schenden en het resultaat van die audit openbaar te maken,

en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door de leden Verhoeven en Buitenweg. Naar mij blijkt, wordt de indiening ervan voldoende ondersteund.

Zij krijgt nr. 118 (32761).

De voorzitter:

Dank u wel.

Mevrouw Buitenweg namens GroenLinks.

Mevrouw Buitenweg (GroenLinks):

Dank u wel, mevrouw de voorzitter. Het was inderdaad een interessant debat vorige week waarin we ook wat verder keken naar de gevolgen van big data voor de samenleving, het belang ook van de openbaarheid van de algoritmes, zoals de heer Verhoeven zei. Het is van belang dat besluiten van de overheid navolgbaar zijn en dat “the computer says no” niet een antwoord kan zijn. Wij moeten echt weten waarom besluiten worden genomen. In die machines zitten natuurlijk ook allerlei aannames waarom bepaalde datasets worden verzameld. In de algoritmes kunnen aannames zitten. Dat kan inderdaad tot discriminatie en uitsluiting leiden. Het is dus van belang dat die toetsbaar zijn.

Waarom wordt in deze motie een onderscheid gemaakt tussen ‘machines’ en ‘algoritmes’, die zoals zichtbaar apart genoemd worden, maar in feite onderdeel van dezelfde computertechnologie zijn? Naar mijn gevoel wordt hier verwarring geschapen omdat er iets dubbelop wordt beweerd: ‘machines met allerlei aannames’ en ‘algoritmes met inherente aannames’. Kan dit Kamerlid hier nog eens naar kijken?

Wij hebben het WRR-rapport heel uitgebreid besproken. Het is een ontzettend boeiend rapport met zo’n tien aanbevelingen. Het rapport is uit 2016. Ik begrijp dat de regering daarvan nu een aantal aanbevelingen aan het overnemen is in die zin dat zij onderzoek aan het uitvoeren is. Het is belangrijk dat wij nu een tandje bijzetten en dat wij daar nu wat haast mee maken, want ondertussen nemen wij allemaal besluiten die hieraan raken en waarbij wij nog steeds niet onze eigen aanbevelingen kunnen overnemen. Het is dus echt van belang om hiermee haast te maken.

Ik heb een motie die gaat over het klachtrecht. Zij luidt als volgt.

De Kamer,

gehoord de beraadslaging,

overwegende dat veel dataverwerkingsprojecten de belangen van individuen overstijgen, maar dat het klachtrecht nog altijd sterk gebonden is aan individuele schade;

overwegende dat de WRR adviseert om de positie van maatschappelijke en burgerrechtenorganisaties in juridische procedures te versterken zodat zij de effecten van dataverwerkingsprojecten op de samenleving aan de rechter kunnen voorleggen;

verzoekt de regering om mogelijkheden voor het verruimen van collectieve procedures bij de rechter te onderzoeken en de Kamer hierover te informeren,
en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door het lid Buitenweg. Naar mij blijkt, wordt de indiening ervan voldoende ondersteund.

Zij krijgt nr. 119 (32761).

Dank u wel.

Deze motie sluit uitstekend aan op de beide moties van Verhoeven, omdat ze inherent aanvullend zijn. Ik verzoek beide Kamerleden om de door mij hierbij geplaatste opmerkingen over een tekstmatige onduidelijk te onderzoeken en indien inderdaad sprake is van een geconstateerde slordigheid de motie aan te passen.

Wordt vervolgd

Advertisements