O, heerlijke nieuwe wereld! (Column Xandra Schutte, Beeld Milo/De Groene Amsterdammer, 17.5.2018)
Nee, super-intelligente machines zullen de mens niet zomaar tot slaaf maken
Wat een schitterend nummer over AI/KI heeft De Groene voor deze week uitgebracht. Hulde voor deze nuchtere analyses, waarvan ik graag gebruik maak om mijn gedachteontwikkeling verder uit te werken. De lezer zal merken dat ik geheel op één golflengte zit met alle verschillende bijdragen in dit nummer.
Vorige week presenteerde Google zijn nieuwste technologische gemaksmiddel: Duplex, een digitale stem die net als een echt mens klinkt, zelfs aarzelend ‘eh…’ kan zeggen in een conversatie, of een bevestigend ‘hmm’ kan laten horen. Duplex kan afspraken voor je maken met de kapper of een reservering bij een restaurant, en dat kan ze zo levensecht dat mensen aan de andere kant van de lijn niet merken dat ze gebeld worden door een robot. Dat is behoorlijk beangstigend, want voor je het weet ligt misleiding op de loer. Google kondigde dan ook aan dat Duplex zich in de loop van het gesprek als robot kenbaar zal maken.
Deze week was er sprake van een wereldprimeur in Nederland: mensen met een kinderwens die mogelijk drager zijn van een erfelijke ziekte kunnen bij zes huisartsen aankloppen voor een DNA-dragerstest. Kosten: 950 euro. In de rest van de wereld wordt de test alleen nog via ziekenhuizen aangeboden. Als de genafwijking vóór de zwangerschap wordt ontdekt kunnen alleen de ‘gezonde’ embryo’s worden teruggeplaatst, of kan worden gekozen voor een eicel- of spermadonor. Ook dit is, zeker voor christelijke politici, beangstigend. De ChristenUnie heeft bij monde van Kamerlid Carla Dik-Faber al haar zorgen geuit. Zal dit soort screening niet leiden tot medicalisering van de zwangerschap, of erger: tot eugenetica? Wat als toekomstige ouders zich zomaar laten testen, ook als er geen erfelijke ziekte in de familie zit? Komt de designbaby dan niet dichtbij?
Inderdaad fundamentele vragen en voor velen fundamentele levensvraagstukken. Gaan we voor schepper of god spelen met deze nieuwste menselijke of technische ontwikkelingen? Genetica zijn we al enige decennia gewend via DNA-testen en naspeuringen bij misdaadonderzoek en identiteitsbepaling, maar rasverbetering in de betekenis van rasverbetering of mensenrasveredeling komt toch meer te liggen op de grens wat menselijkerwijs in ethische zin mogelijk is en wat niet.
Deze laatste vraag valt niet op voorhand ‘technocratisch’ te beantwoorden aangezien wij als hedendaagse mensheid geen ervaring hebben met rasverbetering door middel van genetische reparaties van defecte genen. Waarom schrijf ik ‘technocratisch’ in plaats van wetenschappelijk-technologisch dat veel neutraler klinkt en ook is.
Sprekend over ‘technocratie’ gaat het meestal altijd over bureaucratie waarbinnen besluiten worden genomen die technisch gesproken veilig lijken. Er worden binnen de gemiddelde overheidsbureaucratieën in de westelijke democratische wereld (dus buiten éénpartijstaten om) veel technische oplossingen uitgedacht en geproduceerd op papier en voorgesteld omdat onze pluriforme maatschappij via verschillende gremia van volksvertegenwoordigingen (gemeentelijk, tussenlaag als provincies en nationaal om van supranationaal zoals de EU maar te zwijgen) uiterst complex is geworden en dan wil de techniek ons wel een handje verder helpen. Techniek klinkt immers neutraal en apolitiek. Het is dan vervolgens aan de politiek (en de politieke kleur van het zittende bestuur) om keuzes te maken en de besluiten te implementeren, toe te passen.
Maar genetica en vooral eugenetica is direct al een gevaarlijk terrein omdat het associaties met het Derde Rijk van de nazi’s oproept omdat het daar om een veredeld Germaans ras ging en dat tegenover het Joodse ras, dat in het nazi-denken uitgebannen moest worden. Die tijden van regelrechte en harde discriminatie zijn gelukkig uitgebannen via de naoorlogse Verdragen van de Rechten van de Mens. En over genetica is er inmiddels een fijnmazige wetgeving ontstaan waarbij nauwkeurig wordt aangegeven wat ethisch (en moreel) toegestaan is als het gaat om overervingsproblemen en dus ernstige afwijkingen van mens (en dier). Eenvoudige genenreparaties in het DNA van de mensen zijn vandaag de dag regelmatig toegepaste technieken, als we de kranten mogen geloven.
Maar het zal duidelijk zijn dat eugenetica een heel ander hoofdstuk is en dat de grenzen op dat gebied of terrein helemaal niet duidelijk zijn. Biologisch zijn wij wel in staat om voor ons eigen nageslacht te zorgen en dus ‘levenscheppend’ bezig te zijn, maar biologische voortplanting(stechniek) wil nog niets zeggen over ons begrip en inzicht in dat eigenstandige mechanisme. Om maar een ‘kernbegrip’ te benoemen: in de Bijbel staat dat de jonggeborene de ‘levensadem wordt ingeblazen’; technisch gesproken doet de arts of gynaecoloog dat door de net geboren baby met een klapje zelfstandig te laten ademen. Maar is de ‘levensadem’ identiek met de eerste zelfstandige maar onbewuste ademhaling?
Op een site wordt uitgebreid ingegaan op alles wat met de ademhaling te maken heeft. Zowel de fysieke als psychische en spirituele betekenis en wat daar aan gerelateerd is. Speciaal voor diegenen die zich meer in deze materie wilt verdiepen: http://ademtherapie.blogspot.nl/. En zoals hier staat aangegeven wordt of kan onderscheid worden gemaakt tussen de fysieke als psychische en spirituele betekenis. Maar dit laatste aspect – de spirituele betekenis – is in onze seculiere maatschappij geheel op de achtergrond geraakt en onbekend geworden. Wij kunnen er vanuit gaan dat bedoeld wordt dat ons leven op aarde bepaald wordt door ons fysieke lichaam, alsmede onze psychische en spirituele denkvermogen, eveneens onderdelen van ons DNA.
# Dit zijn zomaar twee recente berichten die nog weer eens aangeven dat we midden in een technologische en biochemische revolutie zitten. Of het nu gaat om het gebruik van big data en algoritmen bij, zeg, het bestrijden van misdaad, het selecteren van kandidaten voor een nieuwe baan of het bepalen van de hoogte van je autoverzekering; om de inzet van artificiële intelligentie in ons huis (de keukenrobot die op basis van ingrediënten in de ijskast een recept aanraadt) of in de zorg; om het tegengaan van klimaatverandering met bio-engineering – het is duidelijk dat door nieuwe technologie elk facet van ons leven drastisch zal veranderen. En in alle gevallen is sprake van dezelfde wedloop: de technologische ontwikkelingen lopen voor op de ethische reflectie erop. Wet- en regelgeving hobbelen ook vaak amechtig achter de nieuwe vindingen aan.
Deze opsomming van technische eigenschappen klinkt vandaag de dag al heel gewoon, maar toch moeten we eigenlijk nog even precies aangeven wat we ermee bedoelen. Ik geef mijn interpretatie. Big data en algoritmen zijn technische mogelijkheden die wij door middel van computertechnologie en –kunde kunnen gebruiken om ons leven vorm te geven zoals wij dat zelf willen en iedereen zal dat op zijn eigen wijze en manier vormgeven. Big data en algoritmen zijn bijzonderheden binnen de computertechnologie die de producent van consumptiegoederen (of diensten) in staat stelt om direct gericht op die consument aanbiedingen te doen waarop hij kan reageren of niet. Er wordt veel verkocht door direct mailing en dat betekent vaak dat mensen daarvan bewust en minder vaak onbewust op reageren, althans in mijn verbeeldingswereld. Zo maak ik gebruik van boekaanbiedingen – zowel nieuwe uitgaven als tweede hands – en als ik heel aantrekkelijke thema’s tegenkom voor redelijke prijzen dan ziet de lezer die boeken hier op deze plaats in een bespreking terug.
Bestrijding van misdaad is via big data en algoritmen ook heel logisch in verband met de tijdsbesparing die het de politieorganisatie oplevert en die tijd in andere vormen van dienstverlening kan gieten. Daardoor hoeft geen misbruik van die algoritmen gevreesd te worden want is er sprake van misbruik aan derden terwijl de wet- en regelgeving strak is geregeld, dan worden de autoriteiten ingelicht en komen er direct vragen aan bewindslieden die een en ander mogen gaan verklaren. Hoor en wederhoor dus, die de bevolking het gevoel geven dat er niet zo maar met hun privégegevens kan worden omgesprongen. En als je hiervan niet gediend bent dan bestaat er de toevlucht tot de ouderwetse en gerevitaliseerde Nokia-toestellen die onder al die algoritmen werken. Veilig dus. Een ouderwets telefoontoestel die je ook bij je kan dragen.
‘Het selecteren van kandidaten voor een nieuwe baan of het bepalen van de hoogte van je autoverzekering’ kwam je vroeger ook in meer traditionele zin tegen en waarmee ik ook te maken kreeg als je tientallen sollicitatiebrieven verzocht werd door te lezen om een persoonlijke keuze te maken voor een nieuwe collega. Geen probleem. Van die brieven werd je trouwens ook snel moe want allemaal een beetje van hetzelfde. De hedendaagse trends met YouTube-opnames ken ik natuurlijk niet, want voor mijn tijd. Daar was ongetwijfeld meer creativiteit in mogelijk.
Alleen over het genoemde thema van ‘het tegengaan van klimaatverandering met bio-engineering’ begrijp ik niet helemaal want worden hier chemtrails bedoeld als onderdeel van bio-engineering (http://worldunity.me/chemtrails-en-haarp-bio-engineering-hoe-ze-u-veranderen-video/), of juist niet, want ik heb altijd begrepen dat het middelen waren om het klimaat in negatieve zin te bevorderen zodat mensen sneller ziek worden en zo de Pharma-industrie te bevoordelen. En dat zijn dus van de serie genoemde thema’s de echte negatieve ontwikkelingsmogelijkheden waarover ook te weinig bekend is en waarvan het uiterst vreemd is dat er nooit Kamervragen (https://vraagde2ekamer.nl/sluierbewolking-of-chemtrails/) over gesteld zijn.
Nee, super-intelligente machines zullen de mens niet zomaar tot slaaf maken
# Juist die wedloop tussen wat mogelijk en wat wenselijk is, zorgt voor dat beangstigende gevoel. De technologische revolutie wordt maar al te vaak als een onvermijdelijkheid voorgesteld, als iets waar mensen toch geen vat op hebben. En ondertussen dreigen wij te worden overvleugeld door artificiële intelligentie, te worden leeggezogen door de tech-giganten in Silicon Valley of te worden geknecht door algoritmen. De voortschrijdende techniek houdt kortom niet alleen een grote belofte in, omdat ze grote en kleine problemen zal oplossen – van klimaatverandering tot ons gebrek aan lichaamsbeweging (‘je hebt vandaag nog maar drieduizend stappen gezet’) – ze zorgt ook voor angst, omdat ze het wel eens van ons zou kunnen overnemen, waardoor de autonomie van ons mens-zijn verandert.
Hier wordt gesuggereerd dat er sprake is van ontwikkelingen die ‘(…) maar al te vaak als een onvermijdelijkheid voorgesteld’ worden maar waarvan ik mij afvraag of die onvermijdelijkheid dramatisch genoemd moet worden. Feit is wel dat er ontwikkelingen bestaan zoals algoritmen waarvoor delen van de consumenten geen belangstelling hebben (ik herinner me het schandaal van ING-bankrekeningsnummers die door de bank werden gebruikt zonder dat rekeninghouders iets werd gevraagd, laat staan om toestemming werden verzocht vanwege mogelijke bezwaren om bepaalde aanbiedingen te ontvangen.
Die daar niet op waren voorbereid en de bank maakte dus de fout dat de programmeurs die de opdracht gekregen hadden om deze dienstverlening te ontwikkelen uitging van het automatisme dat de klant ‘vanzelfsprekend’ akkoord zouden gaan met deze nieuwe dienstverlening. Werelden van verschil in beleving bij dergelijke acties. Die fouten zullen niet gemakkelijk meer gemaakt worden, maar bewust worden ingezet in het geheim. Zie ook het schandaal van Facebook. De conclusie is dat het steeds de bedenker van nieuwe vormen van dienstverlening is die de fout ingaat en niet de techniek die beschikbaar was geworden. Het gaat in ons huidige kapitalisme nog steeds om winst maken en omzetvermeerdering. Daar is op zichzelf niets op tegen want anders vervallen we weer in de oude prehistorische tijden van de Middeleeuwen waarin geen vooruitgang bestond of zelfs mogelijk was. Zonder moderniteit en vooruitgang heeft de mens minder persoonlijke groeimogelijkheden en we mogen er vanuit gaan dat er cycli van stilstand bestaan én cycli van vooruitgang en zelfs extreme vormen van exponentiële ontwikkeling, zoals wij dat nu zelf meemaken. Die zijn niet programmeerbaar en dat schijnt dus ook onderdeel van de menselijke én technische evolutie te zijn.
# In dit speciale nummer gaan wij in op de nodige baanbrekende technologische ontwikkelingen: van het slimme huis van de toekomst tot gepersonaliseerde medicijnen, van de zelfrijdende auto tot de voortgang in de voortplantingstechnologie. Maar vooral willen we onderzoeken hoe technologie invloed heeft op ons mens-zijn. Daarbij ontmaskeren we spookverhalen: nee, superintelligente machines zullen de mens niet zomaar tot slaaf maken (Luciano Floridi over onze angst voor AI); nee, er zullen niet zo snel posthumane wezens ontstaan (Jos de Mul over het posthumane tijdperk); nee, de designbaby is echt nog ver weg; en nee, de barbaren nemen het niet van ons over, van de barbaren kunnen we juist veel leren (Alessandro Baricco over de nieuwe mens).
Vooral de vraag (door onderzoek na te gaan) ‘hoe technologie invloed heeft op ons mens-zijn’ is een uiterst boeiende en de enige vraag is waarom dit themanummer niet eerder bedacht werd!!
# En waar we de greep op de technologie dreigen te verliezen moeten we onszelf voor ogen houden dat techniek niet uit de lucht komt vallen, maar gemaakt wordt door mensen. Daarom moeten we het morele gesprek over technologie blijven voeren. Om dat te stimuleren pleit wiskundige Cathy O’Neil in dit nummer voor een soort eed van Hippocrates voor de bouwers van algoritmen. ‘Uiteindelijk’, zegt ze, ‘gaat het niet om de technologie en de algoritmen, maar om de mensen die erachter zitten en de mensen die ze gebruiken.’ Als we inzien dat technologie inderdaad dát is: mensenwerk, dan moet dat ook de motivatie geven haar te sturen.
De eerste vraag is waarom we überhaupt de ‘greep op de technologie dreigen te verliezen’; terecht staat er ook bij dat ‘techniek niet uit de lucht komt vallen, maar gemaakt wordt door mensen.’ En het morele gesprek is inderdaad nodig waar sprake is van grensoverschrijdende thema’s zoals klonen en DNA-aanpassingen. Vermoedelijk is ook nanotechnologie een thema die zich al op morele grenzen bevindt en waarover journalistiek nog veel te weinig wordt geschreven. De slotzin van deze passage is volkomen juist geformuleerd.
PS. Dit is leesstof voor twee weken. Het volgende nummer verschijnt 31 mei.
Binnen deze twee weken hoop ik dit hele themanummer artikel na artikel hier besproken te hebben! Dank ‘Groene’ voor deze schitterende aanleiding!
[Xandra Schutte (1963) is sinds 2008 hoofdredacteur van De Groene Amsterdammer.]
