Tags
Stelling: Niet Kunstmatige Intelligentie bedreigt ons, maar de versimpeling van wat het leven kan zijn
Gemak dient de mens, tot op zekere hoogte (Column Marjoleine de Vos, Opinie/nrc.nl, 28 mei)
Inleiding: In Brave New World, de beroemde dystopie van Aldous Huxley uit 1932, wordt een wereld beschreven waarin er alles aan gedaan is om het de mensen aangenaam te maken. Oud worden doen ze niet meer, ze blijven mooi en gezond tot ze eraan gaan. Onvoorspelbaarheid en eigenzinnigheid, lijden, liefde, het lijkt allemaal uit de wereld en is vervangen door efficiëntie, genot en comfort, bereikt met technologie en sufmakende drugs.
Inhoudelijkheid in het heden
De mensen zelf zijn trouwens voor het gemak genetisch voorgeprogrammeerd en geconditioneerd, ze zijn opgedeeld in verschillende groepen die ieder op hun manier een bijdrage aan de samenleving leveren en ook niets anders willen dan wat ze doen.
Deze zin is de enige waarbij ik vragen bij heb, ofwel de betekenis niet begrijp van het eerste gedeelte: ‘De mensen zelf zijn trouwens voor het gemak genetisch voorgeprogrammeerd en geconditioneerd’, want wat betekent hier ‘zelf zijn trouwens voor het gemak genetisch voorgeprogrammeerd’; wordt hier met genetisch voorgeprogrammeerd bedoeld dat ieder mens de drager is van de genen van de beide ouders? Dat zal toch niet in deze betekenis zo zijn opgeschreven, want dan is het niets anders dan een open deur. Maar wat betekent dan ‘voor het gemak’ in dit verband?
In eerste instantie las ik deze passage als de sociale programmering die ieder mens na de geboorte ondergaat na de kleutertijd en vooral als leerling op basis- en voortgezet onderwijs ontvangt. Sociale institutionalisering zoals dat in sociologisch jargon zo heet. Want zoals ook omschreven staat wordt ieder kind uiteindelijk opgedeeld in verschillende groepen en dat verschijnsel speelt tijdens het hele leven verder door.
De vraag van de roman is wat te prefereren is: vrij te zijn om een mens te zijn naar eigen inzicht, om andere dingen te willen dan films, seks en soma (de staatsdrug, Grieks voor ‘slaap’) maar dan ook onderworpen te zijn aan ouderdom en narigheid, of gelukkig te zijn binnen een van tevoren opgesteld stramien.
Ja, dat onderworpen zijn aan ouderdom is natuurlijk biologisch onvermijdelijk, althans tot aan de tijd dat de huidige biologische levenswetten vervangen worden door nieuwe inzichten. Maar ouderdom is bij de huidige staat van de mensheid een onoverkomelijk gegeven, evenals het overlijden en dus de dood. Bij narigheid en geluk ligt dat anders, aangezien dat niet zozeer biologisch of genetisch bepaald is, maar vooral sociaal gekenmerkt wordt of wat karaktereigenschappen betreft. En als de cyclus van geboorte-jeugd-volwassenheid- en-dood een ‘tevoren opgesteld stramien’ wordt bedoeld, dan zij het zo. Het valt op vele manieren te beschrijven en in associeer stramien meer op arbeidsprocessen die een bepaalde routine in zich dragen en in mijn beleving zou ik de gang door het leven als bijvoorbeeld kunstenaar of schrijver niet als stramien willen betitelen, aangezien het met technische maatvoering te maken heeft: model, patroon, jaar van herkomst.
Dat laatste lijkt steeds dichterbij. De Groene Amsterdammer maakte een nummer geheel gewijd aan de technologische toekomst, met kunstmatige intelligentie, algoritmes, gentechnologie enzovoort. En daarin komen die vragen natuurlijk naar boven: wat willen we, menselijk zijn met alle tekortkomingen en lasten vandien, of beheerst worden door gemak? Als je het zo vraagt is de vraag te groot en te grof, want waarom zou mijn menselijkheid aangetast worden doordat een systeem de ijskast vult, het licht dimt of een restaurant boekt?
De laatste bijzin is belangrijk, waarin geïmpliceerd wordt dat ieders menselijkheid niet aangetast wordt door een systeem. Inderdaad, daarmee ben ik het volmondig eens: de mens kan zich ondergeschikt maken aan de machine of een systeem, maar dat is geen wet van meden en perzen. Het hoeft zelfs niet eens zo te zijn, want het is de potentiële en dus ‘eventuele’ keuze van de mens zelf om dat te laten gebeuren. Maar de mens als mentaal en spiritueel wezen kan geheel leven zonder (huishoudelijke) machines enerzijds en digitalisering of algoritmes anderzijds. Het zijn allemaal keuzes; daar waar de mens via de eigen keuze aan of tot een willekeurige verslaving komt, daar kan een mens ook verslaafd raken aan sociale media. Ik zou bijna willen beweren dat er geen mens bestaat zonder een of andere vorm van (lichte) verslaving; maar ik ga niet zover om te beweren dat het genetisch bepaald is. Dat zijn ‘aanleggen’ die niet biologisch bepaald zijn zeg ik nu spontaan zonder de behoefte te hebben om deze bewering te controleren op geldigheid.
Het digitale denken, dat geen recht doet aan de ingewikkeldheid van zelfs de simpelste aspecten van het leven, dringt zich overal op. Neem maar al die onderzoeken waarin je gevraagd wordt op stellingen te reageren door steeds op een schaal aan te geven in hoeverre je het ermee eens bent. De antwoorden zijn eenvoudig digitaal te verwerken, maar de opzet sluit de mogelijkheid van nuancering van de stelling altijd uit. Bent u tevreden met de voorzieningen in uw woonomgeving? Verwacht u in de komende twee jaar te zullen verhuizen? Ja met sommige voorzieningen ben ik tevreden, andere niet, weer andere zijn er wel maar die gebruik ik nooit dus daar sta ik neutraal tegenover. En misschien ga ik wel verhuizen ja, maar dat houdt geen verband met de onderzochte problematiek, maar als ik invul ‘ja’ dan denkt men van wel. Enzovoort.
Hier staat niets in dat ik als onjuist zou kunnen bestempelen.
Het lijkt er nooit op dat er iets anders onderzocht is dan de vooronderstellingen van degenen die het onderzoek in elkaar hebben gezet. En zo gaat het met alle gedigitaliseerde levensonderdelen. Iets anders dan wat men zich kon voorstellen dat je zou willen, kunnen of moeten zit er niet in.
In De Groene, geheel gewijd aan die heerlijke nieuwe wereld, schrijft econoom Dirk Bezemer over het toenemen van consumptie en het verdwijnen van het zelf – er is geen ‘ik’ meer dat denkt – en dientengevolge van de geesteswetenschappen. Dat klinkt erg pessimistisch, maar feit is dat alles wat met cultuur en ontwikkeling te maken heeft aanzienlijk in waarde is gedaald en dat een roman bijvoorbeeld vooral heel goed wordt gevonden als iedereen dat vindt. En zelf doe ik Huxley nu ook onrecht, trouwens, want zijn boek is een roman en geen pamflet en het is beslist genuanceerder dan ik zo digitaal weergaf.
Ik vind het volstrekt belachelijk om ook maar te veronderstellen dat ‘het verdwijnen van het zelf – er is geen ‘ik’ meer dat denkt’ zou kunnen bestaan. Hoe komt iemand erbij, en in dit geval een academisch werkzaam econoom om dit te denken? Voor mij een raadsel.
Juist dat is het punt. Het is niet zozeer de Kunstmatige Intelligentie die ons bedreigt, het is de versimpeling van wat leven zou kunnen zijn. Het is uitdagender en bevredigender om iets te veroveren dan om overal omringd te worden met ‘gemak’. Vooral geestelijk.
Ik ben het volledig met de auteur eens dat het ‘niet zozeer de Kunstmatige Intelligentie is die ons bedreigt’, maar dat het inderdaad neerkomt op ‘de versimpeling van wat leven zou kunnen zijn’. Dat is wijsheid!
Hoe het komt weet ik niet, maar de mensheid lijkt over te koken van alles wat op hem afkomt aan informatie, druk, veelheid van keuzes, verwachtingspatronen en zo meer, zodat stressverschijnselen bijna onvermijdelijk worden. Vele mensen raken gespannen van en door de hoeveelheid informatie die op ons brein dagelijks afkomt en zelfs overstroomt, zodat we daarom de weg aan het kwijtraken zijn als je tenminste geen keuzes kunt maken. Geen kompas hebt ontwikkeld in welke richting je je wilt ontwikkelen. Kortom, KI of het Brits/Amerikaanse AI is dus helemaal geen gevaar; maar als je er niet mee kunt omgaan, houd je er dan verre van! Dat is alles.
[Marjoleine de Vos is redacteur van NRC.]
https://www.nrc.nl/nieuws/2018/05/28/gemak-dient-de-mens-tot-op-zekere-hoogte-a1604423
