Tags
EU, KI, robotica, robotisering, TweedeKamer, VR
Krantentitel: ‘‘ Intelligente robots zullen de mens in een identiteitscrisis storten’’
Technoprofeet Kevin Kelly gaat in zijn onlangs uitgekomen boek The Inevitable op zoek naar ‘de wortels van de digitale transitie’ zodat we nieuwe technologie nóg enthousiaster kunnen omarmen.
Kelly’s bestsellers
# In 1998 publiceerde Kevin Kelly het boek New Rules for a New Economy. Hij beschreef de mogelijkheden die internet het bedrijfsleven biedt. In 2010 verscheen What Technology Wants. De echte Kevin Kelly-klassieker is het minder toegankelijke Out of Control uit 1994. The Inevitable kwam deze zomer uit en kreeg goede recensies. Kelly gaf adviezen voor sciencefictionfilms, onder andere aan Steven Spielberg voor Minority Report. Alle acteurs uit The Matrix moesten volgens Kelly zijn boek Out of Control lezen. Kelly is een van de bedenkers van ‘quantified selfing’. Een manier van leven waarin mensen alle cijfers over zichzelf bijhouden.
# De man die in 1993 het blad Wired hielp oprichten, is niet alleen maar positief over de digitale transitie. Kevin Kelly waarschuwt ook voor de gevaren. ‘Hoe krachtiger de technologie, hoe groter de impact van misbruik’, zegt hij in een gesprek met het FD. ‘Kunstmatige intelligentie wordt onvermijdelijk aan het militaire wapenarsenaal toegevoegd. Dat betekent dat veel mensen erdoor zullen sterven. Maar zie dit vanuit het perspectief van de één miljoen mensen die nu zonder robots al elk jaar worden gedood door toedoen van andere mensen.’
# Kelly sprak onlangs in Washington met het ministerie van defensie over de rol die kunstmatige intelligentie zal gaan spelen bij oorlogvoering. Nu is bij elke inzet van wapens de betrokkenheid van een mens vereist. ‘Misschien dat de VS op een gegeven moment besluit hiervan af te stappen. Kunstmatige intelligentie kan doden voorkomen. Robots kun je programmeren zodat ze geen oorlogsmisdaden plegen.’
Stapje voor stapje
# Kelly zegt dat elke nieuwe technologie ook nieuwe problemen creëert. Nieuwe technologieën bieden kwaadwillenden nieuwe manieren om vals te spelen, te liegen en te frauderen. Maar dat is geen reden om op de rem te gaan staan [sic!]. ‘Zolang technologie een fractie meer verbetert aan ons leven dan het vernietigt, is het goed. Ik geloof in incrementele verbeteringen. Een klein procentje verschil is alles wat je nodig hebt voor vooruitgang.’
# In zijn nieuwe boek somt Kelly twaalf grote trends op waarmee mensen zich kunnen voorbereiden op de toekomst. Maar wie bij Kelly op bezoek gaat, wordt geconfronteerd met hinderlijke technologische beperkingen. Rij de heuvels in richting zijn huis bij de badplaats Pacifica, op een klein half uur van de binnenstad van San Francisco: geen bereik. En als je zijn kantoorruimte binnenloopt, verwacht je het papierloze kantoor van de toekomstvoorspeller. Maar nee: het kantoor puilt uit van het papier, en er staan metershoge, letterlijk tot de nok gevulde boekenkasten. Een televisie is nergens te bekennen. Aan de muur reisfoto’s van eigen hand, veelal een halve eeuw oud. De voormalige hippie ziet er verre van hip uit met zijn Chriet Titulaer-baard. Kelly werd in zijn jonge jaren ooit wakker in Jeruzalem op de plek waar Jezus volgens het verhaal gekruisigd is. Hij besloot te leven alsof hij binnen zes maanden zou sterven. Backpackend in Azië en in het Midden-Oosten werd de ‘college drop-out’ een wedergeboren christen.
Nutsvoorziening
# Kelly is razend enthousiast over de grote stappen die momenteel worden gezet met virtual reality en kunstmatige intelligentie. Hij had in de jaren tachtig al een virtual reality-bril op. Zijn huis komt misschien niet heel modern over, maar Kelly zegt dat hij de meeste nieuwe technologie wel zelf uitprobeert. Hij wijst naar zijn keuken en vertelt enthousiast gebruiker te zijn van Alexa, de virtuele assistent die internetretailer Amazon onlangs introduceerde en die door miljoenen mensen wordt gebruikt om boodschappen te bestellen, maar ook om nieuws voor te lezen. ‘Boy, je voelt meteen aan hoe de toekomst eruit gaat zien.’
Foto : Robots zullen straks een boek schrijven dat de Pulitzerprijs wint
# Kunstmatige intelligentie zal volgens Kelly als een nutsvoorziening worden toegevoegd aan alle dingen in het leven. Hij vergelijkt het met elektriciteit in de vorige eeuw. Bedrijven zijn volop bezig met het toevoegen van kunstmatige intelligentie aan hun producten zodat ze nog beter de enorme hoeveelheden gegevens die ze verzamelen kunnen analyseren. Niet alleen Amazon, maar ook Google en Apple investeren volop in spreekassistenten die ons medisch advies kunnen geven, de verlichting thuis kunnen regelen en boodschappen kunnen bestellen.
Dilemma’s
# Mensen die toegang hebben tot kunstmatige intelligentie kunnen zichzelf een tandje slimmer maken. Als voorbeelden noemt de schrijver de verdieping van ons geheugen en het versnellen van onze herkenning. Dat klinkt mooi, maar Kelly waarschuwt ook dat deze ontwikkelingen de mens als soort komende decennia in een identiteitscrisis zullen storten. ‘Elke keer als vooruitgang wordt geboekt in de robotica, kunstmatige intelligentie of in de gentherapie worden we gedwongen opnieuw in te schatten waar de mens nog goed voor is. Dat roept dilemma’s op. Kunstmatige intelligentie zal slagen voor elke test. Mogen mensen examen doen die een hersenimplantaat hebben van Google? Robots zullen een boek schrijven dat de Pulitzer-prijs wint. Dat geeft ons te denken. Want wat blijft er van onze rol over? Als we de mens genetisch manipuleren, in welke richting willen we dan gaan en wie bepaalt dat dan? Hebben we consensus nodig of kan het zonder? Willen we de mens als soort behouden of hebben mensen die iets anders willen het recht om hun gang te gaan? Ik denk dat de gevechten met mensen die hun lichaam en geest willen veranderen de huidige cultuuroorlogen zullen doen verbleken.’
Hier staan een aantal opmerkingen die niet onweersproken mogen blijven. 1. Dat kunstmatige intelligentie de mens een tandje slimmer maken, is een onzinnige uitspraak. De mens kan alleen slimmer worden door zelf zijn denken te activeren en aan hersentraining te doen. Maar slimmer in de betekenis van meer wijsheid ontwikkelen, dat is niet van instrumenten of technische ontwikkelingen als VR afhankelijk. Dit valt niet te bewijzen, maar ik durf nu wel te beweren dat dit in de toekomst zal blijken zo te zijn. De mens is geen machine en zal nooit een machine worden, tenzij de mens zichzelf veroordeelt tot een machine, maar dat is dan een vrije keuze.
- Waarom wordt de mens in een identiteitscrisis gestort door KI? Dat kan alleen – en dat is nu ook de praktijk met midlifecrisis en burn-out – als de mens zelf zijn levenspad niet bewust gaat en zichzelf onvoldoende kent. Kent hij zichzelf wel, dan overkomt hem geen identiteitscrisis, want de KI neemt hem niet over, in tegenstelling tot wat in de film Matrix gebeurt. Maar dat is een film en dus fictie. Mogelijk gemaakt om mensen voor te bereiden op ontmoetingen met buitenaardsen en welke verrassingen daarbij mogelijk zijn. Want die praktijk kennen we als ‘mensheid’ nog niet, alleen enkelingen hebben ermee te maken gehad.
- De vraag waar de mens nog goed voor is, kan nu al geantwoord worden, als de mens nadenkt over de zin en het doel van het leven. In mijn visie is de mens op aarde om te leren van dit leven in de driedimensionale werkelijkheid, die anders is dan hogere, meerdimensionale sferen. De mens is hier om te leren hoe je omgaat met een complexe maatschappij waarin stoffelijke beginselen en voorwerpen bepalend zijn, maar die in geestelijke sferen niet meer bestaan. Dit is Heel Kort samengevat, omdat niet iedereen hierin geïnteresseerd is. Diegenen die dit verder uitgewerkt willen zien, kunnen mij dat laten weten en dan zal ik die geven.
Optimistische blik
# In zijn boek gaat Kelly een kritische discussie over de schaduwkanten van de digitale revolutie niet aan. Over het onvermijdelijke verlies aan banen door robotisering schrijft hij niets. Taxibedrijf Uber bejubelt hij, zonder te reppen over het wegvagen van een sociaal vangnet. ‘Over die zaken schrijven anderen al volop. Ik heb daar niets aan toe te voegen. Ik wil een optimistische kijk bieden op de toekomst. Dat doen gek genoeg niet zo veel schrijvers. En ik kan bijna geen enkele sciencefictionfilm uit Hollywood bedenken die een toekomst laat zien waarin we zouden willen leven.’
Kevin Kelly: ‘Ik wil een optimistische kijk bieden op de toekomst.’ (Foto: Christopher Michel)
# Experts Elon Musk en Stephen Hawking vrezen dat mensen zullen worden opgeslokt door kunstmatige intelligentie. Ze zijn bang dat hele industrieën worden weggevaagd en carrièrepaden verdwijnen. Kelly gelooft wel dat de maatschappij een prijs zal betalen voor de komende sprong in het diepe met kunstmatige intelligentie en virtual reality. ‘Maar ik denk dat er per saldo veel meer banen gecreëerd worden dan vernietigd. De eerlijkheid gebiedt echter wel te zeggen dat we niet weten welke nieuwe banen. Ik denk dat we het moeten zoeken in menselijke ervaringen. Producten en grondstoffen worden goedkoper. De enige schaarste die we hebben, is menselijke aandacht, die is beperkt. Dat is waar we het geld naar toe zullen zien stromen.’
Dat een aantal mensen vrezen dat mensen zullen worden ‘opgeslokt’ door kunstmatige intelligentie, is hun goed recht, maar ik zie geen argumenten of voorbeelden waarom dat zo zou zijn. Nogmaals ben ik van mening dat zelfkennis voldoende voorwaarde is om alles moet vertrouwen tegemoet te zien. Een heel ander chapiter is de angst dat hele industrieën worden weggevaagd en carrièrepaden verdwijnen en dat is een reëel perspectief. Maar dan zijn we wel aanbeland in een postindustrieel tijdperk – wereldwijd en dat duurt dus nog eeuwen! – waarin iedere productie door robots wordt verricht en dat de mens de ruimte en vrijheid biedt datgene te doen wat hem/haar een zinvolle invulling van het leven te geven. Dat lijkt me een paradijselijke omgeving, mits er geen robotische oorlogen worden gevoerd. Want dan zijn we echt verdwaald geraakt! En tweede voorwaarde van zo’n leefomgeving: Mits ieder mens zichzelf van een zinvolle levensvulling kan voorzien. Want sommige mensen vinden dat nog heel moeilijk. Trouwens, een leven zonder zelf in het productieproces te verkeren, betekent automatisch een leven in een ‘geldloze’ wereld en dus zonder geld. Want als alles door robotmachines wordt voortgebracht, en ieder naar behoefte spullen voor het levensonderhoud krijgt toegewezen, is er geen geld meer nodig en dus is ook ieder machtsstreven in de mens verloren geraakt, of opgeheven!
Betalen voor aandacht
# Kelly verwacht dat mensen uiteindelijk geld [hier denken de auteur en ik anders!] zullen eisen voor de aandacht die ze geven. Bedrijven zullen betalen voor de tijd die iemand besteedt aan een reclame of het lezen van een mail. Mensen met de meeste invloed en het grootste netwerk zullen het meeste kunnen vragen. ‘Als ervaringen in prijs stijgen, zullen daar de carrièreperspectieven liggen. Niet alleen de creatieve en intellectueel nieuwsgierige mensen zullen overleven. Alle vrachtwagenchauffeurs die hun baan gaan verliezen, kunnen prima omgeschoold worden. Mensen zonder veel intellectuele vaardigheden kunnen heus wel een beroemde chef-kok worden.’
Hier wordt vanuit mijn perspectief geredeneerd een denkfout gemaakt: mensen eisen geen aandacht waarvoor geld moet worden betaald, want als sociale en communicatieve wezens die wij als mensen zijn, geven we voortdurend aandacht aan andere mensen. Ieder geeft aandacht naar eigen vermogen en inzicht en daarvoor hoeft dus niet betaald te worden. Bijna een ideaal communistische samenleving, maar dan wel met het grote verschil van de 20e -eeuwse communistische ‘paradijzen’ die we gekend hebben, dat ook daar de machtswellust hoogtij vierde en dat ego-verschijnsel is nu verdwenen.
# Kelly had het met zijn voorspellingen niet altijd bij het rechte eind. Hij voorspelde in 2006 in deze krant dat Google niet zou overleven. Nu zegt hij dat Google ondanks de enorme stroom aan advertentie-inkomsten zichzelf zal omvormen tot een monopolist in kunstmatige intelligentie. Google verzamelt al jaren DNA-materiaal van mensen. Het bedrijf kondigde vorige week een samenwerking aan met GlaxoSmithKline om via kleine implantaten ziektes te genezen en in het lichaam data te verzamelen.
Hier kan ik kort over zijn. Mijn overtuiging (en verwachting) is dat niets van dit alles bewaarheid kan worden, want wat Google ook wenst te ondernemen en te ontwikkelen, het zijn allemaal dagdromen en die zullen én hoeven geen gevaar voor de mens te betekenen. Kunstmatige intelligentie is en blijft in mijn visie een fopsteen, een veredelde computer die alleen datgene uitvoert wat wij als mensen hebben ingevoerd. Ik schrijf dagelijks blogs over die zaken die ik interessant vind en die ik graag deel met mijn lezers en daarmee wordt mijn levensbehoefte voorzien.
IJdelheid heeft gewonnen
# De menselijke impuls om privacy te delen, heeft futurist Kelly overdonderd. Gebruikersgegevens blijken het goud van de 21ste eeuw te zijn. Nieuwe bedrijven in Silicon Valley — van klein tot groot — ontwerpen hun producten zodanig dat ze zo veel mogelijk data over hun gebruikers kunnen losweken. ‘IJdelheid heeft het duidelijk gewonnen van de zorgen over privacy’, zegt Kelly nuchter. Hij voorspelt dat grote bedrijven nog veel meer informatie zullen verzamelen over mensen.
In de eerste plaats zijn dit allemaal veronderstellingen, maar geen feiten. Dat er de wens bestaat om privacy te delen past in deze tijd van de virtuele en digitale openheid, maar heeft wel alles met egocentrisme te maken en daarom vind ik het niet verbazingwekkend. Maar waar mensen er genoeg van krijgen, houden ze er zelf wel mee op. Hoeveel providers zijn niet in de loop van de afgelopen decennia failliet gegaan of anderszins gestopt? Alles is dus vluchtig! IJdelheid kun je de mens ook niet op commando ontnemen!
# Voor ondernemers breken gunstige tijden aan, zegt Kelly. ‘De mogelijkheden zijn veel groter dan de afgelopen twintig of honderd jaar. De grootste bedrijven zullen in de toekomst veel groter zijn dan de grootste bedrijven van nu. Zij zullen winstgevender zijn. We staan aan het begin van een industriële revolutie met artificiële intelligentie. Ik denk dat de impact groter zal zijn dan die van de eerste industriële revolutie op de agrarische wereld. Het zal elk aspect van ons leven beïnvloeden. Het wordt belangrijker dan sanitair en stromend water. Het staat nu nog in de kinderschoenen. Maar in de komende vijf jaar zal er iets van te zien zijn. In de komende tien jaar zul je het merken. In de komende twintig jaar zullen mensen er een goed gevoel over krijgen en over dertig jaar kunnen we ons leven niet meer voorstellen zonder.’
Hier spreekt de auteur zichzelf tegen: ‘De grootste bedrijven zullen in de toekomst veel groter zijn dan de grootste bedrijven van nu. Zij zullen winstgevender zijn.’ Alles is toch gerobotiseerd? Winstgevendheid bestaat dan ook niet meer! Alles wat de mens nodig heeft wordt door robotfabrieken geproduceerd en de mens kan zelf zijn dag indelen!
Weg met het kortetermijndenken
Sociaal-economische wrijving is voor toekomstprofeet Kelly minder van belang. ‘De investeringscyclus voor dingen die we willen, duurt nou eenmaal langer. Kijk naar de digitale snelweg, ruimtevaartprogramma’s, de wetenschap en de grote technologische ontwikkelingen. Dat duurt generaties’, aldus de man die betrokken is bij de bouw van een enorme klok die is ontworpen om 10.000 jaar te tikken. Kelly wil hiermee samen met onder andere musicus Brian Eno tegenwicht bieden aan ons kortetermijndenken. ‘Ik denk dat we als beschaving verder moeten kijken dan één generatie. Mensen zullen het gevoel hebben dat ze achterblijven. Maar ik denk dat ze later mee zullen profiteren. Zo ging het ook met de eerste industriële revolutie. Zelfs voor de armste Amerikanen heeft die goed uitgepakt.’
Via mijn voorgaande commentaar zal die nieuwe wereld een leefomgeving zijn die een ander soort mens voortbrengt en dat is een mens met een absolute soort vrijheid, namelijk door geen externe omstandigheden gedwongen om iets te doen. Die nieuwe mens groeit automatisch naar dat mensbeeld dat door de robotmaatschappij gevormd wordt, namelijk een wereld van zelfbestemming en zelfinvulling; alles gebeurt in vrijheid en niets uit verplichting. Eigen karakter en persoonlijkheid bepalen de invulling van iedere dag. De mens die leert van de nieuwe sociale dimensies die dit leven te bieden heeft, en zoals er nog nooit een cultuur op aarde bestaan heeft. Wat een genot om daarin te mogen leven!