Tags

Opinie | Axel Arnbak, advocaat en wetenschappelijk onderzoeker

Vandaag heeft China te dealen met ‘westerse’ uitvindingen als het zeerecht, internet en de Wereldhandelsorganisatie. Morgen dreigt China de technologische realiteit voor het Westen te dicteren. Een verdeeld Westen dient zich nu met urgentie te bezinnen op de vraag wat een menswaardig bestaan is in een hypertechnologische wereld waarin Chinese technologie ons leven gaat beïnvloeden.

Zoals het hier geformuleerd staat, komt het wat analoog, wat tweedimensionaal over (‘vandaag het westen, morgen China’, als fundamentele tegenstelling dus, wat politiek-ideologisch opgaat, maar technologisch niet). Als ondersteunend argument verwijs ik naar de sociaaleconomische geschiedenis, die heeft laten zien dat het westen de moderne wereld/tijd heeft ‘ingeluid’ met  ‘uitvindingen’ als het zeerecht, en in de postmoderne tijd worden daar internet (en in de naoorlogse periode ook de ‘Wereldhandelsorganisatie’, oorzaak van de globalisering) aan toegevoegd.

Vervolgens wordt er de tweede zin aan toegevoegd: ‘Morgen dreigt China de technologische realiteit voor het Westen te dicteren.’ Maar klopt het wel dat China ons gaat of dreigt iets te gaan dicteren, zoals een technologische realiteit? Neen, dat klopt niet. Omdat ik afgelopen maanden intensief als niet technoloog heb gevolgd wat er op cybergebied geschreven werd in de kwaliteitskranten, weet ik dat cybertechnologie met zijn algoritmes alle richtingen kunnen worden ingeslagen, namelijk afhankelijk van de zelfgekozen prioriteiten (lees mijn blog  https://aquariuspolitiek.wordpress.com/2018/09/03/mooi-beschreven-waar-het-misgaat-in-ons-land-waar-het-om-een-topprioriteit-gaat-of-behoort-te-gaan-fd-ki-ai-strijdomwereldhegemonie/). Samengevat: alle algoritmes worden geprogrammeerd door menselijke ontwerpers en zij doen dus datgene wat hun bedrijfsbelang hun voorschrijft. De ‘Wet van het vrijemarktmechanisme’ kun je dat noemen. Zoals in de gelinkte blog staat beschreven, gaat het nu om Amerikaanse algoritmes die geheel in het perspectief staan van commerciële doeleinden en daarmee de globaliseringsslag te winnen, terwijl China de politieke veiligheid en communistische partijdictatuur voorop stelt. Voor de EU staat een mooie guldenmiddenweg open: programmeer de algoritmes op menselijke waardigheid en democratisering met een menselijk gezicht, geen technocratische gedrochten. Er wordt dus op de route nooit een realiteit gedicteerd, want onmogelijk.

Dat het westen nu verdeeld is, kan worden beschouwd als een politiek-evolutionair ontwikkelingsproces omdat de democratische bestuurs- en regeermodellen aan het einde van hun levenscyclus zijn gekomen en vervangen zullen gaan worden door steeds opstandig wordende burgers die de politieke en economische elites van deze wereld niet meer accepteren. Ik zie dus in de nabije toekomst een digitale directe democratie ontstaan, waarover ik op deze site veelvuldig heb geschreven (zie onder categorie: DDD). Maar béter een verdeeld westen dan een tweetal dictatoriale of autocratische wereldleiders als Rusland en China, die onze invulling van ‘ware democratie’ (mensenrechten en rechtsstaat) met voeten treden. Als beide genoemde grootmachten een ‘communistische democratie’ willen omzetten naar een ‘vrije’ westerse democratie, dan zullen betrokken bevolkingen daarvoor moeten vechten, zonder onze materiële – lees: militaire – inbreng daarbij, alleen dus in de vorm van voorlichting over hoe onze democratie functioneert en onder welke randvoorwaarden invoering daarvan mogelijk is. En vooral de vraag: is de gehele bevolking van Rusland en China daarvoor al rijp? Of hoe ga je die bevolking daartoe opleiden? Ten tijde van de ‘export van ons democratiemodel’ (zoals ten tijde van Vietnam) was dat een zinloos want utopisch beleid. Democratie valt simpelweg niet te exporteren; zo luidde onze historische les. Met bloed, zweet en tranen.

Tot slot de laatste opmerking in het citaat: ‘Een verdeeld Westen dient zich nu met urgentie te bezinnen op de vraag wat een menswaardig bestaan is in een hypertechnologische wereld waarin Chinese technologie ons leven gaat beïnvloeden.’  Neen, Chinese technologie gaan ons leven niet beïnvloeden, tenzij consumentengroepen daarvoor zelf kiezen, want het betreft te allen tijde producten die verkocht moeten worden. Als het westen die producten superieur vindt (vanwege de Wet van de Remmende Voorsprong) dan zal de markt zijn werk doen. Maar slaan die producten niet aan, dan kunnen de Chinezen naar hun winsten en omzetten fluiten.

Decennialang legden vooral de VS en de EU de technologische en ethische fundamenten onder de netwerksamenleving van vandaag, zoals connectiviteit en het communicatiegeheim. In China bestaat al jaren binnen de ‘Great Firewall’ een afgeschermde, nationale netwerksamenleving waarin niet vrijheid van de mens maar gehoorzaamheid aan de overheid de norm is. En nu krijgt de nieuwe wereldmacht steeds steviger grip op de ontwikkeling van de mondiale technologische omwentelingen van morgen, zoals kunstmatige intelligentie (KI) en kwantumcomputing.

‘Afgeschermde, nationale netwerksamenleving’ vanwege hun communistische autocratie! Hun ideaal (tot nader orde!). En de laatste zin is dus een subjectieve beleving van de auteur. Want onbewijsbaar.

De basistechnologieën onder het mondiale internet zijn in de VS en de EU ontwikkeld en doorspekt met idealen over een menswaardig bestaan. Het internet protocol (IP) is bijvoorbeeld een typische Amerikaanse uitvinding: open en inclusief, iedereen kan een computer verbinden en meedoen. Tegelijkertijd is privacy geen kernelement van het IP. Was het IP ooit uitgevonden in het privacybewuste Duitsland van nu, dan was de veiligere extensie IPsec, waarin iedere verbinding meteen ook wordt versleuteld, allicht de standaard geworden. Iedere technologie behelst immers politieke keuzes.

Politieke of commerciële keuzes?

Urgentie vereist

Trage Europese Unie en afbrokkelende VS moeten menswaardig alternatief bieden in een hypertechnologische wereld waarin Chinese technologie ons leven gaat beïnvloeden

In China is de netwerksamenleving in de afgelopen jaren sneller doorontwikkeld dan in het Westen. De integratie van de online en offline wereld is op alle terreinen, vooral in retail en e-payments, mondiaal leidend. Zelfs Amerikaanse topondernemers zeggen – privé – dat zij het moordende tempo niet kunnen bijbenen. China voert sinds kort ranglijstjes aan van wetenschappelijke publicaties op het terrein van KI en kwantumcomputing. Investeringen in onderzoek door bedrijven en overheid zijn astronomisch en onvergelijkbaar met de trage EU en de afbrokkelende VS, waar president Trump budgetten juist stevig inkort.

Zelfs als sprake zou zijn  van een ‘moordende tempo dat niet kan worden bijgebeend’, dan nog zijn  dit meningen van topondernemers, waar whizzkids om lachen, want die weten dat die topondernemers er geen verstand van hebben. En wij moeten dus niet de fout maken in diezelfde valkuil te stappen en maar alles klakkeloos over te nemen.

Want de technologie ontwikkelt zich inderdaad in moordend tempo, maar deze opiniebijdrage bewijst maar eens te meer welke – mijns inziens – gemakkelijke denkfouten er kunnen worden gemaakt als de essentie van KI/AI niet begrepen wordt: het zijn menselijke producten die nooit een eigen leven kunnen gaan leiden, tenzij de mens – zie de menselijke geschiedenis – zijn eigen manipulatieve technieken inzet om zich macht en invloed te verwerven. Dat is hierbij dus ook aan de orde.

Maar omdat er een spookbeeld wordt gecreëerd dat machines en techniek een ‘eigen leven’ (alleen mogelijk door verkeerde menselijke handelingen) kunnen gaan leiden, wordt er weer mist geschapen.

Moeten we dus in paniek raken als ‘China voert sinds kort ranglijstjes aan van wetenschappelijke publicaties op het terrein van KI en kwantumcomputing. Investeringen in onderzoek door bedrijven en overheid zijn astronomisch en onvergelijkbaar met de trage EU en de afbrokkelende VS, waar president Trump budgetten juist stevig inkort’?

Neen, want de genoemde actoren EU en VS tegenover China is geen lineair verband, maar onderdeel van een evolutionair ontwikkelingsellips. En zoals boven al uiteengezet, wordt die Chinese technologie verkeerd of eenzijdig gebruikt en dus levert dat voor ons geen gevaar op. Alleen waakzaamheid is noodzakelijk.

Maar dat de EU verkeerde begrotingsprioriteiten stelt, is historisch gegroeid en kan dus met één besluit worden rechtgezet, om maar een symbolisch antwoord te geven. Ook een kwestie van politiek, want wie heeft de meeste macht binnen de Europese gremia>

Tegelijkertijd draait het surveillanceapparaat van de Chinese overheid op volle toeren. De slotaflevering van Ruben Terlou’s VPRO-serie ‘Door het hart van China’ brengt prachtig in beeld hoe de Chinese overheid nieuwe technologieën inzet om burgers preventief te selecteren op ongewenstheid. Wie in miljoenenstad Shenzhen vijf keer door het rode voetgangerslicht loopt, belandt als paria op een zwarte lijst en komt niet meer in aanmerking voor basisvoorzieningen, zoals een lening.

Daarmee wordt ook duidelijk wat de mens de machine kan aanleren!

Eigenlijk past China zo de ‘Law of Requisite Variety’ (1956) van cybernetics visionair Ross Ashby eng goed toe. Kort samengevat theoretiseerde Ashby dat je een systeem – een lichaam, computer of samenleving – pas kunt beheersen, als zijn controlemechanismen geavanceerder zijn dan de verschijningsvormen van dat systeem.

Maar die controlemechanismen worden ingebracht door de programmeurs en dus menselijk gevormde ‘geavanceerdheden’, technologische innovaties! ‘Zijn dan [dus] de [politieke] verschijningsvormen van dat systeem.’ Het is maar dat we ons daarvan bewust worden!

Dit geniale idee heeft op maatschappelijke schaal verregaande gevolgen. In het relatief vrije Westen snappen beleidsmakers stilaan dat de realiteit te complex is om in kunstmatige algoritmes te vatten.

Hoezo??? De lgiva hiervan ontgaat me.

Ashby’s wet

Het Chinese antwoord op een complexe samenleving is om zowel de controlemechanismen alomvattend te maken als onvoorspelbaar gedrag uit te bannen

Microsoft lanceerde zonder menselijke interventie een KI-chatbot die zich in de praktijk al snel ontwikkelde tot een smerige racist. Het Chinese antwoord op een complexe samenleving is om, geheel in lijn met Ashby’s wet, zowel de controlemechanismen alomvattend te maken als onvoorspelbaar gedrag uit te bannen. Die idealen gaan, net als het IP destijds, nu deel uitmaken van de hoogwaardige Chinese KI- en kwantumtechnologie van morgen. In China’s dystopie dient de mens de centrale overheid, niet andersom.

‘Zonder menselijke interventie’? wie bewijst dat? Deze alinea kan ook een door iemand uit de duim gezogen bewering zijn. Voor deze ‘stelling’ zijn dus harde en wetenschappelijke bewijzen noodzakelijk.

Wat stelt het Westen tegenover deze Chinese denkwijze? President Trump wil liever twitteren dan mensen helpen.

De EU heeft met de veelbesproken aanscherping van de privacywetgeving laten zien dat het mondiaal kan inspireren: recent namen zowel India als Brazilië identieke privacywetgeving aan. De EU ontwikkelt al voorzichtig wat ideeën over KI, maar is nog te weinig ambitieus.

Te weinig ambitieus, of wordt de kostbare tijd van de EU-ambtenaren in beslag genomen door het geëtter van de Visegradlanden? Nieuwe lidstaten die zich niet aan de bestaande regels willen houden?

De uitdagingen en concurrentie zijn groot, vooral op het gebied van wetenschap, ondernemingsdrift en vooral de werving van talent. Toch moet Europa mondiaal inspireren door de mens centraal te stellen in de technologie van morgen. Anders wacht ons in de mondiale netwerksamenleving een extreme toekomst.

Niemand kan het hiermee oneens zijn, maar de grote lijnen in de EU zijn geheel uit zicht verdwenen en dat krijg je met visieloze politici. Dat is de makke van de EU! (en de VS overigens).

[Axel Arnbak is advocaat bij De Brauw Blackstone Westbroek en onderzoeker aan het Instituut voor Informatierecht (UvA). Reacties: @axelarnbak]

https://fd.nl/opinie/1268024/in-china-s-cyberwereld-is-niet-vrijheid-maar-gehoorzaamheid-de-norm