#humanincommand

In mijn blog over ethische digitalisering van december 2017 vertelde ik over mijn betrokkenheid bij een werkconferentie die wordt georganiseerd door de SER en het Rathenau-Instituut onder de titel “Naar een verantwoorde digitale samenleving”. Ruim 100 deelnemers praten over hoe de observaties en adviezen van het Rathenau rapport ‘Borgen van publieke waarden in de digitale samenleving’ kunnen worden omgezet in acties. Het is tijd dat we aandacht geven aan humanincommand.

Er zijn intussen twaalf gebieden benoemd die aandacht vragen en waar deelgroepen zich nu op richten. Dat gaat van bescherming van nationale vitale infrastructuren tegen cybercrime en spionage tot hoe creëren we meer transparantie in en aansprakelijkheid voor algoritmes. Of hoe we publieke waarden zo vroeg mogelijk borgen in het ontwerpproces van een proces tot hoe voorkomen we een te sterke afhankelijkheid van grote digitale marktpartijen. Hoe we kunnen zorgen voor meer digitale empowerment en weerbaarheid van de bevolking tot hoe we betekenisvol menselijk contact in domeinen als zorg, justitie, arbeid en defensie kunnen behouden.

Rol van de overheid
Net als op zoveel andere terreinen willen we als burger dat onze overheid een aantal zaken reguleert opdat de toegepaste techniek voor de samenleving veilig en betrouwbaar wordt ingezet en gebruikt. Ik neem vaak het voorbeeld uit de vliegtuigindustrie, waar de overheid wereldwijd afspraken heeft gemaakt waardoor de kwaliteit van elk vliegtuig aan minimale veiligheidseisen voldoet voordat een vliegtuig een luchtwaardigheidscertificaat krijgt.

Omdat een vliegtuigongeluk een enorme impact heeft, is tevens een systeem ontwikkeld om bij elk (bijna) ongeluk direct uit te zoeken wat de zwakke plek was, deze informatie wereldwijd te delen en bij ernstige zaken deze verbeteringen verplicht direct door te voeren.Deze rol heeft de overheid voor de vliegtuigindustrie al vele decennia, net zoals voor bijvoorbeeld de nucleaire industrie en de medicijnwereld. We zien dat ook op andere gebieden de voorschrijvende rol van de overheid toeneemt. Denk aan de financiële markten waar het rond 2008 totaal uit de hand liep en nu de GDPR om de onbeantwoorde zaken rond omgaan met de privacy van burgers en bedrijven beter te borgen, daar minimale eisen voor vast te stellen en zo te zorgen voor humanincommand.

Nederland als gidsland
Onze digitale infrastructuur is één van de beste ter wereld en de AMS-IX in Amsterdam is één van de grootste internetknooppunten ter wereld. Deze digitale wereldhaven is economisch gezien net zo belangrijk als onze zee- en luchthavens wat betreft vervoer van data en informatie en vooral wat betreft de handel en het transport daarvan. Dus het zou ons sieren als we ook op maatschappelijk gebied een voortrekkersrol zouden kunnen vervullen wat betreft de publieke waarden in de digitale maatschappij.

Wereldwijd wordt dit op verschillende manieren aangepakt. In landen als China wordt alles centraal vanuit de overheid en de partij gereguleerd. In de VS is in Silicon Valley veel meer het particuliere initiatief de bron voor de ontwikkeling van toepassingen die veelal – of we het willen of niet – defacto de norm worden. In Europa gaan we veel meer uit van het collectieve en Nederland als polderland kan hierin natuurlijk als geen ander samenwerken tussen werkgevers, werknemers en de overheid, met de academische wereld als ondersteuning.

Het is een uitgelezen kans om met gezwinde spoed voor onszelf de maatschappelijke waarden te definiëren, waar wij als samenleving willen hoe we met digitale, technische mogelijkheden omgaan. Zoals de vliegtuigbouw techniek heeft weten in te zetten om tot een superveilig systeem te komen, kunnen we dat ook voor de digitale wereld proberen op te zetten. Dat vraagt vanzelfsprekend een goede samenwerking tussen industrie, exploitanten en overheid. En digitale vaardigheden van de mensen die daaraan in zo’n collectief meewerken.

Digitale vaardigheden
Een belangrijk aspect is dat bij deze plannen jong talent moet worden betrokken dat ter zake kundig is, betrokken is bij de vraagstellingen en kan samenwerken in maatschappelijke organisaties. Net zoals vijftig jaar geleden jongeren een belangrijke rol speelden hoe we na de jaren vijftig en ontluikende jaren zestig onze maatschappij opnieuw inrichtten tot wat we nu hebben. Digitalisering dwingt ons al die verworven waarden tegen het licht te houden en vernieuwing te sturen met behoud van het goede.

Hoe houden we de mens in control als kunstmatige intelligentie in snelle stappen ons gericht of heel breed gaat omringen? In simpele apparaten tot brede omgevingen als smart cities en een digitale overheid. Dit vraagt naast digitale vaardigheid vooral digitaal bewustzijn. Bewustzijn over hoe in de snelle internetwereld nieuws en nepnieuws kunnen worden onderscheiden. Bewustzijn dat op het internet (bijna) niets vergeten wordt. Bewustzijn dat data kan worden gestolen terwijl je het niet ziet verdwijnen. Bewustzijn dat waardevolle data kan worden encrypt en gegijzeld en je daar ‘escapes’ voor moet bedenken.

#humanincommand
We moeten borgen dat de mens degene is waar een maatschappij omheen is ontstaan. En de techniek ondersteunt ons in datgene wat we daar willen doen en bereiken. Voor de European Economic and Social Counsil (EESC), de Europese SER, schreef Nederlands EESC-lid Catelijne Muller een rapport over de gevolgen van kunstmatige intelligentie voor de (digitaal) eengemaakte markt, de productie, consumptie, werkgelegenheid en samenleving. Het rapport is op 31 mei 2017 aangenomen en de essentie is dat mensen de robots en algoritmes de baas moeten blijven.

Onder de hashtag #humanincommand is op Twitter een podium ontstaan van veel berichten van personen en groepen die zich op dit onderwerp richten. We moeten onbewust bekwaam worden in deze digitale wereld en dat gaat altijd via de cirkel: onbewust onbekwaam, vervolgens bewust onbekwaam en ontdekken wat je niet weet. Vervolgens leren en bewust bekwaam worden waarna het de norm voor je gedrag wordt en je ‘onbewust bekwaam’ bent geworden.

Digitaal empowerment
Vergelijkbaar met het SIRE-spotje tegen inbreken: “raam dicht, licht aan, deur op slot” zou je dit in de digitale wereld kunnen voorstellen als “scherm uit, beveiliging aan, computer op slot”. Een normale handeling waarmee je een bezoek aan de digitale wereld altijd eindigt. En een digitale infrastructuur die ‘Fail Save’ is ontworpen, net zoals we vliegtuigen inherent veilig maken. Als idee dachten we zelfs aan het ontwikkelen van stresstesten voor vitale infrastructuren, net zoals we tegenwoordig banken toetsen op het robuustheid. Enkele mogelijke concrete projecten worden intussen zichtbaar om, zoals het Rathenau-rapport stelde, van kwesties tot acties te komen. En daadwerkelijk tot de empowerment van burgers in de nieuwe digitale samenleving.

About the Author: Hans Timmerman

Hans Timmerman (1953) is als CTO binnen Dell EMC Nederland verantwoordelijk voor de ontwikkeling en verdieping van zowel Dell EMC's lokale business en technology development als voor de bestaande strategische allianties en partnerships. Een groot deel van zijn carrière was Hans werkzaam in de Nederlandse vliegtuigindustrie. Daarna bekleedde hij bij verschillende IT-bedrijven management- en directiefuncties.