Heiligt het doel altijd de middelen? Of zijn er andere dingen die heilig zijn, waardoor de middelen misschien toch niet altijd heilig zijn? Dat is volgens mij de grote vraag die momenteel speelt rondom de inzet van kunstmatige intelligentie en onze strijd tegen het coronavirus. De komst van een corona-app… het aflezen van biometrische gegevens, zoals je gezicht… en het scannen van je lichaamstemperatuur… hoe erg zet de coronacrisis ons grondrecht onder druk?
Beperkende maatregelen
De uitbraak van het virus kwam met het logische gevolg om in intelligente lockdown te gaan. Immers, het virus verspreidt zich van mens tot mens. Zo veel mogelijk vanuit thuis werken, alleen naar buiten voor een frisse neus of om boodschappen te doen, en te allen tijde 1,5 meter afstand bewaren.
Op het moment van de uitbraak kon het contrast met de samenleving als voorheen niet groter zijn. China, Italië, Frankrijk… en toen Nederland. Velen van ons zullen moeten toegeven dat we pas serieus werden toen het virus voet aan wal zette in Italië.
Wat eerst ziekenhuisbedden vol met besmette Chinezen ver van ons eigen bed op tv leek, werd plotsklaps realiteit in onze eigen ziekenhuis, twee kilometer verderop.
De beperkende maatregelen, waaronder alleen naar buiten wanneer strikt noodzakelijk, werden al gauw stevig onderstreept tijdens de nu bekende toespraken.
Er was ongeloof, racisme… dj’s kregen op hun kop, want het was nu niet grappig meer. Het lachen was ons vergaan, de lockdown was een feit, en iedereen voelde het.
Wat eerst ziekenhuisbedden vol met besmette Chinezen ver van ons eigen bed op tv leek, werd plotsklaps realiteit in onze eigen ziekenhuis, twee kilometer verderop.
Grondrecht
In de waan van dag was er weinig tijd om oog te hebben voor onze rechten. De overheid trad zichtbaar in beeld op onze tv’s en werd om die reden ook geroemd. Logisch, want mensen stierven, waren aan het sterven en dat zouden er nog veel meer worden zonder maatregelen. Flatten the curve. De zorg stond onder exorbitant hoge druk; duizenden drama’s speelden zich af, veelal achter de gesloten deuren in de ziekenhuizen en verzorgingstehuizen. Maar achter dat logische schuilt toch altijd vaak onzichtbare dynamiek van het verschuiven van onze grondrechten. Ter verduidelijking: die rechten veranderen misschien niet, maar de manier waarop we met onze handelingen dat recht helpen vormen wél. Een voorbeeld: als je als winkelier kleding verkoopt, kun je bij elke aankoop je klanten verzoeken om hun adres te op te geven. Een reden kan zijn om klantenbinding te verkrijgen. Winkeleigenaren of ketens kunnen dat op verschillende niveaus doen.
Het eerste niveau is compleet vrijwillig: je mag je adres opgeven, maar het vormt verder geen voorwaardelijkheid voor bijvoorbeeld 20 procent korting op die ene spijkerbroek.
Het tweede niveau houdt in dat de korting wél voorwaardelijk wordt. Dat is tegenwoordig het geval bij de meeste ketens en winkels. Je moet je e-mailadres en/of adres opgeven, bijvoorbeeld voor een kortingskaart, zodat de winkel toegang heeft tot het winkelgedrag van de klant.
Het derde niveau is totale voorwaardelijkheid, oftewel je moet je adres opgeven, anders mag je het product überhaupt niet kopen. Voor normale kledingzaak lijkt dat te stringent – en dat is het waarschijnlijk ook. Mensen zullen het niet tolereren, nog niet.
Of toch wel?
Want in feite doen we dit online al met behulp van cookies. Veel websites zijn alleen bruikbaar mits je de cookiewall accepteert… En laten we eerlijk zijn… dat doen we toch allemaal.
Vaak is dat omdat we niet goed weten wat we met die ene, moeiteloze (muis)klik prijsgeven.
Dit wordt pijnlijk duidelijk in een filmpje waarin men in een kraampje ‘gratis’ koffie schenkt voor voorbijgangers.
Echter… net voordat de verkoper het bekertje overhandigt, vraagt hij of hij ‘wel even alle berichten van iemands telefoon mag uitlezen’. Of ‘Kun je even al je contacten met me delen?’
Eén van de letterlijke reacties van iemand is: ‘Daar ga ik niet mee akkoord.’ En grappig genoeg doen we dit online misschien wel 10 tot 100 keer per dag. Maar waarom zijn je berichten dan precies zo interessant om in te zien voor datahongerige bedrijven? Volgens Shoshana Zuboff, professor aan het Amerikaanse Oxford Universiteit, en auteur van het boek the Age of Surveillance Capitalism, is men niet zo zeer geïnteresseerd in de daadwerkelijke inhoud van je bericht, maar des te meer in de leestekens. Dit komt doordat deze leestekens veel zeggen over je gevoel. Zuboff noemt dit type data ‘predictive signals‘, voorspellende signalen. Ze helpen namelijk om te kunnen voorspellen welk gedrag we in de (nabije) toekomst zouden kunnen vertonen. Denk bijvoorbeeld aan iemand die veel uitroeptekens gebruikt in een whatsappberichtje. Het kan dat deze persoon erg boos is, of erg opgewonden. Dat an sich kan voorspellende waarde hebben voor het gedrag van die persoon, namelijk misschien wel erg impulsief gedrag. Iemand die verdrietig is, kan eerder geneigd zijn om troostvoedsel te kopen… chocola, ijs… etc… je snapt het idee. En dat brengt ons terug bij de coronamaatregelen. Want daar lijkt een ratrace te zijn ingezet die gestreden wordt door alle landen. Iedereen houdt elkaar nauwlettend in de gaten. Wie krijgt zijn economie als eerste weer aan de praat? Welke maatregelen passen ze toe?
To control or not to control…
Toen Hugo de Jonge voor het eerst met het idee kwam om een app te maken, was niet iedereen gelijk laaiend enthousiast. De Autoriteit Persoonsgegevens noemde media april de kaders van de app ‘onduidelijk’.
‘Heel Nederland wil graag weer naar buiten, stappen zetten richting een normale situatie, maar we moeten voorkomen dat we nu een oplossing inzetten waarvan onduidelijk is of die wel echt werkt, met het risico dat het vooral andere problemen oplevert. Of dat iemand die geen gebruik kan of wil maken van een app misschien de toegang wordt geweigerd tot werk, school of een supermarkt’, aldus AP-voorzitter Aleid Wolfsen.
De Nederlandse overheid schermt al sinds de uitbraak met amerikanismen zoals ‘mitigatie’ en ‘containment’, respectievelijk ‘maximale controle’ en ‘indammen’. Hoewel dit overdreven gewichtig klinkende woorden lijken, betekenen ze in de praktijk natuurlijk concreet iets. Dat maakt niet dat de het middel hetzelfde is: controle krijgen over het gedrag van mensen. Het feit dat onze economie simpelweg afhankelijk is van fysieke sociale interacties, legt voor ons land, maar eigenlijk de hele wereld, een gevoelige ader bloot en leidt tot een duivels dilemma: leg het land te hardhandig en te lang plat, en de economie loopt onherstelbare schade op…. leg het land te kort plat, en dit kost duizenden, zo niet tienduizenden mensen extra het leven, én het brengt de economie mogelijk ernstige schade toe op de lange termijn bij een tweede golf. Mens spreekt van V-vormen, W-vormen, en tal van andere niet-rooskleurige scenario’s. Het instellen van de anderhalvemetersamenleving lijkt een oplossing, maar probeer 17 miljoen mensen daar maar eens aan te houden. En dat is waar Rutte een bijzonder scherpe, maar vooral gewichtige, inschatting heeft gemaakt met zijn kabinet. Hij liet Nederlands samen optrekken tegen de gemeenschappelijke vijand, het virus, wat leidde tot een eensgezinde verantwoordelijkheid om ons te houden aan de regels. Iets wat in meer totalitair georiënteerde landen zoals China of Zuid-Korea bijvoorbeeld ondenkbaar zou zijn. En het is mooi dat dit gelukt is, want het bevestigt ook gelijk onze identiteit. Tegelijkertijd bevestigt het ons vertrouwen in onze filosofische visie op hoe wij handelen. Onze autonomie als individu blijft gehandhaafd en het vertrouwen in onze democratische principes. Tegelijkertijd heeft er veel moeten buigen. De crisis begint pijn te doen, zowel omdat de ontluikende zomer ons eraan herinnert welke vrijheden we hebben moeten inleveren. Er ontstaan protesten en actiegroepen, welke claimen dat onze vrijheid te veel wordt ingeperkt.
A.I. als de oplossing?
Landen zoals China en Zuid-Korea deden al vóór de coronacrisis aan veel digitale sociale controle. In weinig andere landen is het systeem van gezichtsherkenning zo ver doorgevoerd als daar. Het vormt zowaar de hoeksteen van het socialekredietsysteem dat China kent: elke keuze en beslissing is van invloed op jouw sociale status en betrouwbaarheid als individu. Dat is in zekere zin in Nederland ook zo bij veel dingen, denk bijvoorbeeld aan het BKR in Tiel, waar schuldenaars staan geregistreerd. Maar zo extreem als in China…. vooralsnog onvoorstelbaar in Nederland. Alle aspecten, van je kredietwaarheid, hoe goed je je aan afspraken houdt, je online gedrag en zélfs het gedrag van jouw sociale contacten, zijn in dat systeem een score geworden. Een persoonlijke score van jouw betrouwbaarheid als individu. De kunstmatige intelligentie die een rol speelt in de analyse daarvan is onvoorstelbaar. Wederom is het de vrijwilligheid die een rol speelt hierin (of beter gezegd ‘geen’ rol speelt hierin, net zoals bij de aanschaf van de spijkerbroek. Het heeft een volledig verwoestend effect op de keuzevrijheid en de kritische stem van Chinezen. Zelfs het spelen van videogames kan een negatief effect hebben op je kredietscore. Het is de totalitaire staat waar George Orwell nooit van had durven dromen. En dan is het fijn dat we toch in Nederland leven? Of toch niet? Ook al op dit moment is gezichtsherkenning alomtegenwoordig in Nederland. Het enige wat het tegenhoudt is dat we in Nederland beschikken over een Autoriteit Persoonsgegevens en privacyspecialisten die de parallellen met China iedere dag groter zien worden. Zo heeft de Gemeente Tilburg al diverse initiatieven op het gebied van gezichtsherkenning lopen. Onder meer om de veiligheid van een zwembad te handhaven. Een ‘hellend vlak’, dat is precies wat Matthew Guariglia van het Amerikaanse Electronic Frontier Foundation (EFF) zegt over allerlei maatregelen om ook corona met drones en digitale temperatuurchecks in bedwang te houden. Hij zegt dat het slechts een kleine stap is die gezet hoeft te worden tussen drones uitgerust met gezichtsherkenning die mensen die quarantaineplicht hebben kunnen opsporen, en diezelfde drones die vervolgens ook mensen kunnen opsporen tijdens een protest of demonstratie. EFF stelt daarom een driestapsrichtlijn voor bij de inzet van dit soort middelen.
Ten eerste moet de overheid eerst aantonen dat de inzet van A.I. in de vorm van bijvoorbeeld een drone of een app effectief het probleem op kan lossen.
Ten tweede dient de overheid zich af te vragen of de inzet ervan niet te veel afbreuk doet aan onze vrijheden.
Ten derde zal de overheid de privacy en veiligheid van de surveillance moeten waarborgen.
Hij stelt daarbij dat overheden dus aan een privacyvoorwaarde moeten voldoen, en dat is precies waar het aan schort. Want uit een analyse van de contactonderzoeksapp, zoals de corona-app door de overheid zelf wordt genoemd, blijkt dat er nog veel dingen onduidelijk zijn rondom die privacy.
Dat is cruciaal want, zo stelt EFF, “Geavanceerde technologische surveillance kan ons leven veranderen in een open boek. Het kan ons afschrikken en bang maken om deel te nemen aan demonstraties, actiegroepen en online fora. Die last valt, niet geheel onverrassend, bijzonder vaak op de schouders van minderheden (ethniciteit, immigranten en andere kwetsbare groepen). Datalekken van overheidssystemen kunnen intieme informatie blootleggen over ons leven, welke vervolgens misbruikt kunnen worden door mensen die ons niet goed gezind zijn, zoals identiteitsdieven, buitenlandse overheden en stalkers.
Kortom, zelfs als het surveillancemiddel effectief het probleem zou oplossen, dient het ook noodzakelijk en in proportie te zijn voor dat probleem en geen disproportioneel effect te hebben op kwetsbare groepen.
Het garanderen van de privacy kan verder door middel van tien maatregelen worden bewerkstelligd: toestemming, minimalisatie, IT-beveiliging, privacy by design, gemeenschapscontrole, transparantie, anti-biasmaatregelen, exclusie van data die iets zegt over overtuiging (bijv. geloofsovertuiging), handhaving, en verloopdatum.
toestemming = De maatregel moet vrijwillig (opt-in) zijn
minimalisatie = Er dient niet meer data te worden opgeslagen dan nodig
IT-beveiliging = De verzamelde data dient professioneel te zijn beveiligd
privacy by design = Privacy dient integraal en vanaf begin af aan onderdeel deel te zijn van het ontwerp.
gemeenschapscontrole = de burger, of vertegenwoordiging van de burger, dient zeggenschap te hebben over de maatregel.
transparantie = De overheid dient statistieken en andere informatie te publiceren over het functioneren van de maatregel.
anti-biasmaatregelen = Er moet een systeem aanwezig zijn dat monitort en garandeert dat kwetsbare minderheden niet disproportioneel in hun vrijden en privacy worden geraakt.
Handhaving = In geval van een onenigheid of dispuut, dien je als burger dit te kunnen aanvechten.
Verloopdatum = Als de maatregel niet meer nodig is, dient deze te worden geschrapt.
Met het oog op het hellende vlak is voor de verloopdatum van de maatregel erg belangrijk. De overheid moet niet de crisis als mogelijkheid aangrijpen om iets te introduceren dat vervolgens, na de crisis, op de achtergrond blijft lopen. Denk bijvoorbeeld aan de spionageactiviteiten in de VS na de aanslagen van 9/11.
Conclusie
Dat er maatregelen nodig zijn om corona te bestrijden lijkt ethisch gezien evident. Het opnieuw configureren van onze economie met behulp van A.I. lijkt een efficiënte keus, maar ten koste waarvan? Het blijft een ‘kikker-in-de-pan’ effect. Hoewel de juiste vragen aan de overheid beschikbaar zijn, blijft het de vraag of de overheid daaraan gehoor geeft. Daarnaast blijft een groots probleem, zoals in China merkbaar wordt, dat de kritische stem van mensen uitdooft naarmate we op het gladde ijs richting meer surveillance en totalitaire samenleving gaan.
https://autoriteitpersoonsgegevens.nl/nl/nieuws/ap-privacy-corona-apps-niet-aangetoond