[Ingezonden artikel]
Een enquête over de sleepwet(1) deed mij wakker schrikken: het is nog erger dan ik dacht!
We creëren met deze nieuwe wet een digitaal stempel. Er wordt
ontzaglijk veel informatie verzameld die nu nog 'onschuldig' is, maar later kan
leiden tot een 'schuldig'-bevinding. Houd er rekening mee dat in meer dan tien
procent van alle data-registraties en administratieve processen iets fout gaat.
Dus elke databank is by design al tien procent foutief. Daar komt nog
bij dat veel data interpretaties (van interpretatie, van interpretatie, etc.)
zijn. Het bekende ‘doorfluisterspel’ dat velen als kind gespeeld hebben, heeft
ook een rol in datacollectie. Het samenvoegen van allerlei 'losse' onschuldige
data kan leiden tot een 'schuldig'/ 'verdacht' profiel. Terwijl de persoon in
kwestie niets heeft gedaan. Iets wat erbij hoort (collateral damage /
bijvangst)? Wat als dat door de nieuwe sleepwet flink toeneemt? Stigmatisering
op allerlei niveaus, voor alle burgers ligt in het verschiet. Een moderne manier
van inquisitie en heksenvervolging is het gevolg. Nu al worden mensen door
profilering uitgesloten van bepaalde maatschappelijke zaken en kansen.
Bijvoorbeeld: onverzekerbaarheid door de postcode of bepaalde aanbieding juist
wel (teveel) of juist niet ontvangen.
Gezichtsscan voor toiletpapier
De volgend stap is dat je bepaalde diensten niet ontvangt, of
bepaalde gebouwen niet in mag als je niet een DNA of gezichtsscan laat doen. Nu
al heb je een gezichtsscan in China nodig om toiletpapier te krijgen in
openbare toiletten. Omdat er teveel toiletpapier gestolen werd. Over het
doodschieten van een mug met een kanon gesproken. Hoe lang duurt het voordat
zoiets overwaait naar het 'vrije' westen?
Overdreven? Bij de eerste stappen van kentekenherkenning werd ons verzekerd dat die alleen voor een beperkt doel zou worden gebruikt, te vergelijken met veiligheid. Maar de infrastructuur was aangelegd en natuurlijk voor veel meer zaken te gebruiken. Je kon erop wachten. En ja hoor, nu gebruikt de belastingdienst het al voor het innen van niet betaalde belasting en het controleren van leaseauto's en de politie voor niet betaalde boetes. En de vrije grensdoorgang bestaat ook al niet meer, want elke beweging van auto's over onze grenzen wordt vastgelegd met camera's met kenteken-herkenning. En heb je al die palen met kleine apparaatjes langs de snelwegen al opgemerkt? Daar zit nu nog apparatuur op om de hoeveelheid verkeer voor Rijkswaterstaat op wegvakken in de gaten te houden. Betrokken experts hebben mij verteld dat het een fluitje van een cent is om die palen ('ongemerkt') met camera's met kenteken-herkenning uit te rusten. Dan kan de overheid je overal in Nederland volgen. Een 'voordeel' is dat de kilometerheffing dan heel makkelijk ingevoerd kan worden. Zal mij benieuwen hoe lang dat nog duurt.
De geschiedenis leert ons dat veranderen in een totalitaire staat vaak langzaam en bijna onmerkbaar begint (salami tactiek). Decennia terug was de identificatieplicht in Nederland onbespreekbaar. Nu vinden we het heel gewoon. Het is maar een kleine stap van identificatieplicht met een identiteitskaart naar identificatieplicht via DNA (dat de overheid ongebreideld mag verzamelen volgens de sleepwet) of een gezichtsscan. En de volgende stap is dat iedereen die dat wil je overal kan volgen door de combinatie van de miljoenen camera's die overal hangen en automatische gezichtsherkenning. Gecombineerd met profilering door de verzamelde data 'uit' de sleepwet en je krijgt allerlei verrassingen. Je komt opeens bepaalde winkels of kroegen niet meer in. Je kunt geen bankrekeningen meer hebben, je verzekeringspremies gaan omhoog (ze gaan nooit omlaag).
Discriminatie op basis van profielen?
Discriminatie
op huidskleur of ras mag niet. Maar discriminatie op basis van profielen? Hoe
komen die profielen eigenlijk tot stand? Dat gebeurt meestal met behulp van
computersystemen. Met een techniek genaamd ‘machine learning’
leert de computer via bepaalde algoritmes uit de data die hij binnen krijgt en
wordt steeds ‘slimmer’, waardoor hij steeds betere voorspellingen kan doen.
Althans dat is de bedoeling, maar ook hier geldt ‘garbage in, garbage out’. Oftewel als bijvoorbeeld die data de vooroordelen
bevat die in de maatschappij leven, worden die ook weerspiegeld in de profielen
en ‘voorspellingen’ van de computer. De computer krijgt ook vooroordelen. En
dat is in bepaalde contexten een gevaarlijke zaak;
"Algoritmes
zijn onze nieuwe kennis geworden, ze bepalen hoe we de wereld zien",
vertelt Suresh Venkatasubramanian, professor aan de University of Utah.
Venkatasubramanian is computerwetenschapper en wiskundige en houdt zich al
jaren bezig met het opsporen en corrigeren van discriminerende algoritmes.(2.a)
Computersystemen bepalen steeds vaker wat we zien, maar hoe leer je een
computer wat ethiek is?
Self-fulfilling prophecy
Computerprofielen
leiden ook nog eens aan ‘self-fulfilling
prophecy’.
Door een voorspelling van de computer krijgt bijvoorbeeld een bepaalde persoon
of groep of wijk meer (politie) aandacht. Dan ontdek je uiteraard meer,
bijvoorbeeld criminaliteit. Dat voer je weer in de computer in, wat die
computer weer bevestiging geeft dat die persoon of groep of wijk inderdaad meer
aandacht behoeft. En je krijgt zo letterlijk "wat aandacht krijgt
groeit". En algoritmes baseren zich altijd op het verleden. Immers, data
beschrijven iets dat al gebeurd is. Dus "eens een dief, altijd een
dief" en dat blijft zo als het aan de computer ligt.
Als
dergelijke algoritmes tegen je gebruikt worden heb je het nakijken. Want het is
vaak niet of zeer moeilijk na te gaan hoe die algoritmes leren en geleerd
hebben, welke factoren ze daarbij - hoe gewogen hebben en uit welke data ze
hebben geleerd. Als je dat ook nog koppelt aan de geheimhoudingsclausules uit
de sleepwet heb je snel een horrorscenario voor je, waarbij je maar eens moet
zien je onschuld te bewijzen, zoals in kinderbeschermingszaken (zie verderop in
dit artikel). En als je op basis van dit soort profielen in je dagelijks leven
gediscrimineerd wordt, zal je waarschijnlijk nooit te weten komen waarom je
opeens ergens niet naar binnen kwam of iets niet meer kon doen, kopen of
afsluiten. Of waarom de politie jou of ‘jouw groep’ altijd moet hebben.
"Dat verbeeld je je maar" of "complottheorie" is dan vaak
de reactie van instanties, terwijl er een discriminerend algoritme achter zit.
Niet
realistisch? In de VS laten rechters zich al informeren door risicoprofielen.
Door een gebrekkig algoritme met een racistisch vooroordeel, kregen zwarte
verdachten enkele jaren geleden een hogere risicoscore. Met alle gevolgen van
dien. Zo werden zij benadeeld nog voordat ze een recidive hadden gepleegd en
zwarte Amerikanen liepen risico een hogere straf te krijgen dan hun blanke
medeburgers, enkel omdat de computer hun kans op herhaling van misdaad
systematisch hoger inschatte (2.b).
Van vrijwillig naar verplicht
Hierbij worden nu al slimme marketingtrucs gebruikt. Als je een apparaatje laat inbouwen in je auto, krijg je korting op de premie. Ja, die kennen we. Ik kreeg nog een gratis studenten OV jaarkaart. Toen werd er gekort op mijn studiebeurs voor die 'gratis' OV jaarkaart. Toen werd de bruikbaarheid beperkt tot een of weekend of door de week kaart. En nu doen ze opnieuw alsof de studenten OV kaart gratis is, maar je betaalt er als student gewoon voor. Nu krijg je nog korting met het apparaatje in je auto. Straks krijg je geen verzekering meer zonder zo'n kastje of je betaalt een veel hogere premie. En voor vliegvelden vinden we ongebreideld onderzoek in je privacy en gezichtsscans etc. al heel gewoon, want we willen onze vliegvakanties niet missen. En dat is nog maar het begin van profilering.
Hetzelfde zal gebeuren met quantified self (je gezondheid monitoren met allerlei apps). Eerst is het vrijwillig en wordt je gelokt met allerlei voordeeltjes door de ziektekostenverzekeraars. Daarna krijg je geen verzekering meer zonder dat de verzekeraar je gezondheid mag monitoren. Of je betaalt een veel hogere premie (wat voor de meesten er op neerkomt dat je geen verzekering meer krijgt). Zo heb ik nu een elektrische tandenborstel bij mijn tandheelkundeverzekering gekregen. Met, jawel, een app eraan gekoppeld. Die registreert hoe je poetst en geeft adviezen. De verzekeraar en fabrikant willen graag onderzoek doen door de poetsgegevens te koppelen aan je tandartsgegevens die ze binnen krijgen via je tandartsdeclaraties: wat is de relatie tussen poetsgedrag en tandbederf?(3) Je voelt hem al, nu nog vrijwillig. Hoe lang duurt het voordat het verplicht is?
Monddood maken
Ook kunnen burgemeesters nu al motorclubs verbieden. Een goede zaak
zou je denken, want ze zijn gevaarlijk, crimineel, etc. Maar wie garandeert dat
het daarbij blijft? Wat als je een clubje opricht die de gemeente of landelijke
politiek kritisch volgt? Met de nieuwe sleepwet kunnen ze je dus via het
internet opsporen en in de gaten houden.(4) En als ze voldoende tegen je hebben
verzameld kunnen ze je contacten met journalisten en advocaten volgens de
nieuwe wet afluisteren. Onder het mom van veiligheid, subversieve activiteiten
(zogenaamd staatsgevaarlijk, in werkelijkheid bedreigend voor de
ondemocratische politiek, maar dat zeggen ze er niet bij) kunnen ze je
opsluiten en je clubje verbieden en zelfs tot criminele organisatie
bombarderen.
Maar als dat niet lukt, kun je altijd nog opgesloten worden als je verward bent (Eufemistisch genoemd: Wet Bopz - Wet bijzondere opnemingen in psychiatrisch ziekenhuizen. In de volksmond: dwangopname). “Tja meneer, dat u denkt dat een burgemeester de oplage van een huis aan huis blad wil vernietigen die een kritisch artikel over hem wilde publiceren, toont wel aan dat u verward moet zijn. Zoiets gebeurt niet in een corruptievrijland als Nederland.”(5) Ze hebben hem toch niet voor niets in 2016 benoemd tot voorzitter van de Autoriteit Persoonsgegevens?(6) Dan snap je ook waarom het soort wetgeving als de sleepwet er in Nederland doorkomt.
Observatiemaatregel
Manifestaties verbieden
En anders kunnen onze burgervaders je altijd nog betichten van
‘onaangepast gedrag’. De intentie is in eerste instantie heel nobel, mensen met
psychische problemen die overlast veroorzaken ‘helpen’. Maar door het lekker
vaag te houden, ligt misbruik op de loer en dan kun je iedereen vangen waar je
op dat moment last van hebt.(8) Burgemeesters
gebruiken/misbruiken hun bevoegdheden om selectief bepaalde groepen dwars te
zitten. Een sprekend voorbeeld gebeurde op Prinsjesdag 2017 in Den Haag.* Een
groepje mensen dat een nieuwe munteenheid wil introduceren wordt de voet dwars
gezet door ze te betichten van het houden van een niet goed gekeurde
manifestatie. Wat de definitie van een manifestatie is wordt door de politie
niet duidelijk gemaakt. Een paar meter verderop wordt een groepje bobo's onder
dezelfde omstandigheden geen strobreed in de weg gelegd. Commentaar van de ‘organisator’
van de ‘manifestatie’: “Some animals are more equal then others”.
Deze mensen proberen de maatschappij op een volstrekt geweldloze manier te vernieuwen. Als antwoord gebruikt de zich bedreigd voelende staat geweld (vrijheidsberoving). En aangezien een staat geen persoon is, zijn het dus lieden aan de macht die zich bedreigd voelen en de staat voor eigen gewin gebruiken om die bedreiging te neutraliseren.Want met de grote macht die de overheid door de sleepwet krijgt, wordt het aantonen van je onschuld steeds moeilijker. Iedere data-wetenschapper en statisticus kan je vertellen dat je met een grote hoeveelheid data alles kunt aantonen wat je maar wil, door de data op de 'juiste' manier te rangschikken en te interpreteren. Een medewerker van een speciale fraude-afdeling van een verzekeringsmaatschappij fluisterde mij eens toe dat ze alles kunnen bewijzen wat ze willen. Als een werkgever bijvoorbeeld van een werknemer af wil, onderzoeken mensen van die afdeling zijn computer. Ze kunnen dan de gevonden data zo manipuleren dat het lijkt dat die werknemer fraude heeft gepleegd, informatie heeft gelekt, of bijvoorbeeld kinderporno op zijn computer had. Voldoende om hem op staande voet te ontslaan.
Waarheid mengen met suggestie
Maar in een rechtstaat ben je toch onschuldig tot het tegendeel bewezen is en hoef je toch niet je eigen onschuld te bewijzen? Zou je denken! In de praktijk is dat al lang niet meer zo. Zie bijvoorbeeld de eerder genoemde bevoegdheden en mogelijkheden van de burgemeester en verzekeraar. Op basis van mogelijk gevaar voor jezelf of de omgeving kunnen clubjes verboden en mensen opgesloten worden. Zonder vorm van proces of mogelijkheid je onschuld aan te tonen. En de benodigde bewijzen kunnen gemakkelijk worden gefabriceerd.
Maar de rechtbank moet toch eerst toestemming geven, voordat communicatie tussen jou en journalisten of advocaten wordt afgeluisterd? Dat is een fluitje van een cent! Door de sleepwet bezitten ze zoveel informatie dat daar gemakkelijk een dusdanig gevaarlijk profiel van valt te maken, dat de rechtbank daar toestemming voor geeft. Je hoeft alleen maar waarheid met suggestie op de juiste manier te mengen. Vraag maar aan roddeljournalisten hoe je dat doet. En als je dan i.p.v.. 'roddelpers-taal', ambtelijke en juridische taal gebruikt, maak je het helemaal geloofwaardig. Het gaat tenslotte om een vermoeden. Als dat vermoeden sterk genoeg is krijgen ze de bevoegdheid om nog meer informatie tegen je te verzamelen en af te luisteren, zodat ze het daarna om kunnen zetten in 'feiten'. En zo rolt het balletje (in jouw nadeel) door.
Terugslaan met kindermishandeling
De kinderbescherming en ook de artsenvereniging KNMG werkt met checklists (vorm van profilering) waarbij waarschuwend vermeld wordt: "Het opmerken van de signalen in de lijst hierna hoeft geen grond te zijn voor een vermoeden van kindermishandeling of huiselijk geweld. Een andere oorzaak is ook mogelijk." En "De lijstjes met signalen wijzen u de weg bij het in kaart brengen ervan. Ze zijn niet meer en niet minder dan een hulpmiddel."(10) Daarbij geven ze aan dat het allemaal sterk afhangt van de professionele inschatting van de professional. En wat gebeurt er in de praktijk? De checklists worden als de waarheid en wetenschappelijk onderbouwd gepresenteerd en gebruikt. Die hele waarschuwing komt nergens meer terug. Als je één of meer vinkjes hebt, ben je altijd verdacht. Geen nuancering als in de waarschuwing mogelijk.
Corruptie, zoals boven beschreven, wordt zo wel erg gemakkelijk gemaakt. Zeker als je de volgende passage er ook bij neemt: "Strafrechtelijk ingrijpen wordt soms ook ingezet om een dader te bewegen tot behandeling. Als daderbehandeling kan bijdragen aan minimalisering van de kans op herhaling, waarheidsvinding noodzakelijk is voor het opleggen van een maatregel die (mede) tot daderbehandeling leidt en informatieverstrekking daadwerkelijk kan bijdragen aan waarheidsvinding, dan kan een arts besluiten om informatie te verstrekken." Dit gaat dus over redenen om het artsenberoepsgeheim te omzeilen.
KNMG meldcode
Hier volgen een aantal opvallende kenmerken van kindermishandeling uit de KNMG meldcode.(11) Bedenk wel dat als dit via de sleepwet ook nog eens geautomatiseerd wordt, de waarborgen helemaal flinterdun worden. Computers kunnen niet zo goed (lees; helemaal niet) met bovengenoemde waarschuwingen omgaan. Computers zijn binair: goed of fout, signaal of geen signaal. Geen ruimte voor nuance:
Met z’n allen naar het ziekenhuis
Ook wordt er gebruik gemaakt van niet gevalideerde methodes, zoals
de SPUTOVAMO voor acute hulp in ziekenhuizen.(12) (Er staat bij dat het niet
gevalideerd is. En dat is al zo sinds 2006, dus kennelijk is het niet nodig om
te valideren) Opvallend voorbeeld: “Is de veroorzaker (en andere getuigen)
meegekomen naar het centrum eerste hulp?” Als je kind dus een botsing maakt op
de schaatsbaan en daardoor de enkel verzwikt of mogelijk gebroken heeft, moet
je dus dat andere kind en de kinderen eromheen meeslepen. Waarom willen ze dat?
Om uit te sluiten dat de verwonding niet door jou komt. Als je dus die ander
niet meekrijgt, ben je verdacht. Ik moet het nog zien dat je een onbekend kind
(en zijn ouders) meekrijgt naar de eerste hulp. Laat staan omstanders. Je kunt
dus maar beter thuis blijven.
Ken jij iemand die niet één of meer kenmerken heeft? Oftewel, het moet allemaal heel erg op het gemiddelde lijken, anders ben je verdacht. En dat wordt met massale surveillantie (door de sleepwet) alleen maar erger.
Ook
staat er dat signalen die kindermishandeling tegenspreken / ontkrachten moeten
worden genoteerd. Gebeurt dat in de praktijk ook denk je? In veel gevallen
niet; men is volledig gefixeerd op het zo snel mogelijk handelen om de
vermeende kindermishandeling te stoppen of ‘erger te voorkomen’. "Melden
is handelen", zegt minister Hugo de Jonge van (alweer) VWS.(13)
Data-combinaties en false positives
Met de nieuwe sleepwet wordt dit vanaf 1 mei allemaal nog veel erger. Door automatische processen kunnen er allerlei alarmbelletjes afgaan. Heel vaak onterechte alarmbelletjes), maar dan is het al te laat. Voordat jij hebt aangetoond dat je onschuldig bent, ben je al geruïneerd. En dat zal door die sleepwet op veel grotere schaal gaan gebeuren. Heel logisch: hoe meer data, hoe meer personen worden gevolgd, hoe meer false positives. Alleen al tien procent administratieve fouten. Dat kan dus al betekenen dat bij massale surveillantie die deze sleepwet mogelijk maakt, grote delen van de Nederlandse bevolking, uit alle lagen, hiermee te maken krijgen. En dan hebben we het nog niet over het combineren van data en discriminerende algoritmes. Hoe meer data en combinaties, hoe meer fouten en false positives.
En hoe zit dat met die sleepwet? Als je als gevolg van de sleepwet beschuldigd wordt, krijg jij dan ook dezelfde toegang tot die informatie als de overheid om je onschuld te bewijzen? Dacht het niet! Als ze dat nu ook eens in die wet inbouwen?
En
als klap op de vuurpijl worden bij woorden als 'terrorisme' (14) en
'kindermishandeling' en 'pedofilie' of 'kinderporno' (en toekomstige woorden
die we nu nog niet kennen) de waarborgen voor de burger die er nog zijn,
massaal overboord gegooid. Want ja, gevaar! Dat moet met alle mogelijke
middelen bestreden worden. Wie maalt er dan om mensenrechten? En als jij op je
mensenrechten wijst, ben je alleen maar verdachter, want aan het 'strijden' in
plaats van meewerken aan het oplossen van 'het probleem'. Heb je soms iets te
verbergen? Wat is het verschil met de inquisitie en heksenvervolging? Als je
verdrinkt ben je geen heks, als je blijft drijven wel en kom je op de
brandstapel. In beide gevallen ben je dood. Weinig verschil met de huidige
praktijk. Als je toch onschuldig blijkt, is je leven wel verwoest. Maar
gelukkig bestaan onterechte meldingen niet volgens minister Hugo de Jonge van
VWS. Dus slaap zacht beste burger, de staat waakt over u.(15)
Iemand die zegt niets te geven om privacy-bescherming, omdat hij toch niets te verbergen heeft, kan vergeleken worden met iemand die zegt niets om vrijheid van meningsuiting te geven, omdat hij toch niets te vertellen heeft. Of niets om vrijheid van organisatie geeft, omdat hij toch niets te organiseren heeft.
Alles in het kader van 'veiligheid'. Maar voor wie is dat uiteindelijk veilig?
‘Als je de duivel opjaagt, en de muren van de wet je hinderen, kan je de muren afbreken. Maar als de duivel zich dan omdraait staan er geen muren meer om achter te schuilen.’
Voetnoten:
(3) (https://www.onvz.nl/zorgverzekeringen/tandverzekeringen/tandfit-preventief).
De
sleepwet is inmiddels door de Eerste en Tweede Kamer aangenomen, maar is
uitgesteld en zal pas 1 mei 2018 in werking treden, na het raadgevend
referendum. (Het referendum is 21 maart)
(10) KNMG Meldcode,
Kindermishandeling en huiselijk geweld, 2015. https://www.knmg.nl/web/file?uuid=c445c7e7-0db4-4fdc-b13d-89ce65504a9a&owner=5c945405-d6ca-4deb-aa16-7af2088aa173&contentid=959
(11) KNMG Meldcode, Kindermishandeling en huiselijk geweld, 2015. https://www.knmg.nl/web/file?uuid=c445c7e7-0db4-4fdc-b13d-89ce65504a9a&owner=5c945405-d6ca-4deb-aa16-7af2088aa173&contentid=959
(12) )“Het hier afgedrukte formulier is ontwikkeld door
kinderpsychiater Compernolle. SPUTOVAMO betreft een (nog) niet gevalideerde
methode en in de praktijk van de zorg circuleren verschillende
SPUTOVAMO-formulieren die zijn afgeleid van het opgenomen formulier.” - KNMG
Meldcode, Kindermishandeling en huiselijk geweld, 2015. https://www.knmg.nl/web/file?uuid=c445c7e7-0db4-4fdc-b13d-89ce65504a9a&owner=5c945405-d6ca-4deb-aa16-7af2088aa173&contentid=959
(14 )Voorkomt de ‘sleepwet’ aanslagen? https://www.nrc.nl/nieuws/2017/11/01/voorkomt-de-sleepwet-aanslagen-13788220-a1579490
“Tegenstanders vrezen verder dat de toezichthouders niet
voldoende armslag hebben, bijvoorbeeld omdat er slechts 1,4 miljoen euro
extra voor toezicht is vrijgemaakt. De TIB en de Commissie voor Toezicht op de
Inlichtingen- en Veiligheidsdiensten (de CTIVD, voor toezicht achteraf) moeten
dit bedrag delen. De Autoriteit Persoonsgegevens
sprak zelfs van een „stempelmachine”. Daarna is de TIB iets
versterkt.”