Big Data, het Internet of Things en Kunstmatige Intelligentie kunnen de grondrechten van burgers op vergaande wijze aantasten, zo laten onderzoekers van de Universiteit Utrecht in een onderzoek weten dat in opdracht van het ministerie van Binnenlandse Zaken werd uitgevoerd.

De onderzoekers stellen dat er al meerdere rapporteren zijn verschenen die op de nadelige effecten van de digitalisering op de grondrechten wijzen. Er ontbrak echter een specifiek op Nederland gerichte, juridische en systematische studie die als gevolg van deze technologieën naar de aantasting van grondrechtelijke bescherming kijkt en waarin wordt gekeken naar de effecten voor andere grondrechten dan privacy en gegevensbescherming. Het onderzoek richtte zich vooral op het gebruik van slimme algoritmes dat Big Data, Internet of Things en kunstmatige intelligentie gemeen hebben.

In de conclusie laten de onderzoekers weten dat de drie besproken technologieën invloed kunnen hebben op het recht op privacy, het recht op gelijkheid en het recht op vrijheid. Zo wordt er gewezen naar eerdere gerechtelijke uitspraken dat surveillance door middel van moderne technologieën als Big Data en het Internet of Things een inbreuk kan opleveren op het recht op privacy. Deze inbreuken kunnen zich zowel voordoen in de privéomgeving als in publieke ruimtes.

Wat gelijkheidsrechten betreft zien de onderzoekers knelpunten op het gebied van datamining en profileertechnieken, omdat deze inherent gericht zijn op het maken van onderscheid tussen (groepen) individuen. Zo maken de ondoorzichtigheid en complexiteit van algoritmes dat het voor mensen onduidelijk is of er sprake is van concrete benadeling en ongerechtvaardigde ongelijke behandeling. "Algoritmische discriminatie, die ontstaat door een bias in de data en/of in de gebruikte algoritmes, kan niet altijd eenvoudig worden ontdekt en gecontroleerd. Dit bemoeilijkt de zichtbaarheid en het bewijs van ongelijke behandeling", aldus de onderzoekers.

Met name als het gaat om vrijheidsrechten zien de onderzoekers tal van knelpunten, zoals filterbubbels, private censuur, zelfcensuur en de invloed op het actieve en passieve kiesrecht. De onderzoekers merken op dat vrije meningsuiting steeds vaker plaatsvindt via private bedrijven als Facebook en Google. Dit vereist een veranderende houding van de overheid bij het reguleren van meningsuiting. "Er kan sprake zijn van indirecte publieke censuur als de overheid samenwerkt met of dreigt met dwang richting sociale media of zoekmachines om onwelgevallige content te verwijderen. Hierbij treden problemen op als de door deze bedrijven gebruikte algoritmes overmatig gaan censureren", zo stellen de onderzoekers.

Aantasting grondrechten

In hun slotsom laten ze weten dat de onderzoeksvraag, op welke wijze de grondrechten in Nederland worden aangetast door het gebruik van Big data, het Internet of Things en Kunstmatige intelligentie, niet eenvoudig is te beantwoorden. "In algemene zin geldt niettemin wel dat grondrechten potentieel vergaand en op diverse manieren kunnen worden aangetast als gevolg van het gebruik van het gebruik van Big Data, Kunstmatige Intelligentie en het Internet of Things, vaak ook op manieren die nog niet bekend waren voor 'oude' vormen van besluitvorming. Het voorkomen van dergelijke grondrechtenschendingen en het eventueel bieden van rechtsherstel als ze zich alsnog hebben voorgedaan, verdient dan ook bijzondere aandacht", zo besluiten de onderzoekers