Rosalie Waelen*
Camera’s zijn niet meer weg te denken uit onze hedendaagse samenleving. Doordat het hebben van een mobiele telefoon de norm is draagt vrijwel iedereen een camera met zich mee. Daarnaast zijn er steeds meer beveiligingscamera’s in de publieke ruimte, bijvoorbeeld op straat, in winkels, of in voetbalstadions. Ook worden er constant nieuwe apparaten ontwikkeld die gebruik maken van een camera, denk aan een slimme deurbel, drones, zorgrobots, of speelgoed robotica. Dit alles betekent dat de moderne burger niet langer aan het oog van de camera kan ontsnappen en dat levens voortdurend, en steeds meer, worden vastgelegd in beelden.
Moderne camera’s kunnen echter veel meer dan alleen beelden vastleggen. Zogenaamde ‘slimme camera’s’ of ‘intelligente camera’s’ kunnen beelden ook analyseren (videoanalyse). Door het gebruik van deep learning en machine learning algoritmes kunnen voorwerpen en mensen bijvoorbeeld gecategoriseerd of getraceerd worden. Ook kunnen algoritmes de identiteit van mensen achterhalen door hun gezicht of andere biometrische aspecten te vergelijken met gegevens in een bepaalde databank. Zelfs wanneer de identiteit van een persoon niet achterhaald kan worden, kunnen algoritmes aan de hand van videobeelden en foto’s toch bijzonder veel informatie over een persoon vrijgeven. Zo kunnen bijvoorbeeld iemands emoties, geslacht, leeftijd of afkomst herkend worden en kunnen voorspellingen gedaan worden over diens intenties, geloofsovertuigingen en seksuele voorkeuren. Met andere woorden, een moderne camera ziet veel meer dan een menselijk oog.
Deze technologische ontwikkeling brengt natuurlijk verschillende voordelen met zich mee. Ten eerste kunnen beelden van beveiligingscamera’s automatisch geanalyseerd worden, waardoor het niet langer nodig is dat een menselijke beveiliger deze beelden voortdurend in de gaten houdt. Ook maken slimme camera’s predictive policing mogelijk, i.e. op basis van statistische voorspellingen kan preventief worden ingegrepen. Verder zorgen deze camera’s ervoor dat vermiste of verdachte personen gemakkelijker kunnen worden opgespoord.
Slimme camera’s zijn overigens niet alleen handig voor politie of beveiliging, ze kunnen ook worden benut voor commerciële doeleinden, sociaal onderzoek of het bevorderen van het gebruiksgemak van bepaalde apparaten of applicaties. Zo maakt het gebruik van camera’s bijvoorbeeld automatisch inparkeren mogelijk, zorgt emotieherkenning voor een vlottere interactie tussen mens en computer en kan gezichtsherkenning worden ingezet voor het ontgrendelen van een mobiele telefoon of zelfs het openen van een deur. Daarbij kan aan de hand van gezichts- en emotieherkenning de aandachtsspanne van een publiek of van studenten in kaart worden gebracht. Tot slot kunnen deze toepassingen klantenservice verbeteren of personaliseren.
Men moet echter kritisch omgaan met de voordelen die slimme camera’s met zich mee brengen, want de technologie kent ook een schaduwzijde. In de ethiek van technologie, evenals in het maatschappelijke debat, gaat het vaak over privacy en gegevensbescherming. Privacy en gegevensbescherming zijn inderdaad belangrijke thema’s met betrekking tot de toename van camera’s en de opkomst van slimme camera’s, maar deze begrippen zijn niet toereikend om volledig te begrijpen wat er op het spel staat. Vanuit een ethisch perspectief is er hier namelijk veel meer aan de hand dan alleen een inbreuk op privacy.
Ten eerste kan de alomtegenwoordigheid van moderne camera’s het gedrag van individuen beïnvloeden. Zo kan bewustzijn van de aanwezigheid van een beveiligingscamera in winkels klanten ervan weerhouden producten te stelen. De aanwezigheid van beveiligingscamera’s heeft dan, in Foucaultiaanse termen, een disciplinerend effect. Men kan opzettelijk gebruik maken van dit disciplinerende effect, maar de invloed van een camera op menselijk gedrag is niet noodzakelijk intentioneel. Mensen kunnen hun gedrag ook veranderen simpelweg vanwege een gevoel van ongemak dat voortkomt uit het bewustzijn dat zij gefilmd en mogelijk geanalyseerd worden (en daarbij vaak niet weten wie vervolgens toegang heeft tot hun gegevens). Een dergelijk effect wordt vaak aangeduid als chilling effect, het is een vorm van zelfcensuur. In het geval van zelfcensuur wordt een camera niet bewust ingezet om het gedrag van mensen te sturen, maar weerhoudt het mensen er desondanks van zichzelf te zijn. Oftewel, het schaadt hun authenticiteit.
Ten tweede zorgt de alsmaar toenemende aanwezigheid van (al dan niet slimme) camera’s in de publieke ruimte voor een verlies van anonimiteit. Natuurlijk loopt men altijd het ‘risico’ herkend te worden wanneer men zich in het openbaar begeeft. Zelfs wanneer men geen bekenden tegen het lijf loopt kunnen vreemden iemand alsnog herkennen als ‘een vrouw’, ‘een moslim’ of ‘een homo’. Bepaalde aspecten die men tot zijn of haar identiteit kan rekenen kunnen altijd herkend worden in het openbaar. In die zin is men nooit volledig anoniem. Toch vormt de aanwezigheid van slimme camera’s een sterkere bedreiging voor de mogelijkheid van anonimiteit. Slimme camera’s hebben een beter geheugen en zien meer dan een medemens. Dit is hinderlijk voor hen die, om wat voor reden dan ook, hun identiteit willen verbergen – bijvoorbeeld een jonge man die (nog) niet openlijk homo is omdat hij het oordeel van zijn familie vreest, maar wel graag een LGTBQ bar zou bezoeken.
Ten derde kan de opkomst van de slimme camera, i.e. het gebruik van videoanalyse, mensen beperken in hun capaciteit om hun eigen identiteit te bepalen en vorm te geven. Niet alleen omdat het hun mogelijkheid tot anonimiteit bedreigt, maar ook omdat algoritmes bepaalde categorieën of labels aan mensen toeschrijven. Op die manier wordt hen de kans ontnomen zelf te bepalen met welke categorie of groep mensen zij zich identificeren of hoe zij zich graag aan anderen zouden presenteren. Daarbij komt dat algoritmes vaak menselijke vooroordelen overnemen, waardoor zij mogelijk discrimineren of mensen simpelweg een incorrect stempel opdrukken.
Ten vierde worden de inzichten die vergaard worden aan de hand van videoanalyse veelal ingezet om het gedrag en handelen van mensen te manipuleren. Een slimme camera in een supermarkt kan meer dan alleen beveiligingsdoeleinden dienen. Slimme camera’s worden vandaag de dag al ingezet door verschillende ketens in de Verenigde Staten, maar ook steeds meer in Europa, om het gedrag van klanten in kaart te brengen, de route die zij door de winkel lopen, de tijd die zij doorbrengen voor een schap, de producten of aanbiedingen die hun aandacht trekken, enzovoort.[1] Dit alles levert de winkeleigenaar waardevolle statistische inzichten op, die hij kan gebruiken om zijn producten efficiënter te plaatsen en te prijzen. Verregaandere toepassingen van videoanalyse zijn het gebruik van gezichtsherkenning of andere methoden om de identiteit van een klant te achterhalen, om vervolgens het individuele winkelgedrag en de voorkeuren van die klant beter in kaart te brengen. Dit kan men momenteel al aan de hand van klantenkaarten, maar via slimme camera’s kan men niet alleen analyseren wat een klant koopt, maar ook de manier waarop – misschien was de klant gehaast of stond hij juist lang voor een schap te twijfelen over welk product hij zou kiezen. Gezichtsherkenning zou bovendien kunnen worden ingezet om advertenties of aanbiedingen in de winkel, in real-time, aan te passen. Zo zou gepersonaliseerde marketing niet alleen online, maar ook offline kunnen worden toegepast. Het gebruik van slimme camera’s, met name van gezichts- of emotieherkenning, voor commerciële doeleinden is een vorm van manipulatie. Marketingstrategieën zijn in zekere mate altijd manipulatief, maar het gebruik van slimme camera’s is wellicht te verregaand.
Tot slot is men in verschillende opzichten steeds meer afhankelijk van moderne camera’s. Op de eerste plaats is men afhankelijk van camera’s wanneer deze toegang verlenen tot apparaten, een huis, of zelfs tot bepaalde landen. Gezichtsherkenning kan namelijk worden ingezet voor het ontgrendelen van apparaten, openen van deuren en voor identiteitscontroles op luchthavens. Deze afhankelijkheid van slimme camera’s wordt problematisch, wanneer een persoon niet wordt herkend door een slimme camera, bijvoorbeeld doordat diegene plots een baard heeft laten staan, meer make-up draagt, of een neusoperatie heeft gehad. Op de tweede plaats is men afhankelijk van het correct functioneren van de camera. Hoe centraler de rol van camera’s in het gebruik van bepaalde apparatuur of applicaties, des te problematischer is het wanneer de camera plots niet meer werkt. Denk bijvoorbeeld aan de eerder genoemde deur die gebruik maakt van gezichtsherkenning, maar ook aan een winkel die gebruik maakt van slimme camera’s in plaats van standaardkassa’s om te zien wat klanten kopen en om geld van hun rekening af te schrijven. Ook is men afhankelijk van het correct functioneren van algoritmes, in die zin dat zij objectief zijn. Daar komt nog eens bij dat slimme camera’s vaak menselijke beveiligers vervangen, hetgeen betekent dat publieke veiligheid in toenemende mate afhankelijk is van het correct functioneren van deze camera’s.
Deze vijf ethische implicaties van het gebruik van slimme camera’s, of videoanalyse, zijn niet altijd uniek voor het gebruik van slimme camera’s. Bijvoorbeeld het verlies aan anonimiteit of de invloed op het gedrag van mensen kunnen ook gevolgen zijn van het gebruik van traditionele beveiligingscamera’s of zelfs van de aanwezigheid van menselijke toezichthouders. Surveillance is niets nieuws. De mate waarin mensen geobserveerd kunnen worden door de opkomst van slimme camera’s is echter wel nieuw: videoanalyse automatiseert het gebruik van beveiligingscamera’s, waar voorheen veel manuren nodig waren om beeld materiaal te controleren, kan dit nu heel snel en haast zonder menselijke tussenkomst gedaan worden. Bovendien maakt videoanalyse het mogelijk veel meer informatie uit beeldmateriaal te vergaren dan voorheen. Dit betekent dat camera’s steeds meer aanwezig zullen zijn in iemands dagelijks leven, omdat surveillance nu op grotere schaal mogelijk is en omdat camera’s steeds meer doeleinden gaan dienen. Het gevolg hiervan is dat de ethische zorgen die traditionele vormen van surveillance met zich meebrengen versterkt worden door de opkomst van de slimme camera.
De hierboven genoemde ethische problemen, die de alomtegenwoordigheid van (slimme) camera’s met zich mee kan brengen, laten zien dat privacy niet de enige waarde is die op het spel staat. Hoewel het verlies van anonimiteit, of zelfs de invloed op authenticiteit, wel in relatie tot privacy kunnen worden omschreven, is privacy in beide gevallen niet de fundamentele waarde die in het geding is. Wat elk van de genoemde problemen aantoont is dat de moderne camera op verschillende manieren macht kan uitoefenen. De camera disciplineert en beïnvloedt gedrag, ze ontneemt anonimiteit, ze maakt afhankelijk, ze interpreteert en bepaalt identiteit, en ze werkt manipulatie in de hand. Al deze mogelijke gevolgen, deze vormen van macht, bedreigen de menselijke autonomie. Het is dus niet alleen privacy, maar ook de waarde van autonomie die het debat en beleid rond deze technologische ontwikkeling zou moeten sturen.
*Rosalie Waelen is doctoraatsstudente aan de Universiteit van Twente in Nederland, ze heeft een achtergrond in filosofie en toegepaste ethiek en doet onderzoek naar de ethische implicaties van Video Analytics technologie. Haar onderzoek is onderdeel van een Marie Sklodowska-Curie ITN genaamd PROTECT.
[1] https://www.iotforall.com/ai-driven-video-analytics-for-grocery-stores/