De twee gezichten van gezichtsherkenningssysteemen

De twee gezichten van gezichtsherkenningssysteemen

De kans is groot dat je gezicht door een gezichtsherkenningssysteem is opgenomen, zo niet vandaag, dan toch in ieder geval in de laatste maand. Het is zorgwekkend eenvoudig om door geautomatiseerde paspoortportieren op een luchthaven te wandelen, waarbij u zich bezig houdt met de gedachte uw dierbaren te zien, in plaats van rekening te houden met mogelijke bedreigingen voor uw privacy. En u kunt heel vrolijk door een openbare ruimte of winkel lopen zonder dat u zich ervan bewust bent dat u in de gaten wordt gehouden, laat staan dat uw gezichtsuitdrukkingen kunnen worden gebruikt om u als crimineel te bestempelen. Sociale-mediaplatforms maken steeds vaker gebruik van gezichtsherkenning, en regeringen over de hele wereld hebben dit in het openbaar uitgerold. Wat betekent dit voor onze mensenrechten? En is het te laat om er iets aan te doen?


Wij moeten de juiste vragen stellen over gezichtsherkenning!


Terwijl het gebruik van gezichtsherkenning razendsnel gaat, kan het gevoel ontstaan dat er meer vragen zijn dan antwoorden. Dit hoeft geen slechte zaak te zijn: het stellen van de juiste vragen kan je in staat stellen om het gebruik dat inbreuk maakt op je rechten aan te vechten voordat er nog meer schade wordt aangericht.


gezichtsherkenning en privacy


Een goed uitgangspunt is om te kijken naar de gevolgen voor de grondrechten, zoals privacy, gegevensbescherming, non-discriminatie en vrijheden, en de naleving van internationale normen op het gebied van noodzakelijkheid, rechtsmiddelen en evenredigheid. Vertrouwt u de eigenaars van systemen voor gezichtsherkenning (of andere vormen van biometrische herkenning en bewaking), hetzij openbaar hetzij privé, om uw gegevens veilig te bewaren en ze alleen te gebruiken voor specifieke, legitieme en gerechtvaardigde doeleinden? Leveren zij voldoende bewijs van doeltreffendheid, afgezien van het vage begrip "openbare veiligheid"?


Daarnaast is het belangrijk om maatschappelijke vragen te stellen zoals: maakt het voortdurend in de gaten gehouden en geanalyseerd worden je veiliger, of gewoon griezelig? Zal biometrische bewaking uw leven en uw maatschappij aanzienlijk verbeteren, of zijn er minder invasieve manieren om dezelfde doelen te bereiken?


Een kijkje op biometrische bewaking in het wild


Zoals in het tweede deel van deze reeks is onderzocht, is gebleken dat veel systemen voor openbare gezichtsherkenning rechten schenden en door de gegevensbeschermingsautoriteiten als onwettig worden beschouwd. Zelfs op toestemming gebaseerde, facultatieve toepassingen zijn misschien niet zo onproblematisch als ze op het eerste gezicht lijken. Dit is onze "eerste vraag" voor het doordenken van de mogelijkheden en risico's van sommige steeds vaker voorkomende toepassingen van gezichtscontrole en -identificatie - we zullen de volgende keer de classificatie en andere biometrische gegevens in overweging nemen. Denk je dat we iets gemist hebben? Tweet ons uw ideeën @edri met behulp van #FacialRecognition. (Engels)


facebook Gezichtsherkenning


Automatisch taggen van foto's op Facebook


Facebook gebruikt gezichtsherkenning om gebruikers in foto's te taggen, maar ook andere "bredere" toepassingen. Onder publieke druk hebben ze in september 2019 een opt-in gemaakt - maar dit geldt alleen voor nieuwe, niet bestaande, gebruikers.


Potentieel:



  • Bespaart tijd ten opzichte van handmatig merken

  • Waarschuwt u wanneer iemand een foto van u heeft geüpload zonder uw medeweten


Risico's:



  • De groote reclamebureau's kunnen jou vinden op foto's of video's op het web - voor altijd.

  • Facebook scant, analyseert en categoriseert automatisch elke geüploade foto.

  • U wordt automatisch getagd in foto's die u misschien wilt vermijden.

  • Fouten speciaal voor mensen met een zeer lichte of zeer donkere huid


Bewijzen:



  • Facebook heeft algoritmen getraind met behulp van Instagram-foto's en deze vervolgens verkocht.

  • Facebook tagging is 98% accuraat - maar met 2,4 miljard gebruikers komt die 2% neer op honderden miljoenen fouten, vooral voor mensen met kleur.


Griezelig, op het randje van dystopisch, vooral omdat de functie voor sommige gebruikers standaard is ingeschakeld (hier is hoe je het uitschakelt: https://www.cnet.com/news/neons-ceo-explains-artificial-humans-to-me-and-im-more-confused-than-ever/). We laten het aan u over om te beslissen of de mogelijkheden opwegen tegen de risico's.



Geautomatiseerde grenscontrole (ePassportpoorten)


Geautomatiseerde grenscontrolesystemen (ABC), ook wel e-gates of ePassport gates genoemd, zijn zelfbedieningssystemen die reizigers authenticeren aan de hand van hun identiteitsdocumenten - een soort verificatie.


Potentieel:



  • Voorgesteld als oplossing voor opstoppingen naarmate het vliegverkeer toeneemt

  • Komt overeen met uw paspoort, in plaats van een centrale database - dus in theorie worden uw gegevens niet opgeslagen.


Risico's:



  • Langere wachtrijen voor degenen die het niet kunnen of willen gebruiken

  • Gebrek aan bewijs dat het over het geheel genomen tijdbesparend is

  • Moeilijk te gebruiken voor oudere passagiers

  • Kan immigratieproblemen of fiscale problemen veroorzaken

  • Normaliseert de gezichtsherkenning

  • Onevenredig foutgevoelig voor gekleurde mensen, wat leidt tot ongerechtvaardigde verhoren

  • Ondersteunt bezuinigingsmaatregelen van de overheid


Bewijs van doeltreffendheid kan tegenstrijdig zijn, maar de gevolgen - met name voor reeds gemarginaliseerde groepen - en de mogelijkheid om gezichtsgegevens te combineren met andere gegevens om aanvullende informatie over reizigers te verkrijgen, brengen een groot potentieel voor misbruik met zich mee. We vermoeden dat offline oplossingen zoals het financieren van meer grensagenten en het investeren in wachtrijbeheer even efficiënt en minder ingrijpend zouden kunnen zijn.


Politiebewaking:


Politiediensten in heel Europa maken - vaak in samenwerking met particuliere bedrijven - gebruik van bewakingscamera's om de openbare ruimte live te identificeren.


Potentieel:



  • Vergemakkelijkt de analyse van video-opnamen in onderzoeken


Risico's:



  • De politie houdt een database van gezichten bij en is in staat om elk individu dat ooit gescand is op te sporen en te volgen

  • Vervangt de investering in de werving en opleiding van politieagenten

  • Kan het gebruik van de openbare ruimte ontmoedigen - met name voor degenen die onevenredig veel te lijden hebben gehad als doelwit

  • Huiveringseffect op de vrijheid van meningsuiting en vergadering, een belangrijk onderdeel van de democratische participatie

  • Kan ook vertrouwen op pseudowetenschappelijke emotie "herkenning"

  • Wettelijke gevolgen voor mensen die ten onrechte zijn geïdentificeerd

  • Geen mogelijkheid tot opt-out


Bewijsmateriaal:



  • De Britse politie zegt dat de gezichtsherkenning de bezuinigingen op de begroting helpt goed te maken

  • Doeltreffendheid van het toezicht is bijna onmogelijk te bewijzen

  • Bewijs van misbruik van de toegang tot gegevens door de wetshandhavingsinstanties

  • Automatiseert bestaande politiële vooroordelen en raciale profilering

  • Maakt legitieme anonieme protesten onmogelijk

  • Ondermijnt de privacy rechten, waardoor we minder vrij zijn


Een grotere openbare veiligheid kan worden bereikt door maatregelen om kwesties als ongelijkheid of asociaal gedrag aan te pakken of door in het algemeen te investeren in de capaciteit van de politie in plaats van in bewakingstechnologie.


De realiteit onder ogen: gaan we naar een massasurveillancesamenleving?


Zonder tussenkomst is gezichtsherkenning op weg naar alwetendheid. In deze post hebben we alleen het oppervlak gekrast. Deze voorbeelden identificeren echter enkele van de verschillende partijen die uw gezichtsgegevens willen verzamelen en analyseren, wat ze er aan hebben en hoe ze die kunnen (mis)gebruiken. Ze hebben ook aangetoond dat de voordelen van gezichtsbewaking vaak kostenbesparende redenen zijn, in plaats van voordelen voor de gebruiker.


We hebben het al eerder gezegd: techniek is niet neutraal. Het reflecteert en versterkt de vooringenomenheid en het wereldbeeld van de makers. De risico's worden versterkt als systemen snel worden ingezet, zonder rekening te houden met het algemene beeld of de glibberige helling naar autoritarisme. De beweegredenen achter elk gebruik moeten onder de loep worden genomen en er moeten goede beoordelingen worden uitgevoerd voordat het systeem wordt ingezet. Als burgers hebben we het recht om dit te eisen.


Uw gezicht heeft een betekenis die verder gaat dan alleen uw uiterlijk - het is een marker van uw unieke identiteit en individualiteit. Maar met een vruchtbare gezichtsherkenning wordt uw gezicht een verzameling van gegevenspunten die tegen u kunnen worden gebruikt en die inbreuk maken op uw vermogen om uw leven in veiligheid en privacy te leiden. Met bedrijven die profiteren van de algoritmen die heimelijk zijn opgebouwd met behulp van foto's van gebruikers, worden gezichten letterlijk gecommodificeerd en verhandeld. Dit heeft ernstige gevolgen voor onze privacy, waardigheid en lichamelijke integriteit.


Verder lezen op: https://edri.org/