Bosch Energy and Building Solutions Nederland
Ethische aspecten gezichtsherkenning

Gezichtsherkenning

De wettelijke en ethische aspecten

De toepassingsmogelijkheden van nieuwe technologieën zijn enorm. Overheden en bedrijven maken dan ook steeds vaker gebruik van kunstmatige intelligentie zoals gezichtsherkenningstechnologie, gekoppeld aan beveiligingscamera’s. Er gaan stemmen op in de politiek om deze technologie ook in te zetten om bijvoorbeeld racisme op tribunes te herkennen. In sommige supermarkten wordt al voorzichtig gebruik gemaakt van gezichtsherkenningscamera’s. Mag dat zomaar? Geeft de regelgeving duidelijke antwoorden? Hoe zit het met misbruik van gegevens en ethische kwesties als persoonlijke vrijheid? We schetsen een aantal situaties.

Situatie 1: Hooligans weren

Voetballiefhebbers willen in het stadion hun club toejuichen. Om binnen te komen, moeten ze eerst in een camera met gezichtsherkenning kijken. De camera geeft aan of hun gezicht voorkomt in de database met goedgekeurde toeschouwers. Als dat niet zo is, krijgt de bezoeker geen toegang. Zo worden supporters met een stadionverbod geweerd.

hooligans

Situatie 2: Dag en nacht lekker sporten

Een sportschool met 24-uurstoegang geeft leden een eigen tag waarmee ze naar binnen kunnen. Er zijn camera’s met gezichtsherkenning, die aanslaan als er iemand binnenkomt die niet herkend wordt. Sporters kunnen dan via een keypass hulp inroepen. Er is geen personeel aanwezig.

sportschool

Situatie 3: In de camera kijken en razendsnel het vliegtuig in

Het Europese project Tresspass heeft als doel om camera’s, in combinatie met andere vormen van kunstmatige intelligentie, het gedrag van elke reiziger te laten analyseren om zo een persoonlijk risicoprofiel op te bouwen. Het project past naadloos binnen het streven van Schiphol en de marechaussee, die al jaren werken aan de ‘seamless flow’-gedachte: het moet goedwillende passagiers op weg naar het vliegtuig zo makkelijk mogelijk worden gemaakt.

vliegveld

Situatie 4: Emoties lezen om autisme op te sporen

Het bedrijf VicarVision heeft de FaceReader-software ontwikkeld. Dat programma interpreteert geactiveerde kleine spiertjes in het gezicht en drukt die uit in percentages van emoties als blijdschap, verdriet, angst of minachting. Het bedrijf heeft een licentie verkocht aan China. GroenLinks vroeg als reactie daarop om een exportverbod van Nederlandse surveillancetechnieken naar China. De partij vreest dat de technologie kan worden ingezet bij mensenrechtenschendingen. Volgens VicarVision hoeven ze daar niet bang voor te zijn: de software wordt voornamelijk ingezet op universiteiten, waar psychologen het gebruiken om te onderzoeken hoe ouders reageren als hun kinderen huilen of om autisme in een vroeg stadium op te sporen.

emoties

Deze situatieschetsen maken duidelijk dat de technologie inzetbaar is in zeer uiteenlopende situaties en omstandigheden, en dat de beoogde doelen niet te vergelijken zijn. Hoe ga je om met deze diversiteit in regelgeving en ethiek?

Regelgeving: wat zegt de AVG?

Om met de regelgeving te beginnen: de privacywet algemene verordening gegevensbescherming (AVG) rangschikt biometrische gegevens als ‘bijzondere persoonsgegevens’. ICT-jurist Arnoud Engelfriet zegt hierover: “Wanneer je gaat fotograferen met als doel mensen te herkennen, dan spreken we van bijzondere verwerking van biometrische persoonsgegevens en dat valt onder de strenge regels van de bijzondere persoonsgegevens. Heel kort: afblijven, tenzij in de AVG specifiek staat dat het mag.” Maar de lidstaten van de EU zijn het niet eens over hoe ver de regels mogen gaan. Elke lidstaat mag daarom zelf regels opstellen over biometrie.

Nederland heeft in artikel 29 van de AVG aangegeven dat het verbod niet van toepassing is indien de verwerking noodzakelijk is voor authenticatie- of beveiligingsdoeleinden. Het mag dus, als er een duidelijk belang is en er feitelijk geen andere optie is.

Ethiek: gevaar voor vrijheid, rechtsstaat en democratie?

In het NRC (dec 2019, > ga naar artikel) schrijven Peter-Paul Verbeek (hoogleraar techniekfilosofie Universiteit Twente) en Daniël Tijink (Platform voor de Informatiesamenleving) dat er geen simpele antwoorden mogelijk zijn op de vraag: mag het of mag het niet?

Digitale technologieën zoals kunstmatige intelligentie en robotica bieden steeds meer (betaalbare) mogelijkheden. De effecten van deze technologie zijn nog vrijwel onbekend, zowel de positieve als de negatieve. Auteurs pleiten er daarom voor om het ethische debat te voeren. Veel ethische discussies gaan erover of het wel of niet aanvaardbaar is om een technologie toe te passen. Maar dan plaats je techniek en samenleving tegenover elkaar. Verbeek en Tijink zeggen daarover: “Techniek is dan een potentiële bedreiging voor de samenleving. Maar techniek en samenleving staan niet tegenover elkaar, ze zijn juist fundamenteel met elkaar verweven. Technologie maakt ons mede tot wie we zijn”.

Het is volgens de auteurs essentieel om technologie in haar eigen context te beschouwen. “De roep om algemene kaders is groot. Hoe verstandig zulke kaders ook zijn, ze missen doorgaans de concrete waarden vanuit het toepassingsgebied, zoals goede zorg of een veilige leefomgeving. In elke situatie zijn er andere effecten, zijn er andere partijen bij betrokken en spelen er andere waarden.”

Actie ondernemen

Verbeek en Tijink stellen dat er op meerdere manieren iets gedaan kan worden. Ten eerste het ingrijpen in de technologie zelf. Er wordt al geëxperimenteerd met gezichtsherkenning, waarbij gezichtskenmerken zo opgeslagen worden dat ze onherkenbaar zijn, totdat ze worden gekoppeld aan een nieuwe foto, bijvoorbeeld van iemand die ongewenst gedrag laat zien. Een tweede manier is de context helder te omschrijven en duidelijke afspraken te maken wanneer een technologie ingezet kan worden. Ten derde moeten gebruikers kritisch om kunnen gaan met nieuwe technologie. Denk hierbij aan het trainen van medewerkers in het interpreteren van data en het vergroten van het bewustzijn wat ze ten aanzien van burgers wel en niet mogen doen.

“Onze tijd vraagt om een ethiek die niet alleen maar grenzen wil stellen, maar juist de voorwaarden wil scheppen voor een waarden-volle digitale wereld.”

Bosch Energy and Building Solutions implementeert nieuwe technologieën bij innovatieve oplossingen. De winst die dat oplevert is in alle gevallen groot. Zo kan bijvoorbeeld –soms levensbelangrijke– tijdwinst geboekt worden in de meldkamer. Uiteraard houden wij ons aan de bestaande regelgeving en hebben daarnaast een scherp oog voor persoonlijke en maatschappelijke waarden. In de regelgeving is het belangrijk om het scala aan toepassingsgebieden en doelstellingen niet uit het oog te verliezen. Daarvoor is een wettelijk kader vereist dat flexibel kan inspringen op uiteenlopende situaties. Wij onderschrijven dan ook de conclusie van Verbeek en Tijink dat we open moeten staan voor nieuwe technologieën. We moeten absoluut duidelijke grenzen stellen om misbruik te voorkomen en privacy te bewaken. Maar daarnaast moeten we ook –met oog voor de kernwaarden van onze samenleving- voorwaarden creëren voor een nieuwe digitale wereld.

Neem contact met ons op

Neem contact met ons op.

Bosch Energy and Building Solutions
E-mail

Wij adviseren u graag