|
|
Clearview AI - Privacy - Vermeend gebruik door personen die werken voor de overheid en overheidsdiensten
kunstmatige intelligentie
gegevensverwerking
politie
Gegevensbeschermingsautoriteit
computerprogramma
| 10/3/2020 | Verzending vraag (Einde van de antwoordtermijn: 9/4/2020) |
| 31/3/2020 | Antwoord |
Ook gesteld aan : schriftelijke vraag 7-399
Ook gesteld aan : schriftelijke vraag 7-400
Politiediensten, overheidsinstanties maar ook bedrijven uit zeker zesentwintig landen hebben gebruik gemaakt van de omstreden gezichtsherkenningssoftware van het Amerikaanse bedrijf Clearview AI. Dat meldt nieuwswebsite Buzzfeed op basis van een gelekte gebruikerslijst van de software.
In die lijst staan ook Belgische gebruikers.
Het Amerikaanse bedrijf Clearview AI biedt software aan om gezichten op camerabeelden van bijvoorbeeld beveiligingscamera's te vergelijken met foto's die het bedrijf in een gigantische database heeft gestopt. Het bedrijf heeft maar liefst drie miljard foto's illegaal van het internet gehaald, onder andere van sociale netwerken zoals Facebook, LinkedIn, Twitter en Google, en heeft daar gezichtsherkenning op toegepast.
Clearview AI verkoopt die gegevens dus, in de eerste plaats aan politiediensten, maar ook andere overheidsdiensten en bedrijven kunnen klant worden. Uit een gelekte klantenlijst die Buzzfeed kon inkijken, blijkt dat ook politiekorpsen en/of overheidsdiensten uit ons land de dienst mogelijk al getest hebben.
Wat het transversaal karakter van de vraag betreft: de verschillende regeringen en schakels in de veiligheidsketen zijn het eens over de fenomenen die de komende vier jaar prioritair moeten worden aangepakt. Die staan gedefinieerd in de kadernota Integrale Veiligheid en het Nationaal Veiligheidsplan voor de periode 2016-2019, en werden besproken tijdens een Interministeriële Conferentie, waarop ook de politionele en justitiële spelers aanwezig waren. Het betreft dus een transversale aangelegenheid met de Gewesten waarbij de rol van de Gewesten vooral ligt in het preventieve luik.
Ik had hieromtrent dan ook volgende vragen:
1) Kent u de berichtgeving over de gelekte klantenlijst van het Amerikaanse bedrijf Clearview AI waaruit blijkt dat Belgische overheidsdiensten gebruik hebben gemaakt van omstreden gezichtsherkenningssoftware?
2) Vindt u het gebruik van deze technologie wenselijk in een democratische rechtsstaat en in ons land in het bijzonder? Kan u dit uitvoerig toelichten?
3) Bent u bereid te laten onderzoeken welke personen binnen de overheid of welke overheidsdiensten, inclusief de veiligheidsdiensten gebruik hebben gemaakt van de gezichtsherkenningssoftware van Clearview? Zo neen, waarom niet? Zo ja, kan u dit toelichten met betrekking tot de inhoud en de timing?
4) Bent u bereid deze aantijgingen voor te leggen aan de Gegevensbeschermingsautoriteit? Zo ja, kan u dit toelichten met betrekking tot de inhoud en de timing? Zo neen, waarom niet?
5) Bent u bereid het Comité P en / of het Comité I in te schakelen om na te laten gaan welke lokale politiediensten hiervan gebruik zouden gemaakt hebben en dit gezien dit in diverse persartikels naar voor werd geschoven als mogelijke piste (cf. https://www.vrt.be/vrtnws/nl/2020/02/28/clearview/)? Zo ja, kan u dit toelichten? Zo, neen, waarom niet?
6) Welke publieke en / of semipublieke organisaties maken vandaag gebruik van gezichtsherkenningssoftware? Kan u deze diensten oplijsten en meedelen waarvoor deze dienen? Werd dit aangemeld aan de Gegevensbeschermingsautoriteit? Kan u dit toelichten?
7) Is het toepassen van gezichtsherkenningssoftware conform de algemene verordening gegevensbescherming (AVG)? Welke mensenrechten komen hiermee in het geding? Kan u dit uitvoerig toelichten?
1) & 2) Ik ben inderdaad op de hoogte van de berichtgeving omtrent Clearview AI. Gezichtsherkenning is een nieuwe technologie die vragen oproept met betrekking tot persoonsgegevensbescherming.
De Europese Commissie heeft een document gepubliceerd, de White Paper on Artificial Intelligence, dat onder meer betrekking heeft op gezichtsherkenning.
Dit document erkent de risico’s van dergelijke technologieën voor bepaalde fundamentele rechten zoals de vrijheid van meningsuiting, de vrijheid van vereniging, het discriminatieverbod, het recht op een privéleven en het recht op gegevensbescherming. Het document stelt dat de Europese Commissie op een breed maatschappelijk debat zal aansturen.
Ik erken dat dat soort technologie een groot risico kan vormen voor de bescherming van persoonsgegevens en een debat over die kwestie, zoals de Europese Commissie aanbeveelt, lijkt mij inderdaad noodzakelijk.
3) tot 5) Het uitvoeren van een onderzoek hierover behoort tot de bevoegdheid van de onafhankelijke toezichthoudende autoriteiten, te weten, in de algemene zin de Gegevensbeschermingsautoriteit, het Controleorgaan op de politionele informatie (hierna: COC) voor wat betreft de politiediensten en comité I specifiek voor de inlichtingendiensten.
Niet het Comité P maar wel het COC is de aangewezen autoriteit om te onderzoeken of politiediensten gebruik hebben gemaakt of maken van deze technologie. Het COC heeft laten weten dat het terzake een onderzoek is gestart nopens de mogelijke aantijgingen ten aanzien van de Belgische politiediensten en / of individuele Belgische politieambtenaren en bevraagt deze politiediensten rond het al dan niet gebruikmaken van Clearview.
Volgens het COC zijn geen gevallen bekend waarbij de politie gebruik maakt van camera’s met gezichtsherkenning. Een uitzondering hierop is het ene geval van gebruik van gezichtsherkenning door de federale politie op de luchthaven van Zaventem, waar het COC heeft ingegrepen en dit cameragebruik, bij gebrek aan wettelijke grondslag, heeft stopgezet.
6) De Gegevensbeschermingsautoriteit beschikt niet over een lijst van organisaties die gebruikmaken van deze software. Zij ontving ook geen klachten of bemiddelingsverzoeken met betrekking tot cameragebruik met gezichtsherkenning.
7) De AVG voorziet niet in een verbod op gezichtsherkenningssoftware als zodanig.
Maar er rust wel een principieel verbod op de verwerking van biometrische gegevens met het oog op de unieke identificatie van een persoon, en artikel 9.2. AVG geeft een limitatieve opsomming van de uitzonderingen op dit verbod (bijvoorbeeld wanneer een betrokkene zijn uitdrukkelijke toestemming geeft). Of gezichtsherkenningssoftware is toegelaten, hangt dus in de eerste plaats af van het feit of deze gebruikt wordt in een context waarin een beroep kan gedaan worden op een uitzonderingsgrond op het principieel verwerkingsverbod van biometrische gegevens.
Gesteld dat er een uitzonderingsgrond voorhanden is, moeten bovendien alle andere principes uit de AVG – zoals het principe dat een gegevensverwerking proportioneel moet zijn en deze dus slechts toegelaten is indien het ermee beoogde doeleinde niet via minder intrusieve technieken kan bereikt worden – gerespecteerd worden.
Voor het overige verwijs ik het geachte lid naar mijn antwoord op schriftelijke vraag nr. 102, die werd gesteld door de volksvertegenwoordiger Matheï, betreffende hetzelfde onderwerp.