|
|
Clearview AI - Privacy - Vermeend gebruik door personen die werken voor de overheid en overheidsdiensten
kunstmatige intelligentie
gegevensverwerking
politie
Gegevensbeschermingsautoriteit
computerprogramma
| 9/11/2020 | Verzending vraag (Einde van de antwoordtermijn: 10/12/2020) |
| 17/12/2020 | Antwoord |
Herindiening van : schriftelijke vraag 7-399
Politiediensten, overheidsinstanties maar ook bedrijven uit zeker zesentwintig landen hebben gebruik gemaakt van de omstreden gezichtsherkenningssoftware van het Amerikaanse bedrijf Clearview AI. Dat meldt nieuwswebsite Buzzfeed op basis van een gelekte gebruikerslijst van de software.
In die lijst staan ook Belgische gebruikers.
Het Amerikaanse bedrijf Clearview AI biedt software aan om gezichten op camerabeelden van bijvoorbeeld beveiligingscamera's te vergelijken met foto's die het bedrijf in een gigantische database heeft gestopt. Het bedrijf heeft maar liefst drie miljard foto's illegaal van het internet gehaald, onder andere van sociale netwerken zoals Facebook, LinkedIn, Twitter en Google, en heeft daar gezichtsherkenning op toegepast.
Clearview AI verkoopt die gegevens dus, in de eerste plaats aan politiediensten, maar ook andere overheidsdiensten en bedrijven kunnen klant worden. Uit een gelekte klantenlijst die Buzzfeed kon inkijken, blijkt dat ook politiekorpsen en/of overheidsdiensten uit ons land de dienst mogelijk al getest hebben.
Wat het transversaal karakter van de vraag betreft: de verschillende regeringen en schakels in de veiligheidsketen zijn het eens over de fenomenen die de komende vier jaar prioritair moeten worden aangepakt. Die staan gedefinieerd in de kadernota Integrale Veiligheid en het Nationaal Veiligheidsplan voor de periode 2016-2019, en werden besproken tijdens een Interministeriële Conferentie, waarop ook de politionele en justitiële spelers aanwezig waren. Het betreft dus een transversale aangelegenheid met de Gewesten waarbij de rol van de Gewesten vooral ligt in het preventieve luik.
Ik had hieromtrent dan ook volgende vragen:
1) Kent u de berichtgeving over de gelekte klantenlijst van het Amerikaanse bedrijf Clearview AI waaruit blijkt dat Belgische overheidsdiensten gebruik hebben gemaakt van omstreden gezichtsherkenningssoftware?
2) Vindt u het gebruik van deze technologie wenselijk in een democratische rechtsstaat en in ons land in het bijzonder? Kan u dit uitvoerig toelichten?
3) Bent u bereid te laten onderzoeken welke personen binnen de overheid of welke overheidsdiensten, inclusief de veiligheidsdiensten gebruik hebben gemaakt van de gezichtsherkenningssoftware van Clearview? Zo neen, waarom niet? Zo ja, kan u dit toelichten met betrekking tot de inhoud en de timing?
4) Bent u bereid deze aantijgingen voor te leggen aan de Gegevensbeschermingsautoriteit? Zo ja, kan u dit toelichten met betrekking tot de inhoud en de timing? Zo neen, waarom niet?
5) Bent u bereid het Comité P en / of het Comité I in te schakelen om na te laten gaan welke lokale politiediensten hiervan gebruik zouden gemaakt hebben en dit gezien dit in diverse persartikels naar voor werd geschoven als mogelijke piste (cf. https://www.vrt.be/vrtnws/nl/2020/02/28/clearview/)? Zo ja, kan u dit toelichten? Zo, neen, waarom niet?
6) Welke publieke en / of semipublieke organisaties maken vandaag gebruik van gezichtsherkenningssoftware? Kan u deze diensten oplijsten en meedelen waarvoor deze dienen? Werd dit aangemeld aan de Gegevensbeschermingsautoriteit? Kan u dit toelichten?
7) Is het toepassen van gezichtsherkenningssoftware conform de algemene verordening gegevensbescherming (AVG)? Welke mensenrechten komen hiermee in het geding? Kan u dit uitvoerig toelichten?
1) & 2) Ik ben inderdaad op de hoogte van de berichtgeving omtrent Clearview AI. Gezichtsherkenning is een relatief nieuwe technologie die vragen oproept met betrekking tot gegevensbescherming.
De Europese Commissie heeft een document gepubliceerd, de White Paper on Artificial Intelligence, dat onder meer betrekking heeft op gezichtsherkenning.
In dit document erkent de Commissie de risico’s van dergelijke technologieën voor bepaalde fundamentele rechten zoals de vrijheid van meningsuiting, de vrijheid van vereniging, het discriminatieverbod, het recht op een privéleven en het recht op gegevensbescherming. Het document stelt dat de Europese Commissie op een breed maatschappelijk debat zal aansturen.
Ik deel ten zeerste de bekommernis dat dit soort technologie een groot risico kan vormen voor de bescherming van de persoonlijke levenssfeer. Een debat over deze kwestie lijkt mij dan ook inderdaad noodzakelijk.
3) tot 5) Om te bepalen welke dienst bevoegd is om dit te onderzoeken, moeten we kijken naar de bevoegdheden van de verschillende onafhankelijke toezichthoudende autoriteiten. De Gegevensbeschermingsautoriteit heeft een algemene controlebevoegdheid, terwijl het Controleorgaan op de politionele informatie (hierna: COC) over een specifieke controlebevoegdheid beschikt voor de politie en het Comité I voor de inlichtingendiensten.
Niet het Comité P maar wel het COC is de aangewezen autoriteit om te onderzoeken of politiediensten gebruik hebben gemaakt van deze technologie. Het COC heeft inmiddels laten weten dat het een onderzoek is gestart over de mogelijke aantijgingen ten aanzien van de Belgische politiediensten of individuele Belgische politieambtenaren, alsook met een bevraging van de Belgische politie rond het gebruik van Clearview.
Volgens het COC gebruikt de politie voorlopig tenslotte geen camera’s met gezichtsherkenning. Er is slechts één geval bekend waarin het COC het gebruik van gezichtsherkenning door de federale politie op de luchthaven van Zaventem heeft stopgezet.
De inlichtingendiensten hebben eerder al aangegeven geen gebruik van deze software gemaakt te hebben.
6) De Gegevensbeschermingsautoriteit beschikt niet over een lijst van organisaties die gebruikmaken van deze software. Zij ontving ook geen klachten of bemiddelingsverzoeken met betrekking tot gezichtsherkenning.
7) De algemene verordening gegevensbescherming (AVG) voorziet niet in een verbod op gezichtsherkenningssoftware als zodanig.
Er rust wel een principieel verbod op de verwerking van biometrische gegevens met het oog op de unieke identificatie van een persoon. Artikel 9.2. van de AVG geeft een limitatieve opsomming van de uitzonderingen op dit verbod (bijvoorbeeld wanneer een betrokkene zijn uitdrukkelijke toestemming geeft). Of gezichtsherkenningssoftware is toegelaten, hangt dus in de eerste plaats af van het feit of deze gebruikt wordt in een context waarin een beroep kan gedaan worden op een uitzonderingsgrond op het principieel verwerkingsverbod van biometrische gegevens.
Gesteld dat er een uitzonderingsgrond voorhanden is, moeten bovendien alle andere principes uit de AVG – zoals het principe van de proportionaliteit van de methode ten aanzien van het doeleinde – gerespecteerd worden.