Tweetalige printerversie Eentalige printerversie

Schriftelijke vraag nr. 7-916

van Rik Daems (Open Vld) d.d. 17 december 2020

aan de staatssecretaris voor Digitalisering, belast met Administratieve Vereenvoudiging, Privacy en de Regie der gebouwen, toegevoegd aan de Eerste minister

Kunstmatige intelligentie - Politie- en strafrechtsystemen - Gebruik - Ethische kernbeginselen - Praktijken in andere Europese landen

kunstmatige intelligentie
politie
ethiek
toepassing van informatica
gegevensbescherming
eerbiediging van het privé-leven
informatiebeveiliging

Chronologie

17/12/2020 Verzending vraag (Einde van de antwoordtermijn: 21/1/2021 )
21/1/2021 Antwoord

Ook gesteld aan : schriftelijke vraag 7-915

Vraag nr. 7-916 d.d. 17 december 2020 : (Vraag gesteld in het Nederlands)

Kunstmatige intelligentie is een bepalende factor geworden voor de toekomst van de mensheid, omdat het individuele levens wezenlijk blijft transformeren en invloed heeft op menselijke gemeenschappen.

Kunstmatige intelligentie brengt zowel kansen als uitdagingen met zich mee. Kunstmatige intelligentie («artificial intelligence» – AI) is een van de grote technologische uitdagingen van onze eeuw. Hoewel het aanzienlijke mogelijkheden biedt voor de samenleving en het individu, is het ook van invloed op de normen die door de Raad van Europa worden beschermd: mensenrechten, democratie en de rechtsstaat. Het is daarom van het grootste belang om de juiste balans te vinden tussen het beperken van de risico's en het volledig benutten van de voordelen die kunstmatige intelligentie kan bieden bij het bevorderen van een beter leven voor iedereen (zie het rapport van de Raad van Europa hierover: https://pace.coe.int/pdf/1a89c0686632daa7d41ccf3543316097a9b747793326667a8259ffe25682ae848428feba12/doc.%2015156.pdf).

Het gebruik van kunstmatige intelligentie-instrumenten in politie- en strafrechtsystemen brengt bijzondere risico's voor de mensenrechten met zich mee. Dit is vooral vanwege het belang van de besluiten die op basis van algoritmische output kunnen worden genomen - besluiten over bewaking, huiszoeking en inbeslagneming, arrestatie, detentie, veroordeling, vrijlating op borgtocht of voorwaardelijke vrijlating, enz.

Ook de ethische beginselen staan centraal bij het gebruik van kunstmatige intelligentie. Er zijn veel manieren waarop het gebruik van AI in politie- en strafrechtsystemen in strijd kan zijn met die ethische kernbeginselen. Hoewel het gebruik van AI in politie- en strafrechtsystemen aanzienlijke voordelen kan hebben als het goed wordt gereguleerd, dreigt het bijzonder ernstige gevolgen te hebben voor de mensenrechten als dat niet het geval is.

Zo kunnen AI-systemen worden geleverd door particuliere bedrijven, die zich kunnen beroepen op hun intellectuele-eigendomsrechten om de toegang tot de broncode te ontzeggen. Het bedrijf kan zelfs eigenaar worden van de gegevens die door het systeem worden verwerkt, ten nadele van het overheidsorgaan dat gebruik maakt van zijn diensten.

AI-systemen worden getraind op massale datasets, die kunnen worden aangetast door historische bias, onder meer door indirecte correlatie tussen bepaalde voorspellende variabelen en discriminerende praktijken (zoals postcode die een proxy-identificatie is voor een etnische gemeenschap die historisch gezien een discriminerende behandeling ondergaat). De voorbeelden van ethische kernbeginselen die kunnen aangetast worden, zijn eindeloos. Een goede regulering bij het invoeren van kunstmatige intelligentiesystemen is cruciaal.

Voorbeelden van hoe kunstmatige intelligentie wordt gebruikt, vinden we terug in andere Europese landen. Het gaat dan onder meer om gezichtsherkenning, voorspellende politiediensten, de identificatie van potentiële slachtoffers van misdrijven, risicobeoordeling bij de besluitvorming over voorlopige hechtenis, veroordeling en voorwaardelijke vrijlating, en de identificatie van «cold cases» die nu met behulp van moderne forensische technologie zouden kunnen worden opgelost.

Wat betreft het transversale karakter van de vraag: het betreft een transversale aangelegenheid met de Gemeenschappen daar kunstmatige intelligentie betrekking heeft op justitie, een deelstaatbevoegdheid. Alsook, de aanpak van de uitdagingen op vlak van de digitalisering van overheidsdiensten en -taken is een gedeelde bevoegdheid tussen de federale overheid en de deelstaten, niet het laatst wegens het privacy- en securityvraagstuk.

Graag had ik hieromtrent dan ook een antwoord gekregen op volgende vragen:

1) Hoe staat u tegenover kunstmatige intelligentie in het Belgische politie- en strafrechtsysteem?

2) Wordt kunstmatige intelligentie gebruikt in ons Belgische politie- en strafrechtsysteem? Zo ja, hoe? Welke functies vervullen zij?

3) Overweegt u om (meer) gebruik te maken van kunstmatige intelligentiesystemen? En zo ja, waarom en in welke functies? Zo neen, waarom niet?

4) Hoe zorgt u ervoor dat deze kunstmatige intelligentiesystemen voldoen aan de ethische kernbeginselen i.e. transparantie, rechtvaardigheid en billijkheid (met inbegrip van non-discriminatie), menselijke verantwoordelijkheid voor beslissingen, veiligheid en beveiliging, privacy en gegevensbescherming?

5) Zal u kijken naar praktijken in andere Europese landen in verband met kunstmatige intelligentie opdat deze mogelijks in België gebruikt kunnen worden?

Antwoord ontvangen op 21 januari 2021 :

1) In het algemeen, vormt het gebruik van artificiële intelligentie een echte opportuniteit en biedt het de mogelijkheid om de toegang tot openbare diensten voor alle burgers te verbeteren. Bij deze digitale transformatie moet de mens centraal staan, en moeten de fundamentele rechten en de beginselen van de rechtsstaat worden geëerbiedigd.

2) Voor een concreet antwoord op deze vraag verzoek ik u om u tot mijn collega’s, de minister van Justitie en de minister van Binnenlandse Zaken te richten.

3) Voor een concreet antwoord op deze vraag nodig ik u uit om u te richten tot mijn collega’s, de minister van Justitie en de minister van Binnenlandse Zaken.

4) Het gebruik van artificiële intelligentie vereist de naleving van ethische en juridische beginselen die de bescherming van persoonsgegevens en fundamentele rechten en vrijheden garanderen. Om de naleving van deze principes te verzekeren, werden initiatieven zoals AI4Belgium gelanceerd. Deze aanpak is er bijvoorbeeld op gericht om ethische kwesties in kaart te brengen bij de inzet van artificiële intelligentietechnologieën. Zo organiseert de werkgroep binnen AI4Belgium Law & Ethics regelmatig informatie- en reflectiesessies over deze onderwerpen en ook overleg op nationaal niveau over de standpunten die aangaande deze onderwerpen moeten worden ingenomen ten aanzien van de Europese instellingen, maar ook ten aanzien van andere internationale organen op mondiaal niveau, zoals de Organisatie voor economische samenwerking en ontwikkeling (OESO) of de Organisatie der Verenigde Naties voor onderwijs, wetenschap en cultuur (United Nations Educational, Scientific and Cultural Organization – UNESCO).

5) Wat de Europese en internationale benchmarking betreft, heb ik nota genomen van het werk van de Raad van Europa op het gebied van artificiële intelligentie, met name het verslag van de Raad van Europa over Justitie en algoritmen in de meer specifieke context van het strafrecht, alsmede van de verschillende initiatieven die de afgelopen jaren op Europees niveau of op het niveau van de Verenigde Naties zijn gelanceerd om een kader te bieden voor het gebruik van artificiële intelligentie, ook in de context van het strafrecht.