Version à imprimer bilingue Version à imprimer unilingue

Question écrite n° 7-915

de Rik Daems (Open Vld) du 17 décembre 2020

au vice-premier ministre et ministre de la Justice, chargé de la Mer du Nord

Intelligence artificielle - Systèmes de police et de justice pénale - Utilisation - Principes éthiques fondamentaux - Pratiques dans d'autres pays européens

intelligence artificielle
police
éthique
application de l'informatique
protection des données
protection de la vie privée
sécurité des systèmes d'information

Chronologie

17/12/2020 Envoi question (Fin du délai de réponse: 21/1/2021 )
26/1/2021 Réponse

Aussi posée à : question écrite 7-916

Question n° 7-915 du 17 décembre 2020 : (Question posée en néerlandais)

L'intelligence artificielle est devenue un facteur déterminant pour l'avenir de l'humanité car elle ne cesse de transformer profondément la vie des individus et influence les collectivités humaines.

L'intelligence artificielle (IA) crée autant d'opportunités que de défis. Elle constitue l'un des grands défis technologiques de ce siècle. Si elle offre des possibilités considérables à la société et à l'individu, elle influence également les normes que protège le Conseil de l'Europe : les droits de l'homme, la démocratie et l'État de droit. Il est dès lors capital de trouver le juste équilibre entre la limitation des risques inhérents à l'intelligence artificielle et l'exploitation maximale des avantages que celle-ci peut offrir pour améliorer la vie de tout un chacun (voir le rapport du Conseil de l'Europe à ce sujet :

https://pace.coe.int/fr/files/28723/html)

L'utilisation d'applications de l'intelligence artificielle dans les systèmes de police et de justice pénale présente des risques particuliers pour les droits humains. Cela s'explique surtout par l'importance des décisions qui peuvent être prises au moyen d'algorithmes : des décisions relatives à la surveillance, aux perquisitions et à la saisie, à l'arrestation, à la détention, à la condamnation, à la libération sous caution ou libération conditionnelle, etc.

Les principes éthiques revêtent eux aussi une importance primordiale dans l'utilisation de l'intelligence artificielle. L'utilisation de l'IA dans les systèmes de police et de justice pénale risque d'être à de nombreux égards incompatible avec les principes éthiques fondamentaux. Si l'utilisation de l'IA dans les systèmes de police et de justice pénale présente des avantages importants lorsqu'elle est correctement réglementée, elle peut avoir une incidence particulièrement grave sur les droits de l'homme dans le cas contraire.

Les systèmes d'IA peuvent être fournis par des entreprises privées, qui peuvent invoquer leurs droits de propriété intellectuelle pour refuser l'accès au code source. Ces entreprises peuvent même acquérir la propriété des données traitées par le système, au détriment de l'institution publique qui fait appel à leurs services.

Les systèmes d'IA sont formés à partir d'énormes quantités de données, qui peuvent être entachées de préjugés de longue date, notamment par une corrélation indirecte entre certaines variables prédictives et des pratiques discriminatoires (comme l'utilisation du code postal pour identifier une communauté ethnique traditionnellement soumise à un traitement discriminatoire).

Les exemples de principes éthiques fondamentaux pouvant être mis à mal sont infinis. Il est donc crucial que l'introduction de systèmes d'intelligence artificielle soit correctement réglementée.

Nous trouvons dans d'autres pays européens des exemples d'utilisation d'applications de l'intelligence artificielle. Ces applications englobent notamment la reconnaissance faciale, la police prédictive, l'identification de victimes potentielles d'actes criminels, l'évaluation des risques en matière de détention provisoire, de peine prononcée et de libération conditionnelle, ou encore l'identification d'affaires non résolues qui pourraient l'être aujourd'hui grâce aux technologies modernes de criminalistique.

En ce qui concerne le caractère transversal de la question : il s'agit d'une matière transversale partagée avec les Communautés puisque l'intelligence artificielle concerne la justice qui est une compétence des entités fédérées. En outre, les actions à développer afin de relever les défis de la numérisation des services et missions publics constituent une compétence partagée entre l'autorité fédérale et les entités fédérées, notamment en raison de la question du respect de la vie privée et de la sécurité.

Je souhaiterais dès lors obtenir une réponse aux questions suivantes.

1) Quel est votre point de vue sur l'utilisation de l'intelligence artificielle dans le système de police et de justice pénale belge ?

2) L'intelligence artificielle est-elle utilisée dans le système de police et de justice pénale belge ? Dans l'affirmative, de quelle manière ? Quelles fonctions remplit-elle ?

3) Envisagez-vous de recourir (davantage) aux systèmes d'intelligence artificielle ? Dans l'affirmative, pour quelle raison et pour quelles fonctions ? Dans la négative, pour quelle raison ?

4) Comment veillez-vous à ce que ces systèmes d'intelligence artificielle soient conformes aux principes éthiques fondamentaux, à savoir la transparence, la justice et l'équité (y compris la non-discrimination), la prise de décision par une personne, qui en est responsable, la sûreté et la sécurité, le respect de la vie privée et la protection des données ?

5) Étudierez-vous les pratiques d'autres pays européens en matière d'intelligence artificielle pour voir si celles-ci peuvent éventuellement être adoptées en Belgique ?

Réponse reçue le 26 janvier 2021 :

Au vu de la compétence de mon collègue Mathieu Michel, secrétaire d’État à la Digitalisation, chargé de la Simplification administrative, de la Protection de la vie privée et de la Régie des bâtiments, je souhaite tout d’abord préciser que la présente réponse a été coordonnée avec ce dernier.

L’utilisation de l’intelligence artificielle dans le cadre de la police et justice pénale constitue une réelle opportunité, notamment en matière d’État de droit, et offre un potentiel permettant d’améliorer l’accès à la Justice pour et par tous les citoyens et de faciliter le travail des professionnels de la Justice.

Cette transformation digitale doit être réalisée dans une approche centrée sur l’humain et dans le respect des droits fondamentaux du système judiciaire et des principes de l’État de droit. Elle doit également permettre l’adoption de décisions judiciaires de haute qualité et transparentes et assurer l’accès égal par tous les citoyens à la Justice.

Par la même occasion, l’utilisation des outils d’intelligence artificielle en matière de police et justice pénale constitue effectivement une application particulièrement sensible pour laquelle un cadre juridique clair et des mesures supplémentaires doivent être prévues afin d’assurer le respect des droits fondamentaux.

L’utilisation de l’intelligence artificielle requiert le respect de principes éthiques et juridiques garantissant la protection des données à caractère personnel ainsi que celle des droits et libertés fondamentaux.

Ces principes éthiques et règles juridiques devront être scrupuleusement respectés et ce, avant et lors de chaque utilisation de cette technologie.

J’ai bien pris connaissance des travaux du Conseil de l’Europe en matière d’intelligence artificielle et notamment le rapport du Conseil de l’Europe sur la Justice et les algorithmes dans le cadre plus spécifique de la justice pénale.

Outre ce rapport, plusieurs initiatives ont été lancées ces dernières années dans différentes institutions européennes afin d’encadrer l’utilisation de l’intelligence artificielle, en ce compris dans le cadre de la justice pénale parmi lesquelles:

– l’élaboration de recommandations par l’Organisation des Nations unies pour l’éducation, la science et la culture (United Nations Educational, Scientific and Cultural Organization – UNESCO) sur l’éthique de l’intelligence artificielle;

– l’élaboration de lignes directrices pour la reconnaissance faciale dans le cadre d’un sous-groupe de travail mis en place au sein du Comité européen de la protection des données;

– l’élaboration de lignes directrices pour la reconnaissance faciale dans le cadre du Comité consultatif de la Convention 108, au sein du Conseil de l’Europe;

– une étude, commandée par la commission des Libertés civiles, de la Justice et des Affaires intérieures (commission LIBE) du Parlement européen et intitulée «Intelligence artificielle et application de la loi», a été réalisée par la Vrije Universiteit Brussel (VUB) et publiée juillet 2020. Elle énumère les dangers de cette technologie et plaide pour un cadre juridique clair s’il est politiquement décidé de poursuivre le développement de cette technologie;

– l’Agence européenne des droits fondamentaux a publié en 2019 un rapport sur la reconnaissance faciale et les droits fondamentaux. Elle vient de publier ce 13 décembre 2020 un rapport sur l’intelligence artificielle et les droits fondamentaux qui réitère la sensibilité et les hauts risques liés à l’utilisation de ce type de technologie;

– la Commission européenne a par ailleurs continué ses travaux, suite à la publication de son Livre blanc sur l’intelligence artificielle, et entend déposer une initiative législative en matière d’intelligence artificielle au printemps 2021. Ce livre blanc met en exergue le fait que les technologies de reconnaissance faciale doivent être considérées comme des utilisations à haut risque de l’intelligence artificielle;

– enfin, le Conseil de l’Union européenne a adopté plusieurs conclusions sur la transformation digitale dans le cadre desquelles la nécessité d’un encadrement de l’utilisation de ce type de technologies est mentionnée.

Je suis attentivement l’ensemble de ces développements au niveau européen et international.

J’insiste régulièrement, dans le cadre des travaux européens et internationaux en la matière, sur l’importance d’exiger de la transparence, la qualité des données afin d’éviter le risque de biais, et l’exigence selon laquelle l’utilisation d’outils automatisés ne peut interférer avec l’indépendance judiciaire et implique dès lors que toute décision par une Cour doit faire l’objet d’un contrôle humain.

Ces éléments constituent autant d’obstacles qui doivent être surmontés avant d’envisager la généralisation des technologies d’intelligence artificielle dans le cadre de la police et justice pénale.