Version à imprimer bilingue Version à imprimer unilingue

Question écrite n° 7-916

de Rik Daems (Open Vld) du 17 décembre 2020

au secrétaire d'État à la Digitalisation, chargé de la Simplification administrative, de la Protection de la vie privée et de la Régie des bâtiments, adjoint au Premier ministre

Intelligence artificielle - Systèmes de police et de justice pénale - Utilisation - Principes éthiques fondamentaux - Pratiques dans d'autres pays européens

intelligence artificielle
police
éthique
application de l'informatique
protection des données
protection de la vie privée
sécurité des systèmes d'information

Chronologie

17/12/2020 Envoi question (Fin du délai de réponse: 21/1/2021 )
21/1/2021 Réponse

Aussi posée à : question écrite 7-915

Question n° 7-916 du 17 décembre 2020 : (Question posée en néerlandais)

L'intelligence artificielle est devenue un facteur déterminant pour l'avenir de l'humanité car elle ne cesse de transformer profondément la vie des individus et influence les collectivités humaines.

L'intelligence artificielle (IA) crée autant d'opportunités que de défis. Elle constitue l'un des grands défis technologiques de ce siècle. Si elle offre des possibilités considérables à la société et à l'individu, elle influence également les normes que protège le Conseil de l'Europe : les droits de l'homme, la démocratie et l'État de droit. Il est dès lors capital de trouver le juste équilibre entre la limitation des risques inhérents à l'intelligence artificielle et l'exploitation maximale des avantages que celle-ci peut offrir pour améliorer la vie de tout un chacun (voir le rapport du Conseil de l'Europe à ce sujet :

https://pace.coe.int/fr/files/28723/html)

L'utilisation d'applications de l'intelligence artificielle dans les systèmes de police et de justice pénale présente des risques particuliers pour les droits humains. Cela s'explique surtout par l'importance des décisions qui peuvent être prises au moyen d'algorithmes : des décisions relatives à la surveillance, aux perquisitions et à la saisie, à l'arrestation, à la détention, à la condamnation, à la libération sous caution ou libération conditionnelle, etc.

Les principes éthiques revêtent eux aussi une importance primordiale dans l'utilisation de l'intelligence artificielle. L'utilisation de l'IA dans les systèmes de police et de justice pénale risque d'être à de nombreux égards incompatible avec les principes éthiques fondamentaux. Si l'utilisation de l'IA dans les systèmes de police et de justice pénale présente des avantages importants lorsqu'elle est correctement réglementée, elle peut avoir une incidence particulièrement grave sur les droits de l'homme dans le cas contraire.

Les systèmes d'IA peuvent être fournis par des entreprises privées, qui peuvent invoquer leurs droits de propriété intellectuelle pour refuser l'accès au code source. Ces entreprises peuvent même acquérir la propriété des données traitées par le système, au détriment de l'institution publique qui fait appel à leurs services.

Les systèmes d'IA sont formés à partir d'énormes quantités de données, qui peuvent être entachées de préjugés de longue date, notamment par une corrélation indirecte entre certaines variables prédictives et des pratiques discriminatoires (comme l'utilisation du code postal pour identifier une communauté ethnique traditionnellement soumise à un traitement discriminatoire).

Les exemples de principes éthiques fondamentaux pouvant être mis à mal sont infinis. Il est donc crucial que l'introduction de systèmes d'intelligence artificielle soit correctement réglementée.

Nous trouvons dans d'autres pays européens des exemples d'utilisation d'applications de l'intelligence artificielle. Ces applications englobent notamment la reconnaissance faciale, la police prédictive, l'identification de victimes potentielles d'actes criminels, l'évaluation des risques en matière de détention provisoire, de peine prononcée et de libération conditionnelle, ou encore l'identification d'affaires non résolues qui pourraient l'être aujourd'hui grâce aux technologies modernes de criminalistique.

En ce qui concerne le caractère transversal de la question : il s'agit d'une matière transversale partagée avec les Communautés puisque l'intelligence artificielle concerne la justice qui est une compétence des entités fédérées. En outre, les actions à développer afin de relever les défis de la numérisation des services et missions publics constituent une compétence partagée entre l'autorité fédérale et les entités fédérées, notamment en raison de la question du respect de la vie privée et de la sécurité.

Je souhaiterais dès lors obtenir une réponse aux questions suivantes.

1) Quel est votre point de vue sur l'utilisation de l'intelligence artificielle dans le système de police et de justice pénale belge ?

2) L'intelligence artificielle est-elle utilisée dans le système de police et de justice pénale belge ? Dans l'affirmative, de quelle manière ? Quelles fonctions remplit-elle ?

3) Envisagez-vous de recourir (davantage) aux systèmes d'intelligence artificielle ? Dans l'affirmative, pour quelle raison et pour quelles fonctions ? Dans la négative, pour quelle raison ?

4) Comment veillez-vous à ce que ces systèmes d'intelligence artificielle soient conformes aux principes éthiques fondamentaux, à savoir la transparence, la justice et l'équité (y compris la non-discrimination), la prise de décision par une personne, qui en est responsable, la sûreté et la sécurité, le respect de la vie privée et la protection des données ?

5) Étudierez-vous les pratiques d'autres pays européens en matière d'intelligence artificielle pour voir si celles-ci peuvent éventuellement être adoptées en Belgique ?

Réponse reçue le 21 janvier 2021 :

1) De façon générale, l’utilisation de l’intelligence artificielle constitue une réelle opportunité et offre un potentiel permettant d’améliorer l’accès aux services publics pour tous les citoyens. Cette transformation digitale doit être réalisée dans une approche centrée sur l’humain, et dans le respect des droits fondamentaux et des principes de l’État de droit.

2) Pour une réponse spécifique à cette question, je vous invite à vous adresser à mes collègues, le ministre de la Justice et le ministre de l’Intérieur.

3) Pour une réponse spécifique à cette question, je vous invite à vous adresser à mes collègues, le ministre de la Justice et le ministre de l’Intérieur.

4) L’utilisation de l’intelligence artificielle demande le respect de principes éthiques et juridiques garantissant la protection des données à caractère personnel ainsi que celle des droits et libertés fondamentaux. Pour répondre au respect de ces principes, des initiatives telles que AI4Belgium ont été lancées. Cette démarche par exemple a pour but d’identifier les questions éthiques dans le déploiement des technologies d’intelligence artificielle. Ainsi, le groupe de travail au sein d’AI4Belgium Law & Ethics organise régulièrement des sessions d’information et de réflexion sur ces sujets et également des concertations au niveau national sur les positions à prendre sur ces questions vis-à-vis des institutions européennes, mais aussi vis-à-vis d’autres organismes internationaux au niveau mondial, tels que l’Organisation de coopération et de développement économiques (OCDE) ou l’Organisation des Nations unies pour l’éducation, la science et la culture (United Nations Educational, Scientific and Cultural Organization – UNESCO).

5) Au niveau du benchmarking européen et international, j’ai pris connaissance des travaux du Conseil de l’Europe en matière d’intelligence artificielle et notamment le rapport du Conseil de l’Europe sur la Justice et les algorithmes dans le cadre plus spécifique de la justice pénale, ainsi que des différentes initiatives été lancées ces dernières années au niveau européen ou de Nations unies afin d’encadrer l’utilisation de l’intelligence artificielle, en ce compris dans le cadre de la justice pénale.