|
|
Vie privée - Intelligence artificielle (IA) - Profilage - Services publics - Chiffres et tendances
intelligence artificielle
service public
culture numérique
mégadonnées
protection de la vie privée
| 26/4/2024 | Envoi question (Fin du délai de réponse: 30/5/2024) |
| 21/5/2024 | Réponse |
Aussi posée à : question écrite 7-2299
Aussi posée à : question écrite 7-2300
Aussi posée à : question écrite 7-2301
Aussi posée à : question écrite 7-2302
Aussi posée à : question écrite 7-2303
Aussi posée à : question écrite 7-2304
Aussi posée à : question écrite 7-2305
Aussi posée à : question écrite 7-2307
Aussi posée à : question écrite 7-2308
Aussi posée à : question écrite 7-2309
Aussi posée à : question écrite 7-2310
Aussi posée à : question écrite 7-2311
Aussi posée à : question écrite 7-2312
Aussi posée à : question écrite 7-2313
Aussi posée à : question écrite 7-2314
Aussi posée à : question écrite 7-2315
Aussi posée à : question écrite 7-2316
Aussi posée à : question écrite 7-2317
Aussi posée à : question écrite 7-2318
Partout dans le monde, les pouvoirs publics recourent déjà à l'intelligence artificielle (IA) dans leurs activités quotidiennes.
Toutefois, le déploiement de l'IA varie sensiblement d'un pays à l'autre, sous l'effet de toute une série de facteurs.
Les autorités italiennes, par exemple, utilisent l'IA de différentes manières, par exemple en tant qu'agent conversationnel (chatbot) d'un service clientèle et pour lutter contre la fraude fiscale. Un agent conversationnel du ministère du Travail fournit des informations sur le revenu minimum garanti. Le recours à l'IA pour lutter contre la fraude fiscale, avec le système «Anonimometro» par exemple, s'est avéré fructueux grâce à l'automatisation des analyses et à l'utilisation de données pseudonymes. La prudence s'impose toutefois, surtout lors de l'implémentation de l'IA dans des communautés vulnérables. À Rome, l'IA est utilisée pour le contrôle des canalisations d'eau au moyen de capteurs et de l'apprentissage automatique (machine learning).
L'application de l'IA dans les services publics est entravée par les coupes budgétaires et par une administration archaïque. Les agents conversationnels ont leurs limites et ne peuvent remplacer totalement l'interaction humaine, surtout au niveau de la rue, là où les fonctionnaires procèdent à des ajustements pour tenir compte de situations individuelles.
Des agents des services publics expérimentent individuellement des outils d'IA générative pour améliorer l'efficacité de leur travail. L'utilisation de l'IA dans les processus législatifs pose divers défis, certaines applications spécifiques nécessitant peut-être des modèles adaptés. La Chambre des représentants italienne expérimente l'IA dans le processus législatif. La «Loi sur l'IA» de l'Union européenne (UE) devrait inciter les États membres à adopter l'IA avec enthousiasme, mais en Italie, on s'attend à ce que la réaction reste timide en l'absence d'investissements substantiels. Le public est peu sensibilisé et les services publics peu enclins à utiliser l'IA, ce qui ralentit l'adoption de l'IA dans les administrations.
Le 10 février 2023, le Sénat a adopté la proposition de résolution relative à la mise en place d'une autorité de contrôle des algorithmes de M. Daems et consorts (doc. Sénat, n° 7-328/4).
Lors de la formation du gouvernement néerlandais en 2021, la déclaration de politique générale qui accompagne l'accord de gouvernement mentionnait que le pays miserait sur le développement du numérique. En plus des annonces habituelles, dont la promesse de poursuivre les efforts pour combler le fossé numérique et améliorer la sécurité sur internet, la déclaration indique qu'une autorité de contrôle des algorithmes sera créée pour prendre des dispositions légales garantissant que les algorithmes seront contrôlés en ce qui concerne la transparence, la discrimination et l'arbitraire.
Cet appel n'arrive pas par hasard: le scandale des allocations familiales qui a secoué les Pays-Bas a montré que le fisc se fiait à des algorithmes que lui-même était à peine capable de comprendre et encore moins d'expliquer.
Aux États-Unis aussi, où les algorithmes sont déjà beaucoup plus répandus dans les organismes publics, il est apparu que plusieurs de ces services ne disposaient pas de moyens suffisants pour évaluer les algorithmes qu'eux-mêmes utilisaient.
En ce qui concerne le caractère transversal de la présente question: les différents gouvernements et maillons de la chaîne de sécurité se sont accordés sur les phénomènes qui devront être traités en priorité au cours des quatre prochaines années. Ceux-ci sont définis dans la Note-cadre de sécurité intégrale et dans le Plan national de sécurité 2022-2025 et ont été discutés lors d'une conférence interministérielle à laquelle les acteurs de la police et de la justice ont également participé. Il s'agit donc d'une matière transversale qui relève également des Régions, le rôle de ces dernières se situant surtout dans le domaine de la prévention.
Je souhaiterais dès lors vous poser les questions suivantes :
1) L'intelligence artificielle ou les algorithmes sont-ils déjà utilisés en Belgique pour traiter des affaires publiques? Si oui, à quels niveaux de pouvoir? Pouvez-vous préciser le nombre d'instances concernées pour chacun des niveaux de pouvoir? Quels sont les services publics qui recourent à ces technologies? Pouvez-vous préciser la fonction remplie par les applications de l'IA au sein de cet ensemble?
Si ces technologies sont déjà employées, à quels niveaux le sont-elles? À combien estime-t-on les coûts actuellement? Quels sont les objectifs poursuivis? Quand l'implémentation est-elle prévue concrètement?
Si ces technologies ne sont pas encore employées, envisage-t-on de prendre de telles mesures à l'avenir? Si oui, de quelle manière?
2) Quel est le but de ces programmes d'extraction de données (scraping)? Quels sont les programmes spécifiquement utilisés? Quelles fonctions de ces programmes sont utilisées ? Pouvez-vous fournir plus d'explications à ce sujet?
Pouvez-vous préciser quelles données sont utilisées et/ou consultées? Est-ce le cas aussi pour des banques de données des pouvoirs publics? Si oui, lesquelles? Utilise-t-on également des techniques d'extraction pour les profils de médias sociaux? Si oui, de quelle manière?
3) Des services tels que l'administration fiscale ou des agences connexes utilisent-ils l'IA pour extraire des données concernant des matières comme l'impôt des personnes physiques ou l'impôt des sociétés? Si oui, de quelle manière et avec quels programmes? Quels sont les résultats à cet égard? Quel est en général le volume de données extraites par profil et de quelles données s'agit-il? Cette opération se fait-elle automatiquement?
4) Les services publics recourent-ils aux grands modèles de langage (large language models - LLM), aux agents conversationnels (chatbots) et à d'autres applications pilotées par l'IA? Si oui, combien au total? Existe-t-il des applications ou processus spécifiques pour lesquels l'IA sert à prendre des décisions ou à accomplir des tâches au sein de ces services? Depuis combien de temps ces systèmes sont-ils déjà en usage? Dans quelle mesure l'emploi de l'IA générative est-il généralisé?
5) Les services publics recourent-ils actuellement à des techniques d'indexation de données (webcrawling) et d'extraction de données (datascrapping) pour obtenir des informations? Si oui, combien au total? Pouvez-vous donner des exemples spécifiques de la manière dont ces technologies sont appliquées? Quels sont les services qui emploient de telles techniques et comment celles-ci s'intègrent-elles dans le flux opérationnel (workflow)? Des procédures spécifiques ont-elles été mises en place pour vérifier et valider ces informations?
6) Existe-t-il des collaborations avec des parties externes ou des fournisseurs de technologies pour l'implémentation de telles technologies? Si oui, comment le respect de la vie privée et la sécurité des données collectées sont-ils garantis lors de ces collaborations?
7) Quelles mesures prend-on pour veiller à ce que les applications de l'IA au sein des services publics n'aient pas d'effets négatifs sur des communautés ou groupes vulnérables? L'IA est-elle utilisée actuellement pour lutter contre la fraude fiscale et d'autres formes d'abus financiers, comme c'est le cas en Italie? Si oui, de quelle manière et dans quelle mesure l'IA influence-t-elle la prise de décision ? Est-il encore question d'une intervention humaine? Si non, pourquoi?
8) De quelle manière le public belge perçoit-il le recours à l'IA dans les services publics et quels efforts sont fournis pour améliorer la sensibilisation et la compréhension? Quelles stratégies envisage-t-on ou met-on en œuvre pour faire en sorte que l'intégration de l'IA dans les administrations belges se déroule de manière éthique et responsable?
1) Voir également la question écrite no 7-2286 pour une vue d’ensemble des applications IA au sein de la Justice et du service public fédéral (SPF) Justice. Il est important d’ajouter à cet égard qu’une distinction doit être établie entre:
– les projets d’IA propres à Justice (comme JustPublish, Alice, etc.);
– des applications d’IA générale acquises comme Text2Speech, OCR, etc., dont l’achat est souvent réalisé par plusieurs services publics fédéraux ensemble;
– des applications gratuites qui utilisent également l’IA (comme DeepL, Google Translate, Google Maps, etc.). L’utilisation de ces outils est autorisée, mais des directives claires ont été données aux collaborateurs. Des efforts de sensibilisation seront également réalisés à l’avenir.
2) Les programmes de «scraping» actuellement utilisés comme «proof of concept» (PoC) servent uniquement à «moissonner» le propre internet public et l’intranet de la Justice (comme des «html», des «pdf», etc.), de manière à ce qu’un ChatBot puisse aider les citoyens ou les membres du personnel à effectuer des recherches sur les sites web de la Justice. Aucune technique de «scraping» n’est utilisée au SPF Justice pour des profils de médias sociaux.
3) Sans objet pour le ministre de la Justice. Cela relève de la compétence du ministre des Finances.
4) Au sein de la Justice, des LLM (large language model) sont utilisés dans le cadre d’un nombre limité de PoC.
Les LLM ci-dessous seront (peut-être) lancés:
– JustFamily: recherches dans des informations juridiques pertinentes et la législation dans le cadre d’une procédure de divorce;
– JustPublish (Moniteur belge): recherches et résumés d’informations juridiques pertinentes et de législation;
– JustJudgment, qui permet d’anonymiser les jugements (de sorte que les données à caractère personnel sont supprimées). C’est nécessaire pour alimenter de futurs systèmes d’IA, mais également pour poursuivre la recherche (scientifique) sur la criminalité, la jurisprudence, etc. JustMask est l’extension qui soutiendra la pseudonymisation des données personnelles dans des jugements et arrêts avant leur autres publication;
– coopération avec l’Université libre de Bruxelles (ULB) et la Vrije Universiteit Brussel (VUB) et six autres États membres européens dans le cadre d’un projet européen visant à améliorer l’accès à la Justice et à réduire les coûts grâce à l’IA. Ce projet est axé sur le droit du travail.
Les actuels PoC d’IA ne prennent pas eux-mêmes de décisions automatiques et ne reprennent donc pas de tâches. Ils n’ont qu’une fonction d’appui.
5) Aucun projet de PoC n’a encore été déposé pour le «web crawling» et des techniques de «data scraping» à usage externe (comme les médias sociaux, etc.) au sein des services du SPF Justice.
6) C’est déterminé par PoC d’IA. La protection de la vie privée et des données collectées est garantie en ce sens que chaque PoC est évalué au préalable par les différents services internes (architecture, Security, RGPD, etc.). Toutes les données sont gérées dans l’environnement de la Justice.
Le SPF Justice se fait assister par des parties externes, des universités comme la VUB ou l’ULB ou des fournisseurs de technologie pour le soutien, la sécurité, etc.
7) La Justice est liée au pacte sur l’IA de l’Union européenne et une législation belge plus stricte sur l’IA entrera bientôt en vigueur (préparée par AI4Belgium, en collaboration avec la Justice). Tous les projets d’IA sont évalués en interne sur la base du RGPD, de la discrimination, de l’éthique, de la sécurité, etc.
C’est pourquoi un «Competence Centre for AI» a été créé récemment au sein du SPF Justice. Ce service a pour objectif d’être conforme à la législation (pacte sur l’IA de l’UE, législation selon AI4Belgium, RGPD, etc.), de répertorier et gérer toutes les applications IA existantes au sein du SPF Justice et d’élaborer la stratégie générale en matière d’IA.
Dans un premier temps, il s’agit uniquement de PoC d’IA à assistance humaine, c’est-à-dire que les résultats de l’IA seront soumis à un collaborateur qui examinera et interprétera les données. Il n’y a donc pas de décisions autonomes de l’IA, c’est toujours un collaborateur qui assume la responsabilité finale. Un service ou une personne doit donc toujours pouvoir fonctionner sans le module d’IA (puisqu’il s’agit uniquement de PoC et que la fiabilité et la valeur ajoutée pour une personne ne sont pas encore certaines). L’IA est et reste donc pour l’instant un outil supplémentaire.
L’alimentation d’Alice (le système de détection de fraude par des entreprises malhonnêtes) sera basée sur des jugements anonymisés. L’anonymisation de jugements est un futur autre projet d’IA appelé JustMask (dans le cadre du projet JustJudgment), dans lequel un greffier indiquera quelles données doivent être anonymisées en plus dans le jugement. La responsabilité finale ne repose donc pas sur le système d’IA, mais toujours sur un collaborateur.
Il est encore trop tôt pour passer à un système d’IA entièrement automatisé pour nos PoC d’IA (aucune règle n’a encore été définie à ce sujet, sur ce que devrait être la qualité du système d’IA, mais pour l’instant ce n’est pas à l’ordre du jour).
8) Le SPF Justice ne dispose pas d’information à ce sujet.