|
|
Vie privée - IA - Profilage - Services publics - Chiffres et tendances
intelligence artificielle
ministère
culture numérique
mégadonnées
| 26/4/2024 | Envoi question (Fin du délai de réponse: 30/5/2024) |
| 21/5/2024 | Réponse |
Aussi posée à : question écrite 7-2279
Aussi posée à : question écrite 7-2280
Aussi posée à : question écrite 7-2281
Aussi posée à : question écrite 7-2282
Aussi posée à : question écrite 7-2283
Aussi posée à : question écrite 7-2284
Aussi posée à : question écrite 7-2285
Aussi posée à : question écrite 7-2287
Aussi posée à : question écrite 7-2288
Aussi posée à : question écrite 7-2289
Aussi posée à : question écrite 7-2290
Aussi posée à : question écrite 7-2291
Aussi posée à : question écrite 7-2292
Aussi posée à : question écrite 7-2293
Aussi posée à : question écrite 7-2294
Aussi posée à : question écrite 7-2295
Aussi posée à : question écrite 7-2296
Aussi posée à : question écrite 7-2297
Aussi posée à : question écrite 7-2298
Partout dans le monde, les pouvoirs publics recourent déjà à l'intelligence artificielle (IA) dans leurs activités quotidiennes.
Toutefois, le déploiement de l'IA varie très fort d'un pays à l'autre, sous l'effet de toute une série de facteurs.
Les autorités italiennes, par exemple, utilisent l'IA de différentes manières, par exemple en tant qu'agent conversationnel (chatbot) d'un service clientèle et pour lutter contre la fraude fiscale. Un agent conversationnel du ministère du Travail fournit des informations sur le revenu minimum garanti. Le recours à l'IA pour lutter contre la fraude fiscale, avec le système "Anonimometro", par exemple, s'est avéré fructueux grâce à l'automatisation des analyses et à l'utilisation de données pseudonymes. La prudence s'impose toutefois, surtout lors de l'implémentation de l'IA dans des communautés vulnérables. À Rome, l'IA est utilisée pour le contrôle des canalisations d'eau au moyen de capteurs et de l'apprentissage automatique (machine learning).
L'application de l'IA dans les services publics est entravée par les coupes budgétaires et par une administration archaïque. Les agents conversationnels ont leurs limites et ne peuvent remplacer totalement l'interaction humaine, surtout au niveau de la rue, là où les fonctionnaires procèdent à des ajustements pour tenir compte de situations individuelles.
Des agents des services publics expérimentent individuellement des outils d'IA générative pour améliorer l'efficacité de leur travail. L'utilisation de l'IA dans les processus législatifs pose divers défis, certaines applications spécifiques nécessitant peut-être des modèles adaptés. La Chambre des représentants italienne expérimente l'IA dans le processus législatif. Le "Règlement sur l'IA de l'UE" devrait inciter les États membres à adopter l'IA avec enthousiasme, mais en Italie, on s'attend à ce que la réaction reste timide en l'absence d'investissements substantiels. Le public est peu sensibilisé et les services publics peu enclins à utiliser l'IA, ce qui ralentit l'adoption de l'IA dans les administrations.
Le 10 février 2023, le Sénat a adopté la proposition de résolution relative à la mise en place d'une autorité de contrôle des algorithmes de M. Daems et consorts (doc. Sénat, n° 7 328/4).
Lors de la formation du gouvernement néerlandais en 2021, la déclaration de politique générale qui accompagne l'accord de gouvernement mentionnait que le pays miserait sur le développement du numérique. En plus des annonces habituelles, dont la promesse de poursuivre les efforts pour combler le fossé numérique et améliorer la sécurité sur internet, la déclaration indique qu'une autorité de contrôle des algorithmes sera créée pour prendre des dispositions légales garantissant que les algorithmes seront contrôlés en ce qui concerne la transparence, la discrimination et l'arbitraire.
Cet appel n'arrive pas par hasard: le scandale des allocations familiales qui a secoué les Pays-Bas a montré que le fisc se fiait à des algorithmes que lui-même était à peine capable de comprendre et encore moins d'expliquer.
Aux États-Unis aussi, où les algorithmes sont déjà beaucoup plus répandus dans les organismes publics, il est apparu que plusieurs de ces services ne disposaient pas de moyens suffisants pour évaluer les algorithmes qu'eux-mêmes utilisaient.
La présente question écrite a un caractère transversal. Les différents gouvernements et maillons de la chaîne de sécurité se sont accordés sur les phénomènes qui devront être traités en priorité au cours des quatre prochaines années. Ceux-ci sont définis dans la Note-cadre de sécurité intégrale et dans le Plan national de sécurité 2022-2025 et ont été discutés lors d'une conférence interministérielle à laquelle les acteurs de la police et de la justice ont également participé. Il s'agit donc d'une matière transversale qui relève également des Régions, le rôle de ces dernières se situant surtout dans le domaine de la prévention.
Je souhaiterais dès lors obtenir une réponse aux questions suivantes:
1) À l'heure actuelle, votre cellule stratégique recourt-elle à l'intelligence artificielle? Dans l'affirmative, pourriez-vous décrire en détail les tâches ou les objectifs spécifiques pour lesquels l'IA est appliquée?
2) Quelle utilisation spécifique les services publics fédéraux relevant de votre compétence font-ils de tels programmes? Quels logiciels emploient-ils? Quel en est le coût? En élargissent-ils l'utilisation? Dans l'affirmative, de quelle manière et pour quelles raisons?
3) Pouvez-vous indiquer l'objectif poursuivi par l'utilisation de l'IA au sein de vos différents services publics fédéraux et comment elle contribue à la mise en œuvre des notes de politique? À l'heure actuelle, vos services publics fédéraux utilisent-ils des applications d'IA et, dans l'affirmative, de quelles applications spécifiques s'agit-il?
4) Quel est le rôle actuel et escompté de l'IA dans la mise en œuvre des notes de politique et au sein des différents programmes des services publics fédéraux? Quels types de données servent de base aux applications d'IA que les services publics fédéraux utilisent actuellement ou qu'ils comptent utiliser dans le futur?
5) Les algorithmes utilisés au sein de votre cellule stratégique et de vos départements sont-ils transparents? Pourriez-vous fournir des détails sur le niveau de transparence et les procédures suivies pour garantir que les décisions prises par l'IA sont à la portée des parties concernées et du public?
6) Pouvez-vous fournir une liste des projets en cours liés à l'intelligence artificielle relevant de vos compétences et départements? Quel est le calendrier prévu pour la mise en œuvre de ces projets?
7) Dans quels buts spécifiques les projets d'IA en cours ou futurs sont-ils ou seront-ils appliqués au sein de votre cellule stratégique et/ou de vos départements? Pourriez-vous expliquer en détail comment ces projets contribuent à améliorer votre politique et vos services? Des objectifs préétablis ont-ils été définis? Ont-ils déjà été évalués?
1) La cellule stratégique ne fait pas appel à l’intelligence artificielle (IA) pour l’instant, mais elle fera peut-être partie des projets pilotes «Proof of Concept» dont il est question ci-dessous.
2) La Justice n’utilise pas encore l’intelligence artificielle, mais a lancé quelques projets pilotes («Proof of Concept» ou PoC). Ceux-ci sont en phase de démarrage, certains sont déjà dans l’environnement d’acceptation, mais aucun n’est déjà utilisé dans l’environnement de production. L’objectif est d’examiner si ces applications et outils IA peuvent apporter une valeur ajoutée à la Justice, aux clients, ou aux citoyens.
Le coût et l’éventuelle extension ne sont pas encore connus. L’objectif est d’obtenir une meilleure vue à la fin des PoC.
Trois PoC d’IA sont en cours pour le moment:
– Alice: au ministère public (parquet d’Anvers), pour la détection de fraude financière par des entreprises malhonnêtes (comme une comptabilité artificielle, des factures fictives, etc.). Les données à caractère personnel sont anonymisées, mais peuvent être demandées dans le cadre d’une instruction. Comme il s’agit d’un projet pilote, un nombre limité de jugements sera fourni par le chef de projet concerné au parquet. Après évaluation du projet pilote, les données à caractère personnel traitées seront effacées. Les résultats du projet pilote ne donneront pas lieu à des poursuites;
– un robot de recherche est utilisé pour la modernisation du Moniteur belge (JustPublish). Ce robot de recherche explore le Moniteur belge et donne comme résultat un résumé qui renvoie à l’article complet. Le projet JustFamily (e-service pour entamer une procédure de divorce) a six finalités. Dans le cadre de la finalité cinq, l’IA sera utilisée pour effectuer des recherches limitées au sein du tribunal de la famille. Il ne s’agit pas de recherches sur le fond, mais uniquement des recherches sur la législation et les procédures publiées sur le ou les sites web de la Justice
– le projet JustFamily (service en ligne pour l’introduction d’une procédure de divorce) comporte une composante IA ayant pour but des recherches limitées sur la procédure de divorce au sein du tribunal de la famille. Il ne s’agit pas de recherches sur le fond, mais uniquement des recherches sur la législation et les procédures publiées sur le ou les sites web de la Justice.
PoC d’IA devant encore démarrer (pas encore de validation):
– MS CoPilot pour Office (dix à quinze personnes, 35 euros par personne pour une année complète). Pas encore de «Use Case» déterminé;
– Gen AI Journey. Pas encore de «Use Case» déterminé (en fonction du «Use Case», cela peut être une alternative à MS CoPilot, JustFamily, etc.). Il coûte 2 euros par utilisateur et par mois;
– JustJudgment, qui permet d’anonymiser les jugements (de sorte que les données à caractère personnel sont supprimées). C’est nécessaire pour alimenter de futurs autres systèmes d’IA, mais également pour poursuivre la recherche (scientifique) sur la criminalité, la jurisprudence, etc. JustMask est l’extension qui soutiendra la pseudonymisation des données personnelles dans des jugements et arrêts avant leur publication;
– coopération avec l’Université libre de Bruxelles (ULB) et laVrije Universiteit Brussel (VUB) et six autres États membres européens dans le cadre d’un projet européen visant à améliorer l’accès à la Justice et à réduire les coûts grâce à l’IA. Ce projet est axé sur le droit du travail.
Le pacte sur l’IA de l’Union européenne a rendu le concept d’IA très large. C’est pourquoi le nouveau «Competence Centre for AI» vérifiera rétroactivement si des applications IA sont déjà utilisées (par exemple, par les caméras dans les prisons). Ce centre compte non seulement des spécialistes techniques de l’IT ( information technology, technologies de l’information), mais aussi des juristes, des scientifiques de données, des décideurs politiques, des experts en sécurité et des représentants du business.
3) Voir également le point 2) de la question.
Des services, des collaborateurs stratégiques, etc., peuvent indiquer des «Use Cases», qui peuvent être pris en considération pour des PoC d’IA. Chaque «Use Case» fait l’objet d’un processus au cours duquel un certain nombre d’éléments sont examinés, comme le budget, le RGPD (General Data Protection Regulation), la discrimination, l’éthique, la sécurité, etc., mais aussi et surtout la contribution au plan de management et aux notes de politique. Le budget et les ressources sont limités, une évaluation est donc réalisée sur la base de différents critères. À cet égard, le premier et principal critère est l’avantage pour le business et la contribution aux objectifs organisationnels.
4) L’objectif premier de l’utilisation de l’IA est d’améliorer les services de la Justice. Cela peut se faire en déchargeant les collaborateurs des tâches répétitives afin qu’ils aient à nouveau plus de temps à consacrer au fond et à l’aspect humain de la Justice. L’IA peut également être utilisée pour analyser de vastes ensembles de données utiles à l’élaboration de la politique. Les types de données qui constituent la base des applications IA sont les suivants:
– documents juridiques: lois, décisions judiciaires, etc.;
– documents stratégiques.
Il est important de noter que l’utilisation de l’IA au sein des services publics fédéraux doit être gérée scrupuleusement afin de veiller à ce que des considérations éthiques, la protection de la vie privée et la transparence soient garanties. Il s’agit notamment de garantir l’exactitude et l’impartialité des modèles IA, de protéger la vie privée des personnes et de veiller à ce que les processus décisionnels fondés sur l’IA soient justifiés.
L’année dernière, le groupe de travail Ethics & Law d’AI4Belgium (le programme d’IA du service public fédéral Stratégie & Appui (SPF BOSA) a entrepris de rédiger une charte belge pour une utilisation responsable de l’IA dans les services publics. La première version de cette charte a été publiée récemment.
Cette charte poursuit les objectifs suivants:
– établir des principes éthiques pour la mise en œuvre de l’IA dans les services publics;
– expliquer aux citoyens comment les services publics utilisent l’IA et veiller à ce qu’ils aient confiance en elle;
– sensibiliser le personnel de la fonction publique aux aspects éthiques de l’utilisation de l’IA et à son impact sur les droits de l’homme, la démocratie et l’État de droit;
– responsabiliser les fonctionnaires concernant l’utilisation de l’IA;
– envoyer aux citoyens le signal que les services publics belges montrent l’exemple en matière de technologie numérique, qu’ils placent les personnes au premier plan à tout moment et que la technologie n’est qu’un outil pour améliorer le bien-être des citoyens.
5) Dans les PoC actuels, il n’est pas encore prévu d’outils pour contrôler la qualité des systèmes d’IA (afin d’éviter les hallucinations, etc.), pour maintenir la qualité ou pour vérifier comment le système d’IA est parvenu à sa réponse. Une fois les PoC terminés avec succès, il convient d’examiner comment les loggings et les algorithmes peuvent être mis à disposition de manière transparente, en précisant à titre complémentaire comment la réponse a été construite.
6) Voir le point 2) de la question pour un aperçu des applications IA.
La grande force des systèmes d’IA actuels est de simplifier la reconnaissance de formes et les tâches répétitives. Dans ce domaine, l’IA a fait ses preuves. Mais l’interaction humaine reste nécessaire. Les PoC d’IA actuels ne sont donc qu’un soutien et chaque résultat doit encore être validé par le business owner, qui porte la responsabilité finale.
7) Analyse de documents juridiques: l’IA peut être mise en œuvre pour analyser de grands volumes de documents juridiques, comme des lois, des décisions judiciaires et la jurisprudence, et pour en extraire des informations pertinentes. Cela peut contribuer à accélérer la recherche juridique, à identifier des précédents pertinents et à améliorer la qualité de la prise de décision juridique.
Meilleur accès à la Justice: grâce à des chatbots ou à des assistants virtuels pilotés par l’IA, la Justice peut améliorer l’accès des citoyens aux informations et services juridiques. Il peut s’agir, par exemple, de fournir des informations (juridiques) correctes, de répondre à des questions fréquemment posées et de faciliter les procédures juridiques en ligne. Ces chatbots seront également capables d’expliquer les informations juridiques aux citoyens dans un langage compréhensible, sans que cela se fasse au détriment de l’exactitude juridique des informations. De cette manière, la Justice deviendra plus accessible, même pour les non-spécialistes.
Amélioration de l’efficience: L’IA peut être mise en œuvre pour automatiser des tâches administratives au sein de la Justice, comme le traitement de documents juridiques, la gestion de dossiers judiciaires et la planification d’audiences. Cela peut réduire la charge de travail de collaborateurs et améliorer l’efficience de processus.
Les objectifs de ces projets d’IA peuvent varier en fonction de l’application spécifique, mais ils visent en général à améliorer l’efficience opérationnelle, à accroître l’efficacité des interventions et des programmes, à promouvoir une prise de décision juste et équitable et à améliorer l’accès à la justice pour tous les citoyens. Il est important que ces projets soient évalués régulièrement afin d’estimer dans quelle mesure ils atteignent leurs objectifs, mais aussi afin d’identifier et de relever d’éventuels défis éthiques, juridiques ou opérationnels.