|
|
Vie privée - Intelligence artificielle (IA) - Profilage - Services publics - Chiffres et tendances
intelligence artificielle
service public
culture numérique
mégadonnées
protection de la vie privée
| 26/4/2024 | Envoi question (Fin du délai de réponse: 30/5/2024) |
| 29/5/2024 | Réponse |
Aussi posée à : question écrite 7-2299
Aussi posée à : question écrite 7-2300
Aussi posée à : question écrite 7-2301
Aussi posée à : question écrite 7-2302
Aussi posée à : question écrite 7-2303
Aussi posée à : question écrite 7-2304
Aussi posée à : question écrite 7-2306
Aussi posée à : question écrite 7-2307
Aussi posée à : question écrite 7-2308
Aussi posée à : question écrite 7-2309
Aussi posée à : question écrite 7-2310
Aussi posée à : question écrite 7-2311
Aussi posée à : question écrite 7-2312
Aussi posée à : question écrite 7-2313
Aussi posée à : question écrite 7-2314
Aussi posée à : question écrite 7-2315
Aussi posée à : question écrite 7-2316
Aussi posée à : question écrite 7-2317
Aussi posée à : question écrite 7-2318
Partout dans le monde, les pouvoirs publics recourent déjà à l'intelligence artificielle (IA) dans leurs activités quotidiennes.
Toutefois, le déploiement de l'IA varie sensiblement d'un pays à l'autre, sous l'effet de toute une série de facteurs.
Les autorités italiennes, par exemple, utilisent l'IA de différentes manières, par exemple en tant qu'agent conversationnel (chatbot) d'un service clientèle et pour lutter contre la fraude fiscale. Un agent conversationnel du ministère du Travail fournit des informations sur le revenu minimum garanti. Le recours à l'IA pour lutter contre la fraude fiscale, avec le système «Anonimometro» par exemple, s'est avéré fructueux grâce à l'automatisation des analyses et à l'utilisation de données pseudonymes. La prudence s'impose toutefois, surtout lors de l'implémentation de l'IA dans des communautés vulnérables. À Rome, l'IA est utilisée pour le contrôle des canalisations d'eau au moyen de capteurs et de l'apprentissage automatique (machine learning).
L'application de l'IA dans les services publics est entravée par les coupes budgétaires et par une administration archaïque. Les agents conversationnels ont leurs limites et ne peuvent remplacer totalement l'interaction humaine, surtout au niveau de la rue, là où les fonctionnaires procèdent à des ajustements pour tenir compte de situations individuelles.
Des agents des services publics expérimentent individuellement des outils d'IA générative pour améliorer l'efficacité de leur travail. L'utilisation de l'IA dans les processus législatifs pose divers défis, certaines applications spécifiques nécessitant peut-être des modèles adaptés. La Chambre des représentants italienne expérimente l'IA dans le processus législatif. La «Loi sur l'IA» de l'Union européenne (UE) devrait inciter les États membres à adopter l'IA avec enthousiasme, mais en Italie, on s'attend à ce que la réaction reste timide en l'absence d'investissements substantiels. Le public est peu sensibilisé et les services publics peu enclins à utiliser l'IA, ce qui ralentit l'adoption de l'IA dans les administrations.
Le 10 février 2023, le Sénat a adopté la proposition de résolution relative à la mise en place d'une autorité de contrôle des algorithmes de M. Daems et consorts (doc. Sénat, n° 7-328/4).
Lors de la formation du gouvernement néerlandais en 2021, la déclaration de politique générale qui accompagne l'accord de gouvernement mentionnait que le pays miserait sur le développement du numérique. En plus des annonces habituelles, dont la promesse de poursuivre les efforts pour combler le fossé numérique et améliorer la sécurité sur internet, la déclaration indique qu'une autorité de contrôle des algorithmes sera créée pour prendre des dispositions légales garantissant que les algorithmes seront contrôlés en ce qui concerne la transparence, la discrimination et l'arbitraire.
Cet appel n'arrive pas par hasard: le scandale des allocations familiales qui a secoué les Pays-Bas a montré que le fisc se fiait à des algorithmes que lui-même était à peine capable de comprendre et encore moins d'expliquer.
Aux États-Unis aussi, où les algorithmes sont déjà beaucoup plus répandus dans les organismes publics, il est apparu que plusieurs de ces services ne disposaient pas de moyens suffisants pour évaluer les algorithmes qu'eux-mêmes utilisaient.
En ce qui concerne le caractère transversal de la présente question: les différents gouvernements et maillons de la chaîne de sécurité se sont accordés sur les phénomènes qui devront être traités en priorité au cours des quatre prochaines années. Ceux-ci sont définis dans la Note-cadre de sécurité intégrale et dans le Plan national de sécurité 2022-2025 et ont été discutés lors d'une conférence interministérielle à laquelle les acteurs de la police et de la justice ont également participé. Il s'agit donc d'une matière transversale qui relève également des Régions, le rôle de ces dernières se situant surtout dans le domaine de la prévention.
Je souhaiterais dès lors vous poser les questions suivantes :
1) L'intelligence artificielle ou les algorithmes sont-ils déjà utilisés en Belgique pour traiter des affaires publiques? Si oui, à quels niveaux de pouvoir? Pouvez-vous préciser le nombre d'instances concernées pour chacun des niveaux de pouvoir? Quels sont les services publics qui recourent à ces technologies? Pouvez-vous préciser la fonction remplie par les applications de l'IA au sein de cet ensemble?
Si ces technologies sont déjà employées, à quels niveaux le sont-elles? À combien estime-t-on les coûts actuellement? Quels sont les objectifs poursuivis? Quand l'implémentation est-elle prévue concrètement?
Si ces technologies ne sont pas encore employées, envisage-t-on de prendre de telles mesures à l'avenir? Si oui, de quelle manière?
2) Quel est le but de ces programmes d'extraction de données (scraping)? Quels sont les programmes spécifiquement utilisés? Quelles fonctions de ces programmes sont utilisées ? Pouvez-vous fournir plus d'explications à ce sujet?
Pouvez-vous préciser quelles données sont utilisées et/ou consultées? Est-ce le cas aussi pour des banques de données des pouvoirs publics? Si oui, lesquelles? Utilise-t-on également des techniques d'extraction pour les profils de médias sociaux? Si oui, de quelle manière?
3) Des services tels que l'administration fiscale ou des agences connexes utilisent-ils l'IA pour extraire des données concernant des matières comme l'impôt des personnes physiques ou l'impôt des sociétés? Si oui, de quelle manière et avec quels programmes? Quels sont les résultats à cet égard? Quel est en général le volume de données extraites par profil et de quelles données s'agit-il? Cette opération se fait-elle automatiquement?
4) Les services publics recourent-ils aux grands modèles de langage (large language models - LLM), aux agents conversationnels (chatbots) et à d'autres applications pilotées par l'IA? Si oui, combien au total? Existe-t-il des applications ou processus spécifiques pour lesquels l'IA sert à prendre des décisions ou à accomplir des tâches au sein de ces services? Depuis combien de temps ces systèmes sont-ils déjà en usage? Dans quelle mesure l'emploi de l'IA générative est-il généralisé?
5) Les services publics recourent-ils actuellement à des techniques d'indexation de données (webcrawling) et d'extraction de données (datascrapping) pour obtenir des informations? Si oui, combien au total? Pouvez-vous donner des exemples spécifiques de la manière dont ces technologies sont appliquées? Quels sont les services qui emploient de telles techniques et comment celles-ci s'intègrent-elles dans le flux opérationnel (workflow)? Des procédures spécifiques ont-elles été mises en place pour vérifier et valider ces informations?
6) Existe-t-il des collaborations avec des parties externes ou des fournisseurs de technologies pour l'implémentation de telles technologies? Si oui, comment le respect de la vie privée et la sécurité des données collectées sont-ils garantis lors de ces collaborations?
7) Quelles mesures prend-on pour veiller à ce que les applications de l'IA au sein des services publics n'aient pas d'effets négatifs sur des communautés ou groupes vulnérables? L'IA est-elle utilisée actuellement pour lutter contre la fraude fiscale et d'autres formes d'abus financiers, comme c'est le cas en Italie? Si oui, de quelle manière et dans quelle mesure l'IA influence-t-elle la prise de décision ? Est-il encore question d'une intervention humaine? Si non, pourquoi?
8) De quelle manière le public belge perçoit-il le recours à l'IA dans les services publics et quels efforts sont fournis pour améliorer la sensibilisation et la compréhension? Quelles stratégies envisage-t-on ou met-on en œuvre pour faire en sorte que l'intégration de l'IA dans les administrations belges se déroule de manière éthique et responsable?
1) L’adoption de l’intelligence artificielle (IA) au niveau des services publics en Belgique est en phase de démarrage. Tout dépend aussi de la définition que l’on donne à l’IA. Dans une acception large, des modèles statistiques sont utilisés depuis longtemps dans des applications telles que la détection de fraudes.
L’engouement plus récent pour l’IA, et en particulier pour l’apprentissage automatique (machine learning) et l’apprentissage profond (deeplearning), a amené l’Europe à lancer un plan coordonnée européen sur l’IA en 2018. Dès 2019, la Belgique, au niveau fédéral et au niveau régional, a élaboré des plans et initiatives dans lesquels l’adoption de l’IA par les services publics est l’un des axes de développement.
Une première enquête qualitative réalisée par le SPF BOSA – AI4Belgium et la Katholieke Universiteit Leuven (KU Leuven), en 2021, indiquait que seuls 34,7 % des organisations publiques utilisent de l’IA. Pour la plupart, l’utilisation de l’IA en était à un stade exploratoire de réalisation de tests, d’utilisation à petite échelle ou une utilisation moyenne au sein de l’organisation. Seuls quelques répondants indiquent que l’IA est utilisée à plus grande échelle. La tendance montrait notamment un fort intérêt de la plupart des organisations envisageaient de projets d’IA dans les années suivantes.
Le plan national de convergence pour le développement de l’intelligence artificielle, publié en 2022, fixe comme objectif de «fournir aux citoyens de meilleurs services et une meilleure protection» grâce à l’IA. En 2022, près de la moitié des services publics ont expérimenté avec de l’IA.
Parmi les applications existantes, citons l’indexation automatique et la recherche intelligente de documents, la reconnaissance automatique de caractères, l’optimisation de processus, la gestion de call center, des chatbots, la classification de courriels, la détection de fraudes, le démantèlement de réseaux criminels grâce à l’analyse automatique de SMS, la détection d’incident, la maintenance prédictive de services digitaux, l’anonymisation de documents, l’identification des offres d’emplois qui vous sont accessibles et des suggestions pour les formations à suivre. Plusieurs initiatives du service public fédéral (SPF) Économie, notamment en matière de protection des consommateurs peuvent également être soulignées. Récemment, le «#SmartNation AI Hackathon» s’est attaqué à plusieurs défis des services publics (faciliter l’accès à la justice, optimisation du traitement des dossiers patients au sein des hôpitaux, propositions de formulations de réponses aux questions parlementaires).
En général, le niveau fédéral et les Régions ont plus expérimenté que le niveau local. Notons néanmoins quelques initiatives très intéressantes sur les smartcities (notamment à Gand).
L’essor des technologies d’IA générative a généralisé l’utilisation de l’IA et des efforts conséquents sont mis en œuvre sur la sensibilisation à ces technologies et à leur encadrement. D’autant plus que l’AI Act a été adopté au sein de l’Union européenne. Un nouvel effort de cartographie était donc nécessaire.
Depuis fin 2023, dans le cadre de la mise en place de son «AI4Belgium Observatory», le service public fédéral Stratégie et Appui (SPF BOSA) a relancé, avec le comité d’orientation du plan national de convergence, un recensement des différentes initiatives au sein des services publics. La présentation de cet état d’adoption de l’IA au sein des services publics est attendue pour fin 2024.
2) Actuellement, le SPF BOSA n’a pas investi dans des programmes de «scraping». Cela s’est produit, par exemple, au sein du SPF Économie. À ce propos, je renvoie à la réponse du ministre compétent.
3) Pour cette question, nous vous renvoyons au ministre des Finances.
4) Plusieurs chatbots ont été mis en place, et l’arrivée des grands modèles de langage permet d’entrevoir de nouvelles possibilités. Une attention particulière sera portée sur la transparence et l’exigence de correction des informations fournies. Dans un premier temps, l’utilisation des LLM (large language model) s’entrevoit dans la capacité à interpréter automatiquement des textes, à les résumer, à retrouver l’information pertinente. La génération automatique de textes ou de synthèses est également explorée, et dans tous les cas imposent une supervision humaine d’un fonctionnaire expert. Un code de conduite pour l’utilisation de l’IA générative et une charte pour l’utilisation responsable de l’IA au sein des services publics sont en cours de finalisation. Ceci amène à répondre à la question de la prise de décisions. En aucun cas, une décision ayant un impact sur les citoyens ne sera prise sans contrôle humain au sein des services publics. L’utilisation de l’IA générative est loin d’être généralisée même si beaucoup, au sein des services publics, tout comme au sein de la population, expérimente à titre privé. La formation à ces outils est nécessaire.
5) Oui, ces technologies sont utilisées, par exemple, au niveau de l’inspection économique: certaines informations sont vérifiées par ce type de méthode, afin de protéger les consommateurs.
Ainsi, certains sites web d’entreprises sont vérifiés pour déterminer s’ils affichent toutes les informations nécessaires. Des projets qui vont dans le sens de la vérification des prix.
6) Oui, bien entendu, il existe au sein des services publics de nombreuses collaborations avec des entreprises et des chercheurs académiques. Dans le cas susmentionné, il s’agit de collecter des données publiques. En conséquence, les questions de vie privée ne se posent pas.
Il convient de noter qu’il est proposé au niveau de la charte pour l’utilisation responsable de l’IA au sein des services publics de faire automatiquement référence aux exigences éthiques de la Commission européenne dans le cadre de l’établissement de contrat, ceci comprend en particulier la protection des données privées.
7) Le cadre légal proposé par le AI Act pourvoit à ce type de question. Les valeurs qui sont promues par le plan national de convergence pour le développement de l’IA soulignent l’importance des exigences éthiques en matière de transparence, de non-discrimination, d’identification et suppression des préjugés.
Plusieurs initiatives de mes services en témoignent (en plus de celles déjà mentionnées): l’«AI Ethics Assessment Tool» (https://altai.ai4belgium.be/) ou le «massive online course» mis en place en coopération avec le Conseil de l’Europe, le SPF BOSA – AI4Belgique, le SPF Justice et le Centre pour l’égalité des chances (UNIA).
Les techniques d’IA citées ci-dessus sont utilisées pour la détection des fraudes. Je vous suggère de vous adresser à mon collègue, le ministre des Finances, à ce sujet. Il convient de noter que le principe de supervision humaine s’applique toujours à toute décision.
8) Une étude réalisée en 2019 par le SPF Économie montre que 72 % des citoyens sont d’accord avec l’affirmation selon laquelle «l’intelligence artificielle peut contribuer à améliorer la société». Les attentes dans des secteurs spécifiques comme la médecine atteignent 94 % d’opinions positives. Il est clair aussi que des peurs s’expriment, notamment sur le futur du marché de l’emploi. De là la convergence des stratégies qui mettent en avant le besoin essentiel de formation tout au long de la vie, notamment la formation au digital et la lutte contre la fracture numérique.
De nombreuses initiatives sont mises en place pour la sensibilisation et la compréhension des citoyens, à travers des initiatives comme AMAI en Flandre (créée par le Data & Maatschappij Kennis Centrum); des consultations citoyennes mises en place par FARI (AI for the Common Good Institute) à Bruxelles; ou des initiatives à travers les médias promus par l’Agence du numérique dans le cadre de sa stratégie DigitalWallonia4.ai. Il existe également des cours sur l’IA accessibles par le biais d’initiatives telles que www.elementsofai.be, la «Vlaamse AI Academy» ou des cours en coopération avec Agoria destinés aux entrepreneurs. De très nombreux séminaires sont également organisés par l’écosystème et la coalition AI4Belgium menée par BOSA afin d’expliquer et l’IA et ses enjeux au niveau de la société.
Une nouvelle consultation citoyenne a été mise en place dans le cadre de la présidence belge de l’Union européenne dont les résultats seront présentés ce 25 mai 2024.
Au sein de l’administration, la mise en place de charte adapté et code de conduite, ainsi que d’outils tels que le AI Ethics Assessment Tool, et de formations amènent les fonctionnaires à intégrer toutes les dimensions éthiques de la conception et de l’utilisation d’outil d’IA. Enfin, permettez-moi de mentionner qu’un Comité consultatif sur l’éthique des données et de l’intelligence artificielle a été mis en place pour l’administration fédéral, composé d’experts reconnus.