|
|
Privacy - AI - Profilering - Overheidsdiensten - Cijfers en tendensen
kunstmatige intelligentie
publieke dienst
digitale cultuur
big data
eerbiediging van het privé-leven
| 26/4/2024 | Verzending vraag (Einde van de antwoordtermijn: 30/5/2024) |
| 26/5/2024 | Antwoord |
Ook gesteld aan : schriftelijke vraag 7-2299
Ook gesteld aan : schriftelijke vraag 7-2300
Ook gesteld aan : schriftelijke vraag 7-2301
Ook gesteld aan : schriftelijke vraag 7-2302
Ook gesteld aan : schriftelijke vraag 7-2303
Ook gesteld aan : schriftelijke vraag 7-2304
Ook gesteld aan : schriftelijke vraag 7-2305
Ook gesteld aan : schriftelijke vraag 7-2306
Ook gesteld aan : schriftelijke vraag 7-2307
Ook gesteld aan : schriftelijke vraag 7-2308
Ook gesteld aan : schriftelijke vraag 7-2309
Ook gesteld aan : schriftelijke vraag 7-2310
Ook gesteld aan : schriftelijke vraag 7-2311
Ook gesteld aan : schriftelijke vraag 7-2312
Ook gesteld aan : schriftelijke vraag 7-2313
Ook gesteld aan : schriftelijke vraag 7-2314
Ook gesteld aan : schriftelijke vraag 7-2315
Ook gesteld aan : schriftelijke vraag 7-2316
Ook gesteld aan : schriftelijke vraag 7-2318
Overheden over de hele wereld maken al gebruik van artificiėle intelligentie (AI) in hun dagelijkse werk.
De uitrol ervan varieert echter drastisch van land tot land, afhankelijk van een hele reeks factoren.
De Italiaanse overheid gebruikt bijvoorbeeld AI op verschillende manieren, zoals klantenservice-«chatbots» en het bestrijden van belastingontduiking. Een «chatbot» van het ministerie van Arbeid verstrekt informatie over het gegarandeerde minimuminkomen. Het gebruik van AI bij belastingfraudebestrijding, zoals met het «Anonimometro»-systeem, heeft successen geboekt door het automatiseren van analyses en pseudonieme gegevens te gebruiken. Er is echter behoefte aan voorzichtigheid, vooral bij het implementeren van AI in kwetsbare gemeenschappen. In Rome wordt AI ingezet om waterleidingen te monitoren met behulp van sensoren en «machine learning».
De toepassing van AI binnen de overheid wordt bemoeilijkt door bezuinigingen en een verouderd ambtenarenapparaat. «Chatbots» hebben beperkingen en kunnen menselijke interactie niet volledig vervangen, vooral op straatniveau waar ambtenaren aanpassingen maken op basis van individuele situaties.
Overheidsmedewerkers experimenteren individueel met generatieve «AI-tools» om efficiėnter te werken. Er zijn uitdagingen bij het gebruik van AI voor wetgevingsprocessen, waarbij aangepaste modellen mogelijk nodig zijn voor specifieke toepassingen. De Italiaanse Kamer van afgevaardigden voert experimenten uit met AI in het wetgevingsproces. De «EU's AI Act» zou lidstaten moeten aansporen AI te omarmen, maar in Italiė wordt verwacht dat de reactie beperkt zal zijn zonder substantiėle investeringen. Het publieksbewustzijn en de vraag naar AI in openbare diensten zijn er laag, wat de adoptie ervan door de overheid vertraagt .
Op 10 februari 2023 nam de Senaat het voorstel van resolutie met betrekking tot de oprichting van een algoritmetoezichthouder van de heer Daems c.s. aan (doc. Senaat, nr. 7-328/4).
Bij de regeringsvorming in Nederland in 2021 werd in de beleidsverklaring van het regeerakkoord gesteld dat het land inzet op meer digitalisering. Naast de gebruikelijke verklaringen, waarbij men onder meer belooft verder in te zetten op de digitale kloof en de veiligheid op het internet, staat ook de verklaring dat men een algoritmetoezichthouder zal aanstellen om wettelijk te regelen «dat algoritmen worden gecontroleerd op transparantie, discriminatie en willekeur».
Deze roep komt niet toevallig: de Nederlandse toeslagenaffaire liet zien dat de Belastingdienst vertrouwde op algoritmen die ze zelf amper konden begrijpen, laat staan uitleggen.
Ook in de Verenigde Staten, waar algoritmen binnen openbare instanties al veel verder verspreid zijn, bleek dat verschillende van deze diensten over onvoldoende middelen beschikten om de algoritmes te evalueren die ze zelf gebruiken.
Deze schriftelijke vraag heeft een transversaal karakter. De verschillende regeringen en schakels in de veiligheidsketen zijn het eens over de fenomenen die de komende vier jaar prioritair moeten worden aangepakt. Die staan gedefinieerd in de Kadernota Integrale Veiligheid en het Nationaal Veiligheidsplan voor de periode 2022-2025, en werden besproken tijdens een Interministeriėle Conferentie, waarop ook de politionele en justitiėle spelers aanwezig waren. Het betreft aldus een transversale aangelegenheid met de Gewesten waarbij de rol van de Gewesten vooral ligt in het preventieve luik.
Graag had ik dan ook volgende vragen voorgelegd aan de geachte minister:
1) Gebruikt men in Belgiė reeds artificiėle intelligentie of algoritmen om overheidszaken te regelen? Indien ja, op welke niveaus en kan u hierbij afzonderlijk staven omtrent hoeveel instanties het gaat? Zou u dit uit kunnen splitsen naar niveau? Welke overheidsdiensten maken hiervan gebruik, en kan u meer toelichting geven over de functie van AI-toepassingen binnen dit geheel?
Indien ja, op welke niveaus, wat zijn de huidige geraamde kosten, wat zijn de beoogde doelen en wanneer plant men concreet de implementatie?
Indien neen, plant men om dergelijke maatregelen te nemen in de toekomst? Zo ja, op welke wijze?
2) Wat is het beoogde doel van dergelijke scraping-programma's? Welke programma's worden specifiek gebruikt? Welke functies worden hiervan gebruikt? Kan u hierover meer toelichting geven?
Kan u aangeven welke data gebruikt en/of geraadpleegd worden? Zitten hier overheidsdatabanken bij? Zo ja, welke? Maakt men ook gebruik van scrapingtechnieken bij socialemediaprofielen? Zo ja, op welke wijze?
3) Gebruiken diensten zoals de fiscus of aanverwante agentschappen, AI om data te scrapen omtrent zaken als personenbelasting of vennootschapsbelasting, zo ja, op welke wijze en met welke programma's? Wat zijn de resultaten hierbij? Hoeveel data wordt er doorgaans per profiel gescraped, met welke gegevens? Gebeurt dit automatisch?
4) Wordt er gebruik gemaakt van LLM's, «chatbots» en andere door AI gestuurde toepassingen bij overheidsdiensten? Zo ja, hoeveel in totaal en zijn er specifieke toepassingen of processen waar AI wordt gebruikt om beslissingen te nemen of taken uit te voeren binnen deze diensten? Hoe lang zijn deze systemen reeds in gebruik? In hoeverre maakt men algemeen gebruik van generatieve AI?
5) Wordt door overheidsdiensten momenteel gebruik gemaakt van «webcrawling» en datascraping-technieken voor het verkrijgen van informatie? Zo ja, hoeveel in totaal en kunt u specifieke voorbeelden geven van hoe deze technologieėn worden toegepast? Welke diensten gebruiken dergelijke technieken en hoe maken ze deel uit van de algemene workflow? Zijn er specifieke procedures voor het valideren en verifiėren van deze informatie?
6) Zijn er samenwerkingen met externe partijen of technologieleveranciers voor het implementeren dergelijke technologieėn? Zo ja, hoe wordt de privacy en beveiliging van de verzamelde gegevens in dergelijke samenwerkingsverbanden gewaarborgd?
7) Welke maatregelen worden genomen om ervoor te zorgen dat AI-toepassingen binnen de overheid geen negatieve effecten hebben op kwetsbare gemeenschappen of groepen? Wordt AI momenteel gebruikt om belastingfraude en andere vormen van financieel misbruik tegen te gaan in Belgiė, zoals in Italiė? Zo ja, op welke manier en hoeveel invloed heeft de AI op de besluitvorming? Is er nog sprake van een menselijke tussenkomst? Zo neen, waarom niet?
8) Wat is de perceptie van het publiek in Belgiė ten opzichte van AI in openbare diensten, en welke inspanningen worden geleverd om het bewustzijn en begrip te vergroten? Welke strategieėn worden overwogen of geļmplementeerd om ervoor te zorgen dat de integratie van AI in de Belgische overheid ethisch en verantwoord verloopt?
Federale overheidsdienst (FOD) Economie
1) Onder de huidige regering, maakt artificiële inteligentie (AI) deel uit van de portefeuille van staatssecretaris Michel die staatssecretaris is voor Digitalisering, belast met Administratieve Vereenvoudiging en Privacy. De federale overheidsdienst (FOD) Beleid & Ondersteuning (hierna FOD BOSA) is hoofdzakelijk bevoegd voor AI binnen de verschillende overheidsdiensten. De FOD BOSA en de FOD Economie coördineren de implementatie van het federale plan voor AI. Dit plan bevat onder andere een doelstelling om het gebruik van AI binnen overheidsdiensten aan te moedigen.
Specifiek binnen de FOD Economie wordt er momenteel als onderdeel van een testfase gebruikgemaakt van DeepL Pro voor een beperkt aantal personeelsleden. De bedoeling hiervan is om te komen tot een kwalitatieve vertaling die complementair is aan de vertalingen van de vertaaldienst zonder deze echter te vervangen. Het budget dat hier op jaarbasis voor wordt uitgereikt is 20 000 euro (inclusief de belasting over de toegevoegde waarde (BTW)).
Daarnaast wordt gebruikgemaakt van het gratis programma ChatGPT 3.5 voor algemene informatieverzoeken en om bijvoorbeeld makkelijker te kunnen vergelijken met andere landen (zogenaamde benchmarking).
Er wordt onderzocht waar AI in de toekomst nog meer kan worden ingezet, maar het is te voorbarig om hier reeds uitspraken over te doen gezien dit voor een stuk zal afhangen van de beslissingen van de volgende regering.
2) Niet van toepassing.
3) Graag verwijs ik u door naar mijn collega, de vice-eersteminister en minister van Financiën, de heer Van Peteghem.
4) Ik kan niet antwoorden voor overheidsdiensten in het algemeen. Hiervoor verwijs ik u graag door naar mijn collega Michel, de staatssecretaris voor Digitalisering, belast met Administratieve Vereenvoudiging en Privacy en naar de FOD BOSA.
Voor wat betreft de FOD Economie wordt er op dit moment nog geen gebruik gemaakt van LLM’s (Language Learning Model) of chatbots.
5) Er wordt in bepaalde mate gebruikgemaakt van AI in het kader van een aantal projecten als onderdeel van het CPC-netwerk (Consumer Protection Cooperation Network) van de Europese Commissie onder het e-lab-project. Dit e-lab project omvat bijvoorbeeld intelligente webscraping. Op dit moment is dit gericht op het controleren van prijsverlagingen op e-commerce websites, het detecteren van valse online beoordelingen, en het controleren of ondernemingen voldoen aan wettelijke identificatie- en contactvereisten op hun websites. In sommige van deze toepassingen, met name de eerste twee, wordt gebruikgemaakt van kunstmatige intelligentie. Deze tools bevinden zich nog steeds in ontwikkeling, in verschillende stadia afhankelijk van het geval; een van hen bevindt zich nog maar in de eerste testfase door gebruikers. Deze tools zijn toegankelijk op beveiligde websites. Hierbij wordt ook gebruikgemaakt van de software Maltego dat doet aan datamining.
6) Op dit moment zijn er geen samenwerkingen met externe partijen of technologieleveranciers voor het implementeren van dergelijke technologieën. In de toekomst zou dit wel kunnen veranderen. Dit zou dan deel kunnen uitmaken van samenwerkingen met Belnet of FOD BOSA of in het kader van openbare aanbestedingen.
7) Voor deze vraag en de resultaten van het federale actieplan AI, verwijs ik u graag door naar de staatssecretaris voor Digitalisering, belast met Administratieve Vereenvoudiging en Privacy en naar de FOD BOSA die het federale actieplan AI voor de openbare diensten coördineert.
8) Voor deze vraag en de resultaten van het federale actieplan AI, verwijs ik u graag door naar de staatssecretaris voor Digitalisering, belast met Administratieve Vereenvoudiging en Privacy en naar de FOD BOSA die het federale actieplan AI voor de openbare diensten coördineert.
Federale overheidsdienst (FOD) BOSA
1) De invoering van AI op het niveau van de overheidsdiensten in België bevindt zich in de opstartfase. Alles hangt ook af van hoe AI gedefinieerd wordt. In een brede betekenis worden al lang statistische modellen gebruikt in toepassingen zoals fraudedetectie. De recentere belangstelling voor AI, en in het bijzonder voor machinaal leren (machine learning) en diepgaand leren (deeplearning), heeft Europa ertoe gebracht om in 2018 een gecoördineerd Europees AI-plan te lanceren. Sinds 2019 heeft België, op federaal en gewestelijk niveau, plannen en initiatieven uitgewerkt waarbij de invoering van AI door de overheidsdiensten een van de ontwikkelassen is.
Een eerste kwalitatieve enquête, uitgevoerd in 2021 door de FOD BOSA – AI4Belgium en de KU Leuven, gaf aan dat slechts 34,7 % van de overheidsorganisaties AI gebruiken. Voor het grootste deel bevond het gebruik van AI zich in een verkennend stadium van testen, kleinschalig gebruik of gemiddeld gebruik binnen de organisatie. Slechts enkele respondenten geven aan dat AI op grotere schaal wordt gebruikt. De trend toonde onder andere een sterke interesse van het merendeel van de organisaties die in de komende jaren AI-projecten beoogden.
Het Nationaal Convergentieplan voor de ontwikkeling van artificiële intelligentie, gepubliceerd in 2022, heeft als doelstelling een «betere dienstverlening en een betere beveiliging aan de burgers» dankzij AI. In 2022 heeft bijna de helft van de overheidsdiensten geëxperimenteerd met AI.
Voorbeelden van de bestaande toepassingen zijn: het automatisch indexeren en het intelligent doorzoeken van documenten, het automatisch herkennen van karakters, de optimalisatie van processen, het call center-beheer, de chatbots, de e-mailclassificatie, fraudedetectie, het project Tech Forces against Drugs van de douane (winnaar van de Federale Innovatie Award in 2023) dat ervoor zorgde dat cocaïnetransport in containers opgespoord kan worden, het ontmantelen van criminele netwerken danzij de automatische analyse van sms’en, de opsporing van incidenten, het predictief onderhoud van digitale diensten, de anonimisering van documenten, de identificatie van vacatures waar u toegang toe heeft en suggesties voor te volgen opleidingen.
In het kader van de implementatie van zijn AI4Belgium Observatory, heeft de FOD BOSA (dienst Digitale Overheid) sinds eind 2023 samen met het Sturingscomité van het nationaal convergentieplan een nieuw overzicht van de verschillende initiatieven binnen de overheidsdiensten gelanceerd. De presentatie van deze staat van invoering van AI binnen de overheidsdiensten wordt verwacht tegen eind 2024.
2) Hierover hebben wij geen informatie.
3) Graag verwijs ik u door naar mijn collega, de vice-eersteminister en minister van Financiën, de heer Van Peteghem.
4) Ik kan niet antwoorden voor overheidsdiensten in het algemeen. Hiervoor verwijs ik u graag door naar mijn collega Michel, de staatssecretaris voor Digitalisering, belast met Administratieve Vereenvoudiging en Privacy en naar de FOD BOSA (dienst Digitale Overheid).
5) Ja, deze technologieën worden gebruikt, bijvoorbeeld op het niveau van de economische inspectie: bepaalde informatie wordt geverifieerd door dit methodetype om aldus de consumenten te beschermen.
Zo worden bepaalde ondernemingswebsites geverifieerd om te bepalen of zij alle nodige informatie weergeven. Projecten die in de richting gaan van de prijsverificatie.
6) Ja, uiteraard bestaan er binnen de overheidsdiensten talrijke samenwerkingen met ondernemingen en academische onderzoekers. In het voornoemde geval gaat het om het verzamelen van openbare gegevens. Bijgevolg ontstaan er dus geen privacy issues.
Merk op dat op het niveau van het charter voor het verantwoord gebruik van AI binnen de overheidsdiensten voorgesteld wordt om automatisch te refereren naar de ethische vereisten van de Europese Commissie in het kader van het opstellen van overeenkomsten. Dit omvat in het bijzonder de bescherming van de persoonlijke gegevens.
7) Voor deze vraag en de resultaten van het federale actieplan AI, verwijs ik u graag door naar de staatssecretaris voor Digitalisering, belast met Administratieve Vereenvoudiging en Privacy en naar de FOD BOSA (dienst Digitale Overheid) die het federale actieplan AI voor de openbare diensten coördineert.
8) Voor deze vraag en de resultaten van het federale actieplan AI, verwijs ik u graag door naar de staatssecretaris voor Digitalisering, belast met Administratieve Vereenvoudiging en Privacy en naar de FOD BOSA (dienst Digitale Overheid) die het federale actieplan AI voor de openbare diensten coördineert.