|
|
Privacy - AI - Profilering - Overheidsdiensten - Cijfers en tendensen
kunstmatige intelligentie
ministerie
digitale cultuur
big data
| 26/4/2024 | Verzending vraag (Einde van de antwoordtermijn: 30/5/2024) |
| 26/5/2024 | Antwoord |
Ook gesteld aan : schriftelijke vraag 7-2279
Ook gesteld aan : schriftelijke vraag 7-2280
Ook gesteld aan : schriftelijke vraag 7-2281
Ook gesteld aan : schriftelijke vraag 7-2282
Ook gesteld aan : schriftelijke vraag 7-2283
Ook gesteld aan : schriftelijke vraag 7-2284
Ook gesteld aan : schriftelijke vraag 7-2285
Ook gesteld aan : schriftelijke vraag 7-2286
Ook gesteld aan : schriftelijke vraag 7-2287
Ook gesteld aan : schriftelijke vraag 7-2288
Ook gesteld aan : schriftelijke vraag 7-2289
Ook gesteld aan : schriftelijke vraag 7-2290
Ook gesteld aan : schriftelijke vraag 7-2291
Ook gesteld aan : schriftelijke vraag 7-2292
Ook gesteld aan : schriftelijke vraag 7-2293
Ook gesteld aan : schriftelijke vraag 7-2294
Ook gesteld aan : schriftelijke vraag 7-2295
Ook gesteld aan : schriftelijke vraag 7-2296
Ook gesteld aan : schriftelijke vraag 7-2298
Overheden over de hele wereld maken al gebruik van artificiėle intelligentie (AI) in hun dagelijkse werk.
De uitrol ervan varieert echter drastisch van land tot land, afhankelijk van een hele reeks factoren.
De Italiaanse overheid gebruikt bijvoorbeeld AI op verschillende manieren, zoals klantenservice-«chatbots» en het bestrijden van belastingontduiking. Een «chatbot» van het ministerie van Arbeid verstrekt informatie over het gegarandeerde minimuminkomen. Het gebruik van AI bij belastingfraudebestrijding, zoals met het «Anonimometro»-systeem, heeft successen geboekt door het automatiseren van analyses en pseudonieme gegevens te gebruiken. Er is echter behoefte aan voorzichtigheid, vooral bij het implementeren van AI in kwetsbare gemeenschappen. In Rome wordt AI ingezet om waterleidingen te monitoren met behulp van sensoren en «machine learning».
De toepassing van AI binnen de overheid wordt bemoeilijkt door bezuinigingen en een verouderd ambtenarenapparaat. «Chatbots» hebben beperkingen en kunnen menselijke interactie niet volledig vervangen, vooral op straatniveau waar ambtenaren aanpassingen maken op basis van individuele situaties.
Overheidsmedewerkers experimenteren individueel met generatieve «AI-tools» om efficiėnter te werken. Er zijn uitdagingen bij het gebruik van AI voor wetgevingsprocessen, waarbij aangepaste modellen mogelijk nodig zijn voor specifieke toepassingen. De Italiaanse Kamer van afgevaardigden voert experimenten uit met AI in het wetgevingsproces. De «EU's AI Act» zou lidstaten moeten aansporen AI te omarmen, maar in Italiė wordt verwacht dat de reactie beperkt zal zijn zonder substantiėle investeringen. Het publieksbewustzijn en de vraag naar AI in openbare diensten zijn er laag, wat de adoptie ervan door de overheid vertraagt .
Op 10 februari 2023 nam de Senaat het voorstel van resolutie met betrekking tot de oprichting van een algoritmetoezichthouder van de heer Daems c.s. aan (doc. Senaat, nr. 7-328/4).
Bij de regeringsvorming in Nederland in 2021 werd in de beleidsverklaring van het regeerakkoord gesteld dat het land inzet op meer digitalisering. Naast de gebruikelijke verklaringen, waarbij men onder meer belooft verder in te zetten op de digitale kloof en de veiligheid op het internet, staat ook de verklaring dat men een algoritmetoezichthouder zal aanstellen om wettelijk te regelen «dat algoritmen worden gecontroleerd op transparantie, discriminatie en willekeur».
Deze roep komt niet toevallig: de Nederlandse toeslagenaffaire liet zien dat de Belastingdienst vertrouwde op algoritmen die ze zelf amper konden begrijpen, laat staan uitleggen.
Ook in de Verenigde Staten, waar algoritmen binnen openbare instanties al veel verder verspreid zijn, bleek dat verschillende van deze diensten over onvoldoende middelen beschikten om de algoritmes te evalueren die ze zelf gebruiken.
Deze schriftelijke vraag heeft een transversaal karakter. De verschillende regeringen en schakels in de veiligheidsketen zijn het eens over de fenomenen die de komende vier jaar prioritair moeten worden aangepakt. Die staan gedefinieerd in de Kadernota Integrale Veiligheid en het Nationaal Veiligheidsplan voor de periode 2022-2025, en werden besproken tijdens een Interministeriėle Conferentie, waarop ook de politionele en justitiėle spelers aanwezig waren. Het betreft aldus een transversale aangelegenheid met de Gewesten waarbij de rol van de Gewesten vooral ligt in het preventieve luik.
Graag had ik dan ook volgende vragen voorgelegd aan de geachte minister:
1) Maakt uw beleidscel momenteel gebruik van kunstmatige intelligentie? Zo ja, kunt u gedetailleerd beschrijven voor welke specifieke taken of doeleinden AI wordt toegepast?
2) Hoe gebruiken federale overheidsdiensten die onder uw bevoegdheid vallen, dergelijke programma's specifiek? Welke programma's worden gebruikt? Wat is de bijhorende kostprijs hiervan? Wordt het gebruik uitgebreid? Indien ja, op welke wijze en waarom?
3) Kunt u meedelen welk doel het gebruik van AI dient binnen de respectievelijke federale overheidsdiensten en hoe dit bijdraagt aan de uitvoering van beleidsnota's? Zijn er momenteel AI-toepassingen in gebruik binnen uw federale overheidsdiensten en zo ja, welke specifieke toepassingen worden hierbij gebruikt?
4) Wat is de huidige en verwachte toekomstige rol van AI bij het uitvoeren van beleidsnota's en binnen de verschillende programma's van de federale overheidsdiensten? Welke soorten data vormen de basis voor de AI-toepassingen die momenteel of in de toekomst worden gebruikt binnen de federale overheidsdiensten?
5) Zijn de algoritmen die worden gebruikt binnen uw beleidscel en departementen transparant? Kunt u details verstrekken over de mate van transparantie en de procedures die worden gevolgd om ervoor te zorgen dat de besluitvorming door AI begrijpelijk is voor de betrokken partijen en het publiek?
6) Kunt u een lijst verstrekken van lopende projecten met betrekking tot kunstmatige intelligentie binnen uw bevoegdheden en departementen? Wat is de beoogde kalender voor de implementatie van deze projecten?
7) Voor welke specifieke doeleinden zullen de lopende of toekomstige AI-projecten worden toegepast binnen uw beleidscel en/of departementen? Kunt u gedetailleerd uitleggen hoe deze projecten bijdragen aan de verbetering van uw beleid en dienstverlening? Zijn er vooropgestelde doelen? Werden deze reeds geėvalueerd?
Federale overheidsdienst (FOD) Economie:
1) Wij maken occasioneel gebruik van ChatGPT en DeepL Pro voor het nakijken van eigen vertalingen.
2) De programma’s waarvan de federale overheidsdienst (FOD) Economie op dit moment gebruik maakt zijn DeepL Pro en ChatGPT 3.5 in de GCloud.
Voor wat DeepL Pro betreft, is dit een testproject waarbij tachtig gebruikers een licentie hebben. Dit komt neer op 20 000 euro per jaar (inclusief BTW (belasting over de toegevoegde waarde)), dit zal geëvalueerd worden en er wordt bekeken hoe dit eventueel verder zou kunnen gebruikt worden.
3) ChatGPT 3.5 wordt voornamelijk gebruikt om algemene informatie op te zoeken en meer specifiek om te kunnen vergelijken met andere landen en op die manier een benchmarking te kunnen realiseren op een snelle en goedkopere manier.
DeepL Pro wordt gebruikt om een kwalitatieve vertaling te bekomen die complementair is aan de vertalingen van de vertaaldienst zonder deze echter te vervangen.
Beide instrumenten helpen om de administratieve lasten te verminderen.
4) Onder de huidige regering, maakt AI deel uit van de portefeuille van staatssecretaris Michel die staatssecretaris is voor Digitalisering, belast met Administratieve Vereenvoudiging en Privacy. De FOD Beleid & Ondersteuning (hierna FOD BOSA) is hoofdzakelijk bevoegd voor AI binnen de verschillende overheidsdiensten. De FOD BOSA en de FOD Economie coördineren de implementatie van het federale plan voor AI. Dit plan bevat onder andere een doelstelling om het gebruik van AI binnen overheidsdiensten aan te moedigen. Ik verwijs u dus graag door naar hen voor meer informatie hieromtrent. Bovendien is het momenteel moeilijk om concrete voorspellingen te doen voor de volgende regering.
5) Op dit moment, wordt er enkel gebruik gemaakt van de algoritmes van DeepL Pro en ChatGPT 3.5, gezien enkel met die systemen wordt gewerkt.
Aangaande de transparantie van het algoritme dat ChatGPT 3.5 gebruikt, is het belangrijk op te merken dat het algoritme is gebaseerd op taalmodellen ontwikkeld door het bedrijf OpenAI. Deze modellen zijn het resultaat van een complex leerproces en zijn niet volledig toegankelijk voor het publiek. Desondanks publiceert OpenAI regelmatig informatie over de methodologie en de principes die de ontwikkeling van deze modellen sturen, waardoor er enige transparantie is over hun algemene werking. Om ervoor te zorgen dat de informatie verwerkt door hun systeem begrijpelijk is voor het publiek, volgt ChatGPT 3.5 transparantiepraktijken door zo duidelijk en expliciet mogelijk te antwoorden. Hoewel het algoritme zelf complex kan zijn, streven ze ernaar om op een toegankelijke manier te communiceren en heldere uitleg te geven over hoe informatie wordt gegenereerd en gebruikt. Voor meer informatie over de werking: How ChatGPT and our language models are developed/OpenAI Help Center.
Voor meer informatie in verband met de werking van DeepL Pro: How does DeepL work?.
6) Er wordt een project voorzien tijdens de looptijd van de volgende regering om parlementaire vragen te kunnen opzoeken.
7) Elk project zal specifiek geëvalueerd worden. De criteria die zullen gebruikt worden voor elk project zullen telkens worden gepubliceerd in een openbare aanbesteding. Hierdoor zijn ze beschikbaar en transparant voor eenieder. Ze bevatten ten minste een criterium gelinkt aan de prijs en een criterium dat gaat over de kwaliteit.
FOD BOSA:
2) België heeft vanaf 2019 plannen en initiatieven uitgewerkt (op federaal en gewestelijk niveau) waarbij de invoering van AI door de overheidsdiensten één van de ontwikkelassen is. Hoewel deze invoering zich nog in de opstartfase bevindt, kent zij wel een onafgebroken en aanzienlijke groei. Het is dus moeilijk om de kosten op het niveau van alle federale overheidsdiensten te ramen op dit moment.
Bovendien zijn de initiatieven nog gefragmenteerd op het federale niveau. Bijgevolg en teneinde de inspanningen te coördineren, hebben de FOD BOSA (dienst Digitale Overheid) en de FOD Economie de Stuurgroep van het Convergentieplan voor de ontwikkeling van AI opgericht.
3) Het Nationaal Convergentieplan voor de ontwikkeling van artificiële intelligentie, gepubliceerd in 2022, heeft als doelstelling een «Betere dienstverlening en een betere beveiliging aan de burgers» dankzij AI: betere toegang tot informatie, een grotere reactiviteit, administratieve vereenvoudiging, automatische opening van recht, enzovoort. De initiatieven zijn op federaal niveau nog gefragmenteerd en de FOD BOSA (dienst Digitale Overheid) en de FOD Economie hebben de Stuurgroep van het convergentieplan voor de ontwikkeling van AI opgericht om de inspanningen te coördineren.
Voorbeelden van de bestaande toepassingen zijn: het automatisch indexeren en het intelligent doorzoeken van documenten, het automatisch herkennen van karakters, de optimalisatie van processen, het call center-beheer, de chatbots, de e-mailclassificatie, fraudedetectie, het project Tech Forces against Drugs van de douane (winnaar van de Federale Innovatie Award in 2023) dat ervoor zorgde dat cocaïnetransport in containers opgespoord kan worden, het ontmantelen van criminele netwerken dankzij de automatische analyse van SMS’en, de opsporing van incidenten, het voorspellend onderhoud van digitale diensten, de anonimisering van documenten, de identificatie van vacatures waar u toegang toe heeft en suggesties voor te volgen opleidingen.
4) Zoals aangegeven in antwoord op vraag 2), heeft de FOD BOSA (dienst Digitale Overheid) samen met het Sturingscomité van het nationaal convergentieplan een nieuw overzicht van de verschillende initiatieven binnen de overheidsdiensten gelanceerd. Dit overzicht wordt verwacht tegen eind 2024 en zal het mogelijk maken om een veel gedetailleerder zicht op deze vragen te bekomen.
5) De waarden die worden gepromoot in het nationaal Convergentieplan voor de ontwikkeling van AI benadrukken het belang van de ethische vereisten inzake transparantie. Er wordt dus een bijzondere aandacht besteed aan dit punt en aan de omkadering van AI-technologieën, temeer omdat de AI Act momenteel wordt gefinaliseerd en aldus een wettelijk kader zal bieden voor het gebruik van AI. In dit opzicht wordt de laatste hand gelegd aan een gedragscode voor het gebruik van generatieve AI en aan een charter voor het verantwoord gebruik van AI binnen de overheidsdiensten.
De invoering van een aangepast charter, een gedragscode, opleidingen en tools zoals de AI Ethics Assessment Tool.
6) Zoals aangegeven in antwoord op vraag 2), heeft de FOD BOSA (dienst Digitale Overheid) samen met de Sturingscomité van het nationaal convergentieplan een nieuw overzicht van de verschillende initiatieven binnen de overheidsdiensten gelanceerd. Dit overzicht wordt verwacht tegen eind 2024 en zal het mogelijk maken om een veel gedetailleerder zicht op deze vragen te bekomen.
Bepaalde toepassingen kunnen evenwel al vernoemd worden (deze worden eveneens aangehaald in antwoord op vraag 3): het automatisch indexeren en het intelligent doorzoeken van documenten, het automatisch herkennen van karakters, de optimalisatie van processen, het call center-beheer, de chatbots, de e-mailclassificatie, fraudedetectie, het project Tech Forces against Drugs van de douane (winnaar van de Federale Innovatie Award in 2023) dat ervoor zorgde dat cocaïnetransport in containers opgespoord kan worden, het ontmantelen van criminele netwerken danzij de automatische analyse van SMS’en, de opsporing van incidenten, het predictief onderhoud van digitale diensten, de anonimisering van documenten, de identificatie van vacatures waar u toegang toe heeft en suggesties voor te volgen opleidingen.
7) Zoals aangegeven in antwoord op vraag 2), heeft de FOD BOSA (dienst Digitale Overheid) samen met de Sturingscomité van het nationaal convergentieplan een nieuw overzicht van de verschillende initiatieven binnen de overheidsdiensten gelanceerd. Dit overzicht wordt verwacht tegen eind 2024 en zal het mogelijk maken om een veel gedetailleerder zicht op deze vragen te bekomen.