‘Dit charter lijkt eerder een verplicht nummer dan een document dat vertrouwen opbouwt of aantoont dat de overheid het verantwoord gebruik van AI serieus neemt’, schrijft Wim Casteels over een charter dat 40 Belgische organisaties hebben aangenomen voor het verantwoord gebruik van AI in overheidsdiensten.
40 Belgische federale organisaties hebben een charter aangenomen voor het verantwoord gebruik van AI in overheidsdiensten. Dit document, ondertekend door de minister van Modernisering van de Overheid Vanessa Matz, verankert belangrijke thema’s zoals transparantie, menselijk toezicht, datakwaliteit en risicobeoordeling en -beperking.
Met dit charter hopen deze organisaties het vertrouwen van burgers te winnen in het overheidsgebruik van AI.
De kern van het charter bestaat uit 8 beginselen waartoe de overheid zich verbindt bij het gebruik van AI. Deze variëren van het garanderen dat burgers altijd met een menselijke medewerker kunnen communiceren tot het verzekeren van permanente opleiding voor overheidsmedewerkers.
Ondanks deze positieve stappen blijft het charter vaag en vrijblijvend. Bij het onderdeel duurzaamheid wordt bijvoorbeeld alleen vermeld dat “waar mogelijk” rekening wordt gehouden met milieu-impact en energieverbruik. Daarnaast verwijst het document herhaaldelijk naar bestaande wetgeving, wat suggereert dat er weinig ambitie bestaat om verder te gaan dan de wettelijke minimumvereisten. Hieronder volgen enkele suggesties om deze ambitie te versterken.
Duidelijke definitie
Het charter baseert zich op de definitie uit de Europese AI Act om af te bakenen wat onder AI wordt verstaan. Deze definitie is echter zeer breed en ambigu. Ze beschrijft in essentie systemen die output genereren op basis van input, met een zekere mate van autonomie en aanpassingsvermogen. Deze omschrijving heeft veel kritiek gekregen omdat ze AI-systemen niet duidelijk onderscheidt van gewone software.
Welke transparantie?
Transparantie wordt als één van de basisbeginselen naar voren geschoven, maar wat er in de tekst wordt voorzien is erg beperkt. Naast de verzekering dat de wetgeving wordt nageleefd, wordt er enkel aangegeven dat er documentatie zal worden bijgehouden. Wat deze documentatie precies inhoudt en wie hier inzage in krijgt, blijft onduidelijk.
Voor betere transparantie is het interessant om naar onze noorderburen te kijken, waar een openbaar algoritmeregister inzicht geeft in het gebruik van AI door de overheid. Momenteel staan er meer dan 1.000 algoritmes geregistreerd, waarbij telkens aandacht wordt besteed aan de werking en het verantwoord gebruik ervan.
Non-discriminatie en inclusie
Het charter vermeldt data-kwaliteit, maar laat thema’s als bias, discriminatie of uitsluiting buiten beschouwing. Geautomatiseerde systemen kunnen onbewust vooroordelen overnemen en versterken. Deze bias komt uit verschillende bronnen en is buitengewoon moeilijk te vermijden.
Dit vormt een bijzonder risico bij overheidstoepassingen en kan niet alleen veel leed veroorzaken voor betrokkenen, maar ook tot ernstige imagoschade leiden. Voorbeelden hiervan zijn het Amerikaanse COMPAS-systeem, dat mensen van kleur discrimineerde bij het berekenen van recidiverisico’s, en de toeslagenaffaire in Nederland, waarbij mensen met een buitenlandse achtergrond onevenredig werden gecontroleerd op fraude met kinderbijslag, een schandaal dat uiteindelijk tot de val van de Nederlandse regering leidde.
Dit charter lijkt eerder een verplicht nummer dan een document dat vertrouwen opbouwt of aantoont dat de overheid het verantwoord gebruik van AI serieus neemt. Het vormt vooral een gemiste kans. AI biedt de overheid weliswaar veel mogelijkheden, maar brengt ook talrijke, goed gedocumenteerde uitdagingen met zich mee.
In plaats van te verwijzen naar bestaande wetgeving, had België een voortrekkersrol kunnen spelen door deze uitdagingen concreet te benoemen. Wat we nu zien, is niet meer dan een oppervlakkige verzameling termen zonder werkelijke diepgang.
Wim Casteels is docent AI en IT. Hij is auteur van Het masker van AI.