Met de inwerkingtreding van de Europese AI-Verordening is AI-geletterdheid een onmiskenbare juridische plicht voor elk Vlaams lokaal bestuur. Of u nu al volop inzet op AI of nog aarzelend de eerste stappen zet, de Europese wetgever verwacht dat uw medewerkers – van beleidsmaker tot baliemedewerker – aantoonbaar over de juiste kennis, vaardigheden en het juiste bewustzijn beschikken, ingeval zij met AI-systemen werken. In deze nieuwsbrief belichten we de juridische fundamenten, praktische implementatie en strategische meerwaarde van AI-geletterdheid voor lokale besturen in Vlaanderen.

Wanneer geldt de verplichting tot AI-geletterdheid?

Artikel 4 van de AI-Verordening legt alle aanbieders en alle gebruiksverantwoordelijken van een AI-systeem de resultaatsverplichting op om “zoveel als mogelijk” te zorgen voor een toereikend niveau van AI-geletterdheid bij alle personeelsleden die in aanraking komen met het systeem of zijn output. Niet onbelangrijk hierbij is dat de reikwijdte van deze verplichting:

• Technologie-neutraal is: elk AI-systeem -ongeacht leverancier, gebruikte programmeertaal of het leer­model– valt eronder;
• Risico-neutraal is: ook bij minimaal of beperkt risico is AI-geletterdheid aan de orde;
• Functie-overstijgend is: niet alleen de data-architect of ICT-beheerder, maar evengoed de loket­medewerker, de jurist én de mandataris moeten aantoonbaar geschoold zijn, van zodra zij met de output of werking van een AI-systeem in aanraking komen;

Met andere woorden: waar uw bestuur zich ook bevindt in het AI-ecosysteem (koploper, volger of nog observator) vanaf 2 februari 2025 rust er op ieder lokaal bestuur dat inzet op resp. gebruik maakt van AI-systemen een onverdeelde zorgplicht om kennis, vaardigheden én bewustzijn te verzekeren.

Wat betekent AI-geletterdheid concreet?

AI-geletterdheid wordt in artikel 3, lid 56 van de AI-Verordening omschreven als het geheel van vaardigheden, kennis en begrip die medewerkers in staat stellen om geïnformeerd AI-systemen in te zetten en zich bewust te worden van de kansen, risico’s en potentiële schade die AI kan veroorzaken.

Theoretisch abstract, maar in de praktijk vertaalt dit zich -over het algemeen- in drie didactische pijlers:

• Basisbegrip van de technologie:
  • werking van algoritmen, machine learning en generatieve modellen;
  • concepten als training-data, prompt-engineering en model-hallucinatie;
  • …
    
• Bewustzijn en kennis van ethische en juridische kaders:
  • Inzicht inzake bias-gevoeligheid, ondoorzichtigheid en autonomie-vallen;
  • Algemene kennis van zowel de AI-Verordening als andere relevante regelgeving (zoals de Algemene Verordening Gegevensbescherming);
  • …
    
• (Praktische) vaardigheden en inzichten:
  • Beoordelingsvermogen inzake de betrouwbaarheid van output en de nood tot menselijke tussenkomst;
  • Inzicht in het totstandkomingsproces van beslissingen (uitlegbaarheid);
  • Bewustzijn over de eigen rol en verantwoordelijkheid bij het gebruik van AI-systemen;
  • …

De AI-Verordening schrijft geen uniforme aanpak met betrekking tot AI-geletterdheid voor, maar vereist daarentegen een gedifferentieerde en proportionele benadering, afhankelijk van de technische kennis, ervaring, onderwijs en opleiding van het personeel en de context waarin de AI-systemen zullen worden gebruikt. Voor een strategisch beleidsmedewerker volstaat mogelijks een e-learning en een jaarlijkse workshop, terwijl de IT-beheerder, de AICO, … veeleer de richting zullen uitgaan van diepgaandere, periodieke hands-on sessies.

AI-geletterdheid is dus geen “one size fits all”, maar wel “fit-for-purpose”.

Risico’s bij gebrekkige AI-geletterdheid: waarom nu handelen?

Het negeren van de verplichting tot AI-geletterdheid van medewerkers binnen uw lokaal bestuur brengt aanzienlijke en onomkeerbare risico’s met zich mee. Het onverantwoord inzetten van AI-systemen door onvoldoende opgeleid personeel leidt onvermijdelijk tot juridische procedures, aansprakelijkheid en reputatieschade. Incidenten zoals discriminerende besluitvorming door vertekende data, inbreuken op privacy of het gebruik van onbetrouwbare, "hallucinerende" AI-output, schenden niet alleen de grondrechten van burgers maar ook de algemene beginselen van behoorlijk bestuur, zoals het zorgvuldigheids-, gelijkheids- en motiveringsbeginsel.

Wie blind AI inzet, ziet vroeg of laat dan ook niet enkel geblindeerde rechtspraak op zich afkomen, maar ondermijnt eveneens het vertrouwen van de burger in de overheid en tast de democratische legitimiteit van het bestuur aan.

Daarnaast creëert een gebrek aan AI-geletterdheid een strategische achterstand. Besturen die niet investeren in de kennis en vaardigheden van hun medewerkers, zullen -eerder vroeger dan later- niet in staat zijn om het potentieel van AI op een veilige en effectieve manier te benutten. Kansen op efficiëntiewinsten en een verbeterde -meer performante- dienstverlening dreigen onverbiddelijk verloren te gaan …

AI-geletterdheid als hefboom voor toekomstbestendig bestuur

Het arsenaal aan AI-toepassingen groeit exponentieel; de juridische marges daarentegen worden scherper afgetekend. Lokale besturen die vandaag investeren in AI-geletterdheid, plukken morgen ongetwijfeld de vruchten van efficiëntere processen, betere besluitvorming en verhoogd burger­vertrouwen.

Met de woorden van de Romeinse jurist Ulpianus: Ignorantia iuris nocet – onwetendheid van de wet schaadt. Laat onwetendheid over kunstmatige intelligentie niet uw Achilleshiel zijn.

Bij GD&A Advocaten begrijpen we als geen ander het belang van deze materie. Ons team staat dan ook klaar om uw bestuur met kennis van zaken bij te staan en -vooral- te ontzorgen bij de implementatie van de AI-Verordening (incl. AI-geletterdheid) met een plan van een aanpak op maat