De Europese AI-verordening (AI-Verordening) is van kracht en hertekent het speelveld voor alle Vlaamse steden en gemeenten ingrijpend. Niet alleen Big Tech, maar ook elk lokaal bestuur komt in het vizier van deze AI-Verordening, gezien de vraag niet (meer) is of uw bestuur in aanraking komt met artificiële intelligentie, maar veeleer in welke rol het dat doet – en welke juridische plichten daarbij horen. Hoog tijd dus om de strategische koers te bepalen: vaart uw bestuur veilig als gebruiksverantwoordelijke, omarmt uw bestuur de (meer) uitdagende rol van aanbieder, of manoeuvreert uw bestuur zich in de (eerder) uitzonderlijke positie van importeur of distributeur?

De meest voor de hand liggende rol: het lokaal bestuur als ‘gebruiksverantwoordelijke’

Voor de overgrote meerderheid van haar AI-toepassingen zal een lokaal bestuur -minstens op vandaag- kwalificeren als gebruiksverantwoordelijke. Een gebruiksverantwoordelijke is elke natuurlijke persoon of rechtspersoon, overheidsinstantie, agentschap of ander orgaan dat een (extern ontwikkeld) AI-systeem onder zijn eigen verantwoordelijkheid gebruikt, tenzij het AI-systeem wordt gebruikt in het kader van een persoonlijke, niet-beroepsmatige activiteit (art. 3, lid 4 AI-Verordening).

Denk hiervoor (bv.) aan een chatbot voor eerstelijns burgercontacten of een rekruteringsplatform dat cv’s filtert. In de meeste gevallen zal het lokale bestuur de chatbot of het rekruteringsplatform niet zelf (laten) ontwikkelen, maar veeleer ‘inkopen’ en vervolgens gebruiken resp. integreren in de eigen dienstverlening en werking.

Waarom is die kwalificatie als gebruiksverantwoordelijke relevant?

Omdat de AI-Verordening de gebruiksverantwoordelijke meerdere verplichtingen oplegt, zoals de plicht tot AI-geletterdheid: een lokaal bestuur moet in voorkomend geval kunnen aantonen dat de organisatie over “een passend niveau van AI-geletterdheid” beschikt. Medewerkers die met het systeem werken, dienen risico’s en beperkingen te begrijpen.

Ingeval het AI-systeem daarenboven zou kwalificeren als hoog-risicosysteem, komen daar nog enkele (zwaardere) plichten bij: een voorafgaande grondrechten­effectbeoordeling (FRIA), strikt gebruik binnen de handleiding van de aanbieder, het moeten garanderen van menselijk toezicht en de bewaring van automatisch gegeneerde logs.

Een stap verder: het lokaal bestuur als ‘aanbieder’

Innovatieve besturen schuiven soms door naar een actieve rol: de ontwikkeling en commercialisering van een eigen AI-systeem, al dan niet in co-creatie met een kennisinstelling of een Vlaamse IT-partner.

In voorkomend geval loert een kwalificatie van het bestuur als ‘aanbieder’ -onder de AI-Verordening- om de hoek. Een aanbieder is de natuurlijke of rechtspersoon, overheidsinstantie, agentschap of ander orgaan die/dat een AI-systeem of een AI-model voor algemene doeleinden ontwikkelt of laat ontwikkelen en dat systeem of model in de handel brengt of het AI-systeem in gebruik stelt onder de eigen naam of merk, al dan niet tegen betaling (art. 3, lid 3 AI-Verordening).

Waarom is de kwalificatie als aanbieder relevant?

Simpelweg omdat de consequenties van een kwalificatie van uw lokaal bestuur als aanbieder van een AI-systeem aanzienlijk zwaarder zijn dan degene die gerespecteerd en geïmplementeerd moeten worden door een lokaal bestuur als gebruikersverantwoordelijke.

Wanneer een lokaal bestuur optreedt als aanbieder van een ‘hoog risico’ AI-systeem, draagt het (bv.) de eindverantwoordelijkheid voor de naleving van de AI-Verordening gedurende de gehele levenscyclus van het AI-systeem. Te beginnen met het implementeren van een robuust kwaliteits- en risicobeheersysteem, het waarborgen van hoogwaardige en onbevooroordeelde data en het succesvol doorlopen van een conformiteitsbeoordeling. Ook is de aanbieder van een ‘hoog risico’ AI-systeem verplicht het systeem te registreren in de EU-databank, de prestaties ervan continu te monitoren en onmiddellijk corrigerende maatregelen te nemen of ernstige incidenten te melden.

Het verschil met de rol van gebruiksverantwoordelijke is fundamenteel. Waar de gebruiker vooral correct gebruik moet aantonen, draagt de aanbieder product­aansprakelijkheid over de hele levenscyclus.

De minder bewandelde weg: ‘importeur’ en ‘distributeur'

De AI-Verordening voorziet verder nog in de rollen van ‘importeur’ en ‘distributeur’.

Een importeur is een natuurlijke of rechtspersoon die in de Europese Unie gevestigd is en dat een AI-systeem, van een partij van buiten de EU, als eerste op de Europese markt aanbiedt (art. 3, lid 6 AI-Verordening). De rol van distributeur is gedefinieerd als een 'restcategorie' voor elke actor in de toeleveringsketen die, na de aanbieder (indien uit de EU) of importeur (indien van buiten de EU), een AI-systeem op de markt aanbiedt (art. 3, lid 7 AI-Verordening).

Beide rollen hebben een uitgesproken commercieel karakter, wat de kans op kwalificatie van een klassiek lokaal bestuur in Vlaanderen als importeur of distributeur onder de AI-Verordening eerder beperkt (maar evenmin onbestaand!) maakt.

De rol van een lokaal bestuur onder de AI-Verordening: een strategische keuze met gevolgen

De rol die het lokaal bestuur onder de AI-Verordening (of beter gesteld: haar kwalificatie als gebruiksverantwoordelijke, als aanbieder, als importeur, als distributeur, …) opneemt, is geen semantische exercitie maar een cruciale bestuurs­beslissing met juridische, financiële en operationele gevolgen. Samengevat:

• Lokaal bestuur als gebruiksverantwoordelijke – focus op correcte implementatie en toezicht;
• Lokaal bestuur als aanbieder – volledige product­aansprakelijkheid en verantwoordelijkheid om de naleving van de AI-Verordening van A tot I te garanderen
• Lokaal bestuur als importeur of distributeur – (commerciële) poortwachtersrol;

Welke rol uw lokaal bestuur ook inneemt (resp. zal innemen), de AI-Verordening maakt duidelijk dat transparantie, grondrechten­bescherming en menselijk toezicht de rode draad vormen.

Wie de rollenmatrix van de AI-Verordening begrijpt en er tijdig op anticipeert, zet een grote stap richting future-proof lokaal bestuur. Lokale besturen die vandaag investeren in AI-geletterdheid, datakwaliteit en governance, plukken morgen de vruchten van snellere processen, lagere foutenlast en – niet onbelangrijk – vertrouwen bij burger en toezichthouder.

Een heldere analyse van de rol van uw lokaal bestuur in elk specifiek AI-project is de onmisbare eerste stap. GD&A Advocaten staat u graag bij om deze complexe oefening in goede banen te leiden en uw bestuur klaar te stomen voor een toekomst waarin AI en goed bestuur hand in hand gaan.

Praemonitus, praemunitus – wie gewaarschuwd is, is gewapend