Generatieve AI belooft snellere processen en betere dienstverlening, maar wie als lokaal bestuur vandaag met ChatGPT, Copilot, Gemini of Claude experimenteert, kan de AVG niet “wegprompten”. De Europese AI-verordening schept nieuwe rol- en zorgplichten voor ontwikkelaars en gebruikers, maar doet geen millimeter afbreuk aan de bestaande verplichtingen uit de AVG. Precies daar wringt in de praktijk vaak de schoen: wat u ingeeft in prompts of uploadt als inputdata kan persoonsgegevens bevatten en dus een verwerking in de zin van de AVG uitlokken.

Cumulatief denken: gebruiksverantwoordelijke én verwerkingsverantwoordelijke

Wanneer een lokaal bestuur een generatief AI-systeem inzet onder eigen gezag, treedt het in de regel op als gebruiksverantwoordelijke in de zin van de AI‑verordening. De daaruit voortvloeiende verplichtingen zijn risicogebaseerd. Bij hoog risico AI‑systemen vergen de regels onder meer gebruik conform de instructies, passend menselijk toezicht, waarborgen over de kwaliteit en relevantie van inputdata, én voorafgaande aandacht voor de mogelijke impact op grondrechten via een effectbeoordeling. Daarnaast gelden transparantieplichten voor bepaalde categorieën van AI-systemen: burgers moeten weten wanneer zij met een AI‑systeem interageren of wanneer synthetische content wordt gebruikt.

Belangrijk: deze AI‑verplichtingen komen bovenop, niet in plaats van, de Algemene Verordening Gegevensbescherming.

Zodra een lokaal bestuur hierbij dus persoonsgegevens verwerkt, kwalificeert ze niet enkel als (AI-)gebruiksverantwoordelijke, maar eveneens als verwerkingsverantwoordelijke onder de Algemene Verordening Gegevensbescherming. Dat impliceert, telkens wanneer persoonsgegevens via een AI‑systeem worden verwerkt, (o.a.) de vereiste van een geldige rechtsgrond (art. 6 AVG), het respecteren van het beginsel van de doelbinding, het organiseren van passende beveiliging, … mét – indien de verwerking waarschijnlijk een hoog risico inhoudt voor de rechten en vrijheden van natuurlijke personen – de verplichting om voorafgaand ook een gegevensbeschermingseffectbeoordeling uit te voeren.

Rechtsgrond en doelbinding: prompten is geen vrijgeleide

Prompts lijken onschuldig, tot u nadenkt over hun inhoud. Een instructie als “Vat de e‑mail van meneer (naam) samen en trek lessen voor het wijkactieplan” of “Beantwoord de melding 2024/123; de gegevens vindt u in bijlage” kan namen, e‑mailadressen, locatiegegevens en/of (gevoelige) dossiercontext bevatten die een natuurlijke persoon (in)direct identificeerbaar maakt.

Op dat ogenblik worden er dus (al dan niet: gevoelige) persoonsgegevens verwerkt.

Generatieve AI is een technologie, geen rechtsgrond: voor elke verwerking blijft een rechtmatige basis vereist op grond van artikel 6 AVG. Voor lokale besturen is dat doorgaans de vervulling van een wettelijke plicht (art. 6, lid 1, c AVG), een taak van algemeen belang of de uitoefening van openbaar gezag (art. 6, lid 1, e AVG), verankerd in een toepasselijke norm. Het beroep op het gerechtvaardigd belang (art. 6, lid 1, f AVG) ligt voor overheden in beginsel niet voor de hand bij de uitoefening van hun taken.

Het principe van de doelbinding vraagt daarnaast om discipline: definieer vooraf waarvoor de persoonsgegevens via een AI‑systeem worden ingezet en beperk prompts en inputdata tot wat voor dat doel noodzakelijk is. Wat buiten dat doel valt, hoort in beginsel niet in de prompt.

Inputdata: dataminimalisatie begint aan de bron

Artikel 5, lid 1, c AVG eist dataminimalisatie: verwerk enkel wat strikt noodzakelijk is. Dat vraagt bij generatieve AI om bewuste keuzes vóór de data wordt ingevoerd. Bevatten documenten of bijlagen persoonsgegevens, dan moet er steeds de vraag gesteld worden of deze gegevens weldegelijk onmisbaar zijn voor de concrete taak.

Werk waar mogelijk met anonimisering of – indien functioneel noodzakelijk – doordachte pseudonimisering. Let wel: pseudonimisering blijft een verwerking van persoonsgegevens zolang herleidbaarheid mogelijk is; enkel effectieve anonimisering brengt gegevens buiten het toepassingsgebied van de AVG, en dat is in de praktijk minder evident dan het lijkt. Het heridentificatierisico moet telkens opnieuw worden beoordeeld, zeker bij rijke contextdata of kleine populaties.

Bijzondere categorieën van persoonsgegevens (art. 9 AVG), zoals gezondheidsgegevens, politieke opvattingen of religieuze overtuiging, en gegevens over strafrechtelijke veroordelingen (art. 10 AVG) vergen bijkomende waarborgen en een nog strengere noodzakelijkheidstoets.

Transparantie, informatieplicht en vertrouwelijkheid: helder communiceren loont

Waar persoonsgegevens worden verwerkt, geldt de informatieplicht uit de artikelen 12 tot en met 14 AVG. Dat betekent dat burgers tijdig, duidelijk en begrijpelijk geïnformeerd moeten worden over onder meer het doel van de inzet van generatieve AI, de categorieën verwerkte gegevens, de ontvangers of categorieën van ontvangers (inclusief eventuele externe AI‑dienstverleners), de bewaartermijnen, de rechtsgrond, eventuele doorgiften buiten de EER en de uitoefening van rechten.

Voor bepaalde AI‑toepassingen geldt bovendien een expliciete transparantieverplichting onder de AI-Verordening: in voorkomend geval moet het duidelijk gemaakt worden wanneer burgers met een AI‑systeem interageren of wanneer synthetische content wordt gebruikt.

Vertrouwelijkheid is -tot slot- niet louter een IT‑kwestie. Het gaat ook om gedrag en cultuur. Een heldere “prompt policy” die medewerkers richting geeft over wat wél en niet in prompts mag verschijnen, verkleint de kans op ongeoorloofde gegevenslekken en ondersteunt een consistente toepassing van het need‑to‑know‑principe.

Verwerkers of (mede)verantwoordelijken? Contracteer op maat van de realiteit

De aanbieder van een generatief AI‑systeem is niet automatisch de ‘verwerker’. Hij kwalificeert enkel als verwerker in de zin van artikel 28 AVG voor zover hij onder gezag en uitsluitend ten behoeve van het lokaal bestuur persoonsgegevens verwerkt. In dat geval is een verwerkersovereenkomst verplicht (art. 28, lid 3 AVG), met duidelijke, gedetailleerde instructies, beveiligingsvereisten, auditrechten, regels rond subverwerkers en hulp bij rechtenverzoeken en incidenten.

Bepaalt de aanbieder van een generatief AI‑systeem (mee) de doeleinden van de verwerking, dan is er sprake van (gezamenlijke) verwerkingsverantwoordelijkheid. In dat scenario dringt een regeling overeenkomstig artikel 26 AVG zich op, met heldere afspraken over informatieplichten, de afhandeling van rechtenverzoeken, aansprakelijkheid en een centraal contactpunt.

Let erop dat deze gegevensbeschermingsafspraken naast, niet onder, de commerciële contracten staan. De juridische finesse zit in de consistentie: wat in de AI‑overeenkomst technisch is beloofd, moet in de verwerkers- of gezamenlijke verantwoordelijkheidsovereenkomst juridisch afdwingbaar en controleerbaar zijn.

Ambitieus in innovatie, strikt in gegevensbescherming

Generatieve AI kan het verschil maken in beleid en dienstverlening. Duurzame meerwaarde ontstaat echter pas wanneer rechtmatigheid, dataminimalisatie en transparantie verankerd worden vanaf de eerste prompt. Dat begint met vier basisstappen die vandaag al geborgd kunnen (eerder: moeten) worden: bepaal of er persoonsgegevens worden verwerkt, definieer doel en rechtsgrond, selecteer leveranciers met afdoende waarborgen en documenteer keuzes. Vanuit dat fundament kan er verantwoord worden opgeschaald, met behoud van vertrouwen van burgers en medewerkers.

Wie snel wil gaan, gaat bedachtzaam: festina lente. Door tempo te maken met beleid, procedures en contracten die de AVG respecteren, wordt de legitimiteit van de digitale transformatie van het bestuur versterkt. Zo wordt bestuurlijke intelligentie meer dan een slogan: het wordt een dagelijkse praktijk waarin innovatie en rechtszekerheid elkaar versterken.

Bij GD&A Advocaten begrijpen we als geen ander het belang van deze materie. Ons team staat dan ook steeds klaar om uw bestuur met kennis van zaken bij te staan.