Dossier Economie

AI

De overheid zet AI vooral in om burgers te controleren, bijvoorbeeld met risicoprofilering, terwijl zij zelf moeilijk te controleren blijft: actieve openbaarmaking onder de Woo is grotendeels niet in werking en een wettelijk algoritme- en lobbyregister ontbreekt. Burgerplatform wil eerst stoppen met profilering zonder concrete verdenking en met AI-besluiten die de overheid niet kan uitleggen. Daarna volgen openheid als standaard en een openbare afweging bij grote besluiten, en ten slotte burgerberaden en publieke, open AI. Dit concept is in uitvoering en iedereen kan bijdragen.

Bekijk de maatregelen Doe mee

1956 keer bekeken
Work in progress: dit dossier wordt nog aangevuld en geredigeerd

Analyse

Probleem, grondoorzaak en impact

Analyse dossier

AI en democratie: AI die de overheid controleert, niet de burger (stoppen, bron, herstel)

CONCEPT. AI wordt door de overheid vooral ingezet om burgers te controleren (risicoprofilering, fraudeopsporing), terwijl de overheid zelf moeilijk controleerbaar blijft: actieve openbaarmaking onder de Woo is grotendeels niet in werking (11 van 12 categorieen), het algoritmeregister en het lobbyregister zijn niet wettelijk, en een openbare afweging van brede welvaart is niet verplicht. Tegelijk bedreigen manipulatie (deepfakes, gerichte politieke advertenties, vertekend stemadvies door chatbots) en afhankelijkheid van een paar techbedrijven de democratie. Subject 184 (AI), met verwijzing naar subject 174 (Democratie).

Grondoorzaak

Asymmetrie in controle: de overheid heeft data en algoritmen over burgers, burgers hebben geen gelijkwaardige toegang tot informatie over de overheid. Oorzaken: (1) profilering zonder concrete verdenking en zonder transparantie (AP 2020 toeslagen, SyRI 2020); (2) handhaving van AI-regels tegen de overheid zelf ontbreekt nog (AP RAN 6, maart 2026; UAIV nog niet bij de Kamer); (3) openbaarheid hangt af van verzoeken en vrijwillige registers; (4) grote besluiten zonder verplichte, openbare afweging; (5) weinig echte invloed van burgers op grote keuzes.

Financieel lek

€ M

minimale jaarlijkse derving

Sociale schade

0%">

/10

Complexiteit

0%">

/10

Escalatierisico

0%">

/10

Alle analyses: wat kost ons systeem ons echt?

Standpunt Burgerplatform

Achtergrond

Het dossier

Voorkomen is beter dan genezen

Maatregelen: eerst stoppen, dan de bron, dan herstel

We ordenen oplossingen in drie stappen. Eerst voorkomen dat de schade groter wordt, dan de oorzaak wegnemen, en pas daarna repareren wat er al misging.

1
Stoppen
Voorkom dat het probleem groter wordt.
- CONCEPT Stop: geen risicoprofilering van burgers zonder concrete verdenking, AI-verboden echt handhaven, geen manipulatie bij verkiezingenCONCEPT - stop (RuleId 10, stap 1). Keuze 1C (Harmen 2026-10-01): hoogste-risico-overheids-AI direct gebonden met eigen nationale instrumenten (art. 3:51 Awb, WGS, Wet algoritmeregister); overige bestaande systemen gefaseerd, uiterlijk voor 2-8-2030. Geen risicoprofilering zonder concrete feiten, AI-verboden ook tegen bestuursorganen handhaven met boetes, geen realtime biometrische identificatie en structurele AP-middelen. Juridisch uitgewerkt: LD 1090-1100. Kosten PM.
- CONCEPT Stop: geen besluiten over burgers met AI die de overheid niet kan uitleggen of laten controleren; einde black box en lock-inCONCEPT - stop (RuleId 10, stap 1). Keuze Harmen 2026-10-01: 2C. De EU-lokalisatie-eis geldt alleen voor gevoelige gegevens: bijzondere persoonsgegevens uit AVG art. 9 en 10 plus BSN; en voor kritieke vitale aanbieders en overheidstaken uit de Wbni en Cyberbeveiligingswet (NIS2). Auditrecht, documentatie, bias-toets en exitplan blijven breder gelden. Kosten PM. Klasse 2: juridische toets volgt.
2
Bij de bron
Neem de oorzaak weg.
- CONCEPT Bron: overheid standaard open - Woo actieve openbaarmaking in werking, wettelijk algoritme- en lobbyregister, open contracten en subsidiesCONCEPT - bron (RuleId 10, stap 2). Keuze Harmen 2026-10-01: optie 3C en 4B. Woo-categorieen voor actieve openbaarmaking met wettelijke einddatum in werking, Wet algoritmeregister met AP-toezicht, open contracten (nieuw art. 2.134a Aanbestedingswet), Wet lobbyregister naar Iers model met proportionele sancties, gerichte afkoelperiode en onafhankelijk toezicht, Kamerleden via het Reglement van Orde, melding van AI-gebruik. LD 1106-1115. Kosten PM.
- CONCEPT Bron: geen groot besluit zonder openbare afweging - MKBA op brede welvaart en grondrechtentoets als verplichte kwaliteitseisCONCEPT - bron (RuleId 10, stap 2). Besluiten zonder openbare afweging zijn een bron van slecht beleid. De ministerraad voegt aan de verplichte kwaliteitseisen van het Beleidskompas toe: (1) bij grote besluiten een MKBA op brede welvaart met openbare aannames en rekenmodellen; (2) een grondrechten- en algoritmetoets als de overheid AI tegenover burgers inzet. AI mag helpen rekenen en vergelijken, met openbare methode; mensen beslissen. Bouwt op 223, 134, 217. Kosten PM.
3
Herstellen
Repareer de schade en pas je aan.
- CONCEPT Herstel: burgers terug aan tafel - burgerberaden over grote keuzes (ook AI) en AI-hulp bij inspraak met openbare methodeCONCEPT - herstel (RuleId 10, stap 3). Vertrouwen herstellen door burgers echt invloed te geven. (1) Burgerberaden over grote keuzes, ook over hoe de overheid AI inzet, naar het model van het Nationaal Burgerberaad Klimaat: loting, motiveringsplicht en besprekingsplicht in de Kamer. (2) AI helpt inspraakreacties te ordenen en samen te vatten, met openbare methode, controle door mensen en inzage voor wie reageerde. Kosten PM.
- CONCEPT Herstel: publieke en open AI - investeren in controleerbare AI in publieke handen, met openheid als voorwaarde voor publiek geldCONCEPT - herstel (RuleId 10, stap 3; volgt op stop d, policy 228). Publiek geld voor AI (zoals GPT-NL en de AI-fabriek Groningen) alleen met openheid als voorwaarde: open of ruim gelicenseerd gebruik voor publieke sector, onderwijs en onderzoek, openbare documentatie van data en model, onafhankelijke toetsing. Financiering via het Fonds Brede Welvaart met MKBA (223, 230). Rekenkracht volgt de datacenterregels (213, 215). Kosten PM.

Nog geen maatregelen in dit dossier. Doe een voorstel

Uitgewerkte oplossingen

MKBA en brede welvaart

Wat kost het, wat levert het op?

MKBA

Voor dit dossier is nog geen maatschappelijke kosten-batenanalyse (MKBA) beschikbaar. Burgerplatform weegt maatregelen op brede welvaart: niet alleen geld, maar ook gezondheid, leefomgeving, bestaanszekerheid en de gevolgen voor volgende generaties, volgens de leidraad van CPB en PBL. Heb je cijfers of bronnen? Laat het ons weten.