Is een position paper voldoende?
Datum: 19 juli 2026.
Door Alexander Groenheide, Voorzitter Stichting...
...De Kamer van Sociale Waarden.
Dit is het tweede deel van de reeks over kunstmatige intelligentie en...
...menselijke verantwoordelijkheid.
In het eerste deel, Wie bestuurt straks wie?...
...stond de vraag centraal of de mens werkelijk de leiding houdt wanneer...
...kunstmatige intelligentie steeds meer informatie ordent...
...alternatieven formuleert en adviezen voorbereidt.
De conclusie was dat menselijke controle meer moet zijn dan formele...
...aanwezigheid.
Een mens die alleen nog toestemming geeft voor een door AI voorgestelde...
...uitkomst, is niet vanzelf een betekenisvolle beslisser.
In dit tweede deel onderzoeken we daarom een volgende vraag.
Is een position paper voldoende?
Steeds vaker worden beleidsstukken, analyses...
...adviezen en position papers grotendeels met behulp van kunstmatige...
...intelligentie opgesteld.
Een mens formuleert een opdracht.
Het systeem ordent de informatie.
Het produceert argumenten, samenvattingen...
...aanbevelingen en soms zelfs een volledig besluitvoorstel.
Daarna leest een medewerker...
...bestuurder of deskundige de tekst nog even door.
Een paar woorden worden aangepast.
Een alinea wordt verplaatst.
Misschien wordt een conclusie iets voorzichtiger geformuleerd.
En vervolgens verschijnt onderaan het document een naam...
...een functie en een handtekening.
Maar wat bewijst die handtekening eigenlijk?
Bewijst zij dat een mens werkelijk heeft nagedacht?
Bewijst zij dat de argumenten zijn gecontroleerd?
Bewijst zij dat alternatieven zijn afgewogen...
...bronnen zijn beoordeeld en onzekerheden zijn herkend?
Of bewijst die handtekening alleen dat iemand toestemming heeft gegeven om...
...een door een algoritme samengestelde tekst te gebruiken?
Dat verschil is wezenlijk.
Een document kan er professioneel uitzien.
Het kan zorgvuldig zijn opgebouwd.
Het kan verwijzen naar wetgeving...
...wetenschappelijk onderzoek en maatschappelijke waarden.
Maar daarmee is nog niet bewezen dat een mens de onderliggende afweging...
...zelfstandig heeft gemaakt.
Misschien hebben we daarom meer nodig dan alleen een position paper.
Misschien moeten we niet alleen documenteren wat uiteindelijk is besloten...
...maar ook hoe dat besluit tot stand is gekomen.
Welke informatie kwam van mensen?
Welke passages werden door AI gegenereerd?
Welke bronnen zijn daadwerkelijk gecontroleerd?
Welke voorstellen zijn aangepast of verworpen?
Welke onzekerheden bleven bestaan?
En wie had uiteindelijk werkelijk de bevoegdheid...
...de tijd en de ruimte om van het AI-advies af te wijken?
In deze voice-over staan daarom drie open vragen centraal.
Welke onderdelen van een besluit moeten altijd aantoonbaar onder menselijke...
...verantwoordelijkheid worden geschreven?
Hoe maken we zichtbaar welk deel van een analyse of beleidsstuk afkomstig is...
...van kunstmatige intelligentie?
En kan een besluit nog democratisch worden genoemd wanneer vrijwel alle...
...argumentatie door AI is opgesteld?
Een position paper kan waarden zichtbaar maken...
...argumenten ordenen en een besluit motiveren.
Maar een position paper kan ook een keurige voorkant worden waarachter het...
...werkelijke besluitvormingsproces verborgen blijft.
De centrale vraag is daarom niet alleen...
...of er een mens onder het document staat.
De centrale vraag is of menselijke besluitvorming ook zichtbaar...
...herleidbaar en bewijsbaar is.
De mens als goedkeuringsstempel.
Het gebruik van AI bij beleidsvorming hoeft op zichzelf geen probleem te...
...zijn.
Een AI-systeem kan grote hoeveelheden informatie verwerken.
Het kan documenten vergelijken, patronen herkennen...
...tegenstrijdigheden signaleren en helpen om een complexe discussie...
...overzichtelijk te maken.
Dat kan de kwaliteit van beleid verbeteren.
Het kan ambtenaren ondersteunen die onder hoge tijdsdruk werken.
Het kan kleine maatschappelijke organisaties toegang geven tot...
...analysecapaciteit die voorheen alleen beschikbaar was voor grote...
...instellingen met juridische afdelingen...
...onderzoeksbureaus en beleidsmedewerkers.
Maar precies daar ontstaat ook een risico.
Hoe beter het systeem schrijft...
...hoe verleidelijker het wordt om de tekst zonder diepgaande controle over te...
...nemen.
De argumentatie klinkt logisch.
De structuur is professioneel.
De toon is overtuigend.
De bronnen lijken relevant.
En de conclusie past binnen de opdracht.
Dan kan de menselijke controle ongemerkt veranderen in een administratieve...
...handeling.
De mens kijkt niet meer of het besluit klopt...
...maar of het document er overtuigend uitziet.
Niet meer: heb ik deze afweging zelf gemaakt?
Maar: kan ik hiermee naar buiten?
Niet meer: welke waarden botsen hier?
Maar: is de formulering juridisch voorzichtig genoeg?
Niet meer: wie draagt de gevolgen?
Maar: staat er ergens dat de mens eindverantwoordelijk blijft?
Zo verandert de menselijke beslisser langzaam in een goedkeuringsstempel.
Formeel blijft de mens verantwoordelijk.
Materieel heeft het systeem echter de probleemdefinitie, de argumentatie...
...de prioriteiten en de conclusie gevormd.
Dat verschil tussen formele en werkelijke verantwoordelijkheid is...
...essentieel.
Een besluit is niet menselijk omdat een mens het ondertekent.
Een besluit is menselijk wanneer mensen aantoonbaar invloed hebben gehad op...
...de vragen, de waarden, de interpretatie van de feiten...
...de afweging van alternatieven en de uiteindelijke motivering.
Goedkeuring is iets anders dan een eigen afweging.
Een goedkeuring betekent dat iemand instemt met een resultaat.
Een eigen afweging betekent dat iemand het besluitvormingsproces inhoudelijk...
...heeft doorlopen.
Dat zijn niet dezelfde handelingen.
Iemand kan een voorstel goedkeuren zonder alle bronnen te hebben gelezen.
Iemand kan een AI-advies accepteren zonder te begrijpen waarom bepaalde...
...argumenten zwaarder zijn gewogen dan andere.
Iemand kan een document ondertekenen zonder zicht te hebben op de...
...instructies waarmee het systeem is aangestuurd.
En iemand kan formeel bevoegd zijn om af te wijken...
...terwijl de organisatie daar feitelijk geen tijd...
...ruimte of veiligheid voor biedt.
Stel dat een beleidsmedewerker drie uur krijgt om een ingewikkeld advies...
...over zorg, veiligheid, onderwijs of jeugdbescherming op te stellen.
Een AI-systeem produceert binnen enkele minuten een samenhangend document.
De medewerker kan het voorstel aanpassen...
...maar moet dezelfde dag nog leveren.
Formeel is er menselijke controle.
Praktisch is er nauwelijks ruimte voor een eigen afweging.
De medewerker kan theoretisch afwijken.
Maar afwijken betekent opnieuw onderzoek doen, bronnen raadplegen...
...alternatieven formuleren en misschien uitleggen waarom een geavanceerd...
...systeem ernaast zit.
Onder tijdsdruk wordt instemmen dan de eenvoudigste keuze.
Zo kan menselijke controle bestaan op papier...
...terwijl zij in de praktijk vrijwel leeg is.
Daarom moeten we niet alleen vragen wie het besluit heeft ondertekend.
We moeten ook vragen.
Hoeveel tijd had deze persoon?
Welke informatie was beschikbaar?
Welke onderdelen kon hij of zij controleren?
Was er ruimte om tegen te spreken?
Werd afwijking van het AI-advies geregistreerd als professionele...
...zorgvuldigheid, of vooral als vertraging?
En kon de beslisser de gevolgen van het besluit daadwerkelijk overzien?
De Europese AI-verordening...
...documentatie is onderdeel van verantwoordelijkheid.
De Europese AI-verordening maakt duidelijk dat verantwoording niet alleen...
...betrekking heeft op de uiteindelijke uitkomst.
Voor hoog-risico-AI bevatten de artikelen elf tot en met dertien eisen rond...
...technische documentatie, registratie van gebeurtenissen, traceerbaarheid...
...transparantie en informatie voor degenen die het systeem gebruiken.
Die eisen zijn belangrijk omdat zij erkennen dat een AI-uitkomst niet los...
...kan worden gezien van het systeem en het proces waaruit die uitkomst...
...voortkomt.
Om een beslissing te kunnen beoordelen, moet zichtbaar zijn.
welk systeem is gebruikt.
welke mogelijkheden en beperkingen bekend waren.
welke gegevens en instructies een rol speelden.
welke gebeurtenissen zijn geregistreerd.
hoe de uitvoer moet worden geïnterpreteerd.
en welke vorm van menselijk toezicht noodzakelijk is.
Een einddocument alleen vertelt dat verhaal niet.
Een position paper kan keurig uitleggen welke conclusie is bereikt...
...maar het document laat niet automatisch zien hoe AI de argumentatie heeft...
...beïnvloed.
Misschien heeft het systeem tien mogelijke interpretaties gegenereerd en...
...koos de mens er één.
Misschien genereerde het systeem maar één dominante lijn...
...waarna de mens vooral de formulering verbeterde.
Misschien zijn kritische bronnen nooit in de analyse terechtgekomen.
Misschien waren de gebruikte instructies al zo sturend dat de uitkomst...
...grotendeels vaststond.
Misschien heeft een medewerker belangrijke AI-fouten gecorrigeerd.
Maar misschien ook niet.
Zonder documentatie weten we het niet.
Daarom is traceerbaarheid geen technische luxe.
Het is een voorwaarde om verantwoordelijkheid betekenis te geven.
Van einddocument naar besluitdossier.
Een position paper kan een belangrijke rol spelen.
Het kan waarden expliciet maken.
Het kan een probleem definiëren.
Het kan verschillende belangen zichtbaar maken.
Het kan bronnen verzamelen en mogelijke handelingsrichtingen formuleren.
Maar wanneer kunstmatige intelligentie een substantiële rol speelt...
...zou het position paper onderdeel moeten worden van een breder...
...besluitdossier.
Dat besluitdossier hoeft niet iedere losse muisklik of iedere tijdelijke...
...formulering te bewaren.
Het hoeft ook geen onleesbaar technisch archief te worden waarin niemand...
...meer de kern van de besluitvorming kan terugvinden.
Maar het moet voldoende informatie bevatten om achteraf te kunnen...
...reconstrueren hoe het besluit is ontstaan.
Daarbij kan worden vastgelegd.
welk menselijke waardenkader vooraf is gebruikt.
welke vragen door mensen zijn geformuleerd.
welke bronnen zijn ingevoerd of geraadpleegd.
welk AI-model en welke modelversie zijn gebruikt.
welke belangrijke prompts of instructies zijn gegeven.
welke AI-uitvoer wezenlijke invloed heeft gehad.
welke onderdelen door mensen zijn gewijzigd.
welke voorstellen bewust zijn verworpen.
welke onzekerheden zijn blijven bestaan.
welke afwijkende meningen zijn ingebracht.
en wie uiteindelijk de verantwoordelijkheid voor de beslissing heeft...
...genomen.
Het position paper wordt daarmee niet overbodig.
Integendeel.
Het krijgt juist een duidelijkere plaats.
Het wordt het leesbare en inhoudelijke sluitstuk van een aantoonbaar...
...besluitvormingsproces.
Model Cards: weten welk instrument is gebruikt.
Een tweede bouwsteen vinden we in het idee van model cards.
In de publicatie Model Cards for Model Reporting introduceerden Margaret...
...Mitchell en haar mede-auteurs een gestandaardiseerde manier om informatie...
...over AI-modellen vast te leggen.
Een model card beschrijft bijvoorbeeld.
waarvoor een model bedoeld is.
waarvoor het niet bedoeld is.
in welke situaties het is getest.
welke prestaties bekend zijn.
welke beperkingen bestaan.
en welke ethische aandachtspunten relevant zijn.
Dat klinkt misschien technisch, maar de bestuurlijke betekenis is groot.
Wanneer een organisatie AI gebruikt om beleid...
...analyses of besluiten voor te bereiden...
...moet zij weten wat voor instrument zij gebruikt.
Een taalmodel dat overtuigende teksten kan produceren...
...is niet automatisch geschikt om juridische conclusies te trekken.
Een systeem dat goed presteert op algemene teksten...
...is niet automatisch betrouwbaar bij specialistische medische...
...sociale of bestuursrechtelijke vragen.
En een model dat een evenwichtig antwoord lijkt te geven...
...kan toch belangrijke groepen...
...ervaringen of perspectieven onvoldoende vertegenwoordigen.
Een position paper beschrijft vooral de menselijke kant van het besluit.
Welke waarden spelen een rol?
Welke argumenten worden gebruikt?
Welke conclusie wordt verdedigd?
Een model card beschrijft het gebruikte instrument.
Wat kan dit systeem?
Wat kan het niet?
Waarop is het getest?
Welke risico’s zijn bekend?
Beide zijn nodig.
Zonder position paper ontbreekt de menselijke en maatschappelijke...
...motivering.
Zonder informatie over het model blijft onduidelijk hoeveel vertrouwen aan...
...de gebruikte AI kon worden gegeven.
Datasheets for Datasets: de gegevens achter het antwoord.
Een AI-systeem produceert geen uitkomst vanuit het niets.
Het model is ontwikkeld met gegevens.
Het kan daarnaast tijdens het gebruik worden gevoed met documenten...
...databronnen, instructies, dossiers of zoekresultaten.
Daarom is niet alleen het model relevant...
...maar ook de informatie waarop het model steunt.
De publicatie Datasheets for Datasets...
...van Timnit Gebru en haar mede-auteurs...
...stelde voor om datasets te voorzien van gestandaardiseerde documentatie.
Daarin kan worden beschreven.
waarom de dataset is verzameld.
waar de gegevens vandaan komen.
hoe de samenstelling tot stand kwam.
welke groepen of situaties wel en niet vertegenwoordigd zijn.
welke beperkingen bekend zijn.
welk gebruik passend is.
en welk gebruik juist risico’s oplevert.
Dat uitgangspunt is ook van belang bij generatieve AI.
Wanneer een systeem een beleidsanalyse opstelt...
...moeten we niet alleen kijken naar de kwaliteit van de tekst.
We moeten ook vragen welke informatie de analyse heeft gevormd.
Welke documenten zijn geselecteerd?
Welke bronnen zijn uitgesloten?
Ging het vooral om officiële beleidsdocumenten?
Zijn ook ervaringen van burgers, cliënten...
...werknemers of minderheden meegenomen?
Zijn bronnen actueel?
Is duidelijk welke informatie onzeker, omstreden of verouderd is?
Wanneer de invoer eenzijdig is...
...kan de uitvoer zeer professioneel klinken en toch eenzijdig blijven.
De kwaliteit van een besluit hangt daarom niet alleen af van het gebruikte...
...model.
Zij hangt ook af van de bronnen...
...gegevens en perspectieven die in het proces zijn toegelaten.
Een openbaar AI-gebruiksregister.
De Britse overheid ontwikkelde de Algorithmic Transparency...
...Recording Standard.
Deze standaard is bedoeld om overheidsorganisaties op een herkenbare en...
...openbaar toegankelijke manier te laten beschrijven waarom en hoe zij...
...algoritmische hulpmiddelen gebruiken.
Daarbij kan onder andere worden vastgelegd.
welk probleem het hulpmiddel moet ondersteunen.
hoe het systeem wordt ingezet.
welke organisatie verantwoordelijk is.
welke invloed het systeem heeft op besluitvorming.
welke gegevens worden gebruikt.
en welke waarborgen aanwezig zijn.
Voor bepaalde Britse overheidsorganisaties is publicatie...
...volgens deze standaard verplicht gesteld.
Dat principe kan ook buiten de Britse overheid waardevol zijn.
Denk aan gemeenten, zorginstellingen, onderwijsorganisaties...
...maatschappelijke samenwerkingsverbanden en kennisinstituten.
Wanneer AI wezenlijke invloed heeft op documenten of beslissingen...
...zou een organisatie in een openbaar AI-gebruiksregister kunnen vastleggen.
welk systeem wordt gebruikt.
voor welk doel.
in welke processen.
met welke menselijke controle.
en met welke bekende beperkingen.
Zo hoeft een burger niet te raden of een beleidsstuk grotendeels door...
...mensen, door AI of door een combinatie van beide is opgesteld.
Transparantie betekent dan niet dat iedere prompt en ieder intern concept...
...openbaar moet worden gemaakt.
Sommige informatie kan persoonsgegevens, beveiligingsinformatie...
...of vertrouwelijke beraadslaging bevatten.
Maar de hoofdlijnen van het gebruik moeten controleerbaar zijn.
De samenleving moet kunnen weten wanneer een algoritmisch systeem invloed...
...heeft gehad op een besluit dat mensen raakt.
Versiebeheer: welk document is eigenlijk beoordeeld?
Bij traditionele besluitvorming lijkt het vaak duidelijk welk document...
...definitief is.
Maar bij AI-ondersteund schrijven kunnen in korte tijd tientallen versies...
...ontstaan.
Een eerste prompt levert een concept.
Een vervolgprompt vraagt om een strengere juridische analyse.
Een derde versie wordt vriendelijker geformuleerd.
Daarna wordt een bron toegevoegd.
Vervolgens worden kritische passages ingekort.
Een collega laat het document opnieuw door een ander model herschrijven.
En uiteindelijk verschijnt een nette definitieve tekst.
Maar welke versie heeft de menselijke beslisser werkelijk gelezen?
Welke AI-uitvoer vormde de basis?
Welke wijzigingen zijn inhoudelijk en welke uitsluitend stilistisch?
Zijn waarschuwingen uit eerdere versies verdwenen?
Is een minderheidsstandpunt geschrapt omdat het niet in de gewenste...
...structuur paste?
Zonder versiebeheer kunnen belangrijke beslismomenten onzichtbaar worden.
Versiebeheer hoeft niet ingewikkeld te zijn.
Het kan beginnen met een heldere registratie.
versienummer.
datum.
gebruikt model.
belangrijkste wijzigingen.
persoon die de wijziging heeft aangebracht.
en reden voor de wijziging.
Bij wezenlijke besluiten kan daarnaast worden vastgelegd welke passages...
...rechtstreeks uit AI-output voortkomen en welke door mensen zijn herschreven...
...of toegevoegd.
Niet om menselijke creativiteit te bureaucratiseren.
Wel om te voorkomen dat achteraf niemand meer kan uitleggen hoe de...
...uiteindelijke redenering is ontstaan.
Menselijke wijziging moet inhoudelijk zichtbaar zijn.
Een van de grootste valkuilen is dat organisaties menselijke betrokkenheid...
...afmeten aan het aantal wijzigingen in een tekst.
Maar veel wijzigingen bewijzen weinig.
Een mens kan een komma verplaatsen...
...de toon aanpassen en enkele woorden vervangen...
...terwijl de volledige redenering van het systeem intact blijft.
Dat is redactionele bewerking.
Nog geen menselijke heroverweging.
Een betekenisvolle menselijke bijdrage wordt zichtbaar wanneer iemand...
...bijvoorbeeld.
Een uitgangspunt ter discussie stelt.
Een ontbrekende bron toevoegt.
Een onvoldoende vertegenwoordigd perspectief inbrengt.
Een risico anders weegt.
Een AI-conclusie afwijst.
Een alternatief formuleert.
Of uitlegt waarom een juridisch mogelijke keuze maatschappelijk toch...
...onwenselijk is.
Het gaat dus niet om de vraag hoeveel tekst een mens heeft veranderd.
Het gaat om de vraag welke inhoudelijke invloed de mens heeft uitgeoefend.
Daarom zou in een besluitdossier niet alleen moeten staan dát een mens de...
...AI-uitvoer heeft beoordeeld.
Er zou ook moeten worden vastgelegd op welke punten de menselijke...
...beoordeling tot een andere uitkomst heeft geleid.
En wanneer geen enkele inhoudelijke wijziging nodig werd gevonden...
...moet ook dat worden gemotiveerd.
Waarom werd de AI-uitvoer volledig overtuigend gevonden?
Welke controles zijn uitgevoerd?
Welke alternatieven zijn bekeken?
En waarom waren aanvullende menselijke correcties niet noodzakelijk?
Abstracte eerlijkheid tegenover de werkelijkheid van organisaties.
De studie van Michael Veale...
...Max Van Kleek en Reuben Binns naar eerlijkheid en verantwoordelijkheid bij...
...algoritmische ondersteuning in hoog-risico-besluitvorming laat zien dat...
...abstracte beginselen niet vanzelf in de praktijk terechtkomen.
Organisaties kunnen verklaren dat zij transparantie...
...eerlijkheid en menselijke controle belangrijk vinden.
Maar professionals werken binnen concrete omstandigheden.
Zij hebben te maken met tijdsdruk, productiedoelen, protocollen...
...managementverwachtingen, beperkte informatie en bestaande...
...machtsverhoudingen.
Daarom is de vraag niet alleen of een medewerker formeel bevoegd is om van...
...een AI-advies af te wijken.
De vraag is ook of de organisatie afwijking praktisch mogelijk maakt.
Kan de medewerker kritiek leveren zonder als lastig of inefficiënt te worden...
...gezien?
Is er tijd voor aanvullend onderzoek?
Is er een procedure voor tegenspraak?
Kan een burger of cliënt begrijpen welke rol AI heeft gespeeld?
Worden fouten en afwijkingen gebruikt om het systeem te verbeteren?
Of verdwijnen zij in individuele dossiers?
Een position paper kan prachtige beginselen bevatten.
Maar wanneer de organisatie rondom het besluit geen ruimte biedt voor...
...twijfel, tegenspraak en professionele autonomie...
...blijft het document vooral een verklaring van goede bedoelingen.
Verantwoordelijkheid vereist daarom niet alleen transparantie over het...
...systeem.
Zij vereist ook transparantie over de institutionele omgeving waarin het...
...systeem wordt gebruikt.
Democratische besluitvorming vraagt zichtbare menselijke argumentatie.
Kan een besluit democratisch worden genoemd wanneer vrijwel alle...
...argumentatie door AI is opgesteld?
Dat hangt niet alleen af van de technische bijdrage van AI.
Het hangt af van de vraag waar de waarden en prioriteiten vandaan komen.
Democratie is meer dan het produceren van een logisch einddocument.
Democratische besluitvorming vraagt strijdige perspectieven.
Zij vraagt publieke argumentatie.
Zij vraagt dat bestuurders uitleggen waarom het ene belang zwaarder weegt...
...dan het andere.
Zij vraagt ruimte voor kritiek, wijziging en verantwoording.
Een AI-systeem kan argumenten genereren voor vrijwel ieder standpunt.
Maar het systeem draagt niet de maatschappelijke gevolgen van de gemaakte...
...keuze.
Het hoeft niet terug te keren naar een wijk waar het beleid heeft gefaald.
Het hoeft een cliënt niet uit te leggen waarom ondersteuning is geweigerd.
Het hoeft geen verkiezing te doorstaan.
Het hoeft geen excuses aan te bieden.
En het kan niet moreel verantwoordelijk worden gehouden voor de manier...
...waarop waarden tegen elkaar zijn afgewogen.
Daarom moet bij democratische besluitvorming zichtbaar blijven welke...
...argumenten door mensen zijn omarmd, gewijzigd of verworpen.
Niet omdat mensen altijd betere teksten schrijven.
Maar omdat mensen aanspreekbaar moeten blijven op de waarden die zij in...
...besluiten toepassen.
Welke onderdelen moeten mensen altijd zelf schrijven?
Niet ieder onderdeel van ieder document hoeft volledig handmatig te worden...
...geschreven.
AI kan goed helpen bij samenvattingen, structuur, taalcorrectie...
...eerste inventarisaties en het ordenen van bronnen.
Maar bepaalde onderdelen zouden aantoonbaar onder menselijke...
...verantwoordelijkheid moeten vallen.
Bijvoorbeeld.
de definitie van het maatschappelijke probleem.
het waardenkader.
de beschrijving van botsende belangen.
de beoordeling van onzekerheden.
de uiteindelijke belangenafweging.
de motivering waarom een bepaalde optie wordt gekozen.
de uitleg wie de lasten en risico’s draagt.
en de verantwoording waarom alternatieven zijn verworpen.
AI kan bij deze onderdelen ondersteunen.
Maar de beslisser moet er zelf inhoudelijk eigenaar van zijn.
Dat betekent niet noodzakelijk dat iedere zin zonder digitale hulp moet...
...worden getypt.
Het betekent wel dat de mens de redenering moet begrijpen...
...kunnen verdedigen en zo nodig zelfstandig kunnen reconstrueren.
Een bruikbare toets zou kunnen zijn.
Kan de verantwoordelijke beslisser zonder het AI-systeem uitleggen welke...
...waarden centraal stonden, welke alternatieven zijn onderzocht...
...welke onzekerheden bestaan en waarom uiteindelijk deze keuze is gemaakt?
Wanneer dat niet kan, is waarschijnlijk geen sprake van betekenisvolle...
...menselijke besluitvorming.
De mogelijke opbouw van een besluitdossier.
Een toekomstbestendig besluitdossier kan uit verschillende lagen bestaan.
De eerste laag bevat het menselijke waardenkader.
Welke publieke, professionele of maatschappelijke waarden zijn relevant?
Denk aan menselijke waardigheid, veiligheid, autonomie, rechtvaardigheid...
...proportionaliteit, solidariteit en democratische legitimiteit.
De tweede laag bevat de informatiebasis.
Welke bronnen, datasets, ervaringsverhalen...
...onderzoeken en juridische kaders zijn gebruikt?
Welke bronnen zijn omstreden of onzeker?
Welke relevante informatie ontbrak?
De derde laag beschrijft het AI-gebruik.
Welk model is gebruikt?
Welke modelversie?
Voor welk doel?
Welke instructies waren bepalend?
Welke beperkingen waren bekend?
De vierde laag bevat de relevante uitvoer.
Niet noodzakelijk iedere gegenereerde zin, maar wel de concepten...
...analyses of aanbevelingen die wezenlijke invloed hadden op het besluit.
De vijfde laag beschrijft de menselijke tussenkomst.
Welke fouten zijn gecorrigeerd?
Welke bronnen zijn toegevoegd?
Welke conclusies zijn verworpen?
Welke passages zijn inhoudelijk herschreven?
De zesde laag bevat onzekerheden en afwijkende opvattingen.
Waar bestond twijfel?
Welke experts of betrokkenen waren het niet eens?
Welke alternatieven bleven mogelijk?
De zevende laag bevat de uiteindelijke motivering.
Waarom is deze keuze gemaakt?
Wie heeft het besluit genomen?
Welke functie en bevoegdheid had deze persoon?
En op welke manier blijft die persoon aanspreekbaar op de gevolgen?
Het position paper kan vervolgens de leesbare synthese van dit dossier...
...vormen.
Niet als cosmetisch bewijs van menselijke betrokkenheid.
Maar als sluitstuk van een traceerbaar proces.
Conclusie.
Is een position paper voldoende?
Nee, niet wanneer het document op zichzelf staat.
Een position paper kan richting geven...
...waarden zichtbaar maken en argumentatie structureren.
Maar het kan niet automatisch bewijzen dat de besluitvorming menselijk...
...onafhankelijk en controleerbaar was.
Daarvoor is meer nodig.
We moeten kunnen zien welke rol AI speelde.
We moeten weten welk model en welke bronnen zijn gebruikt.
We moeten kunnen reconstrueren hoe de tekst veranderde.
We moeten kunnen vaststellen waar mensen inhoudelijk hebben ingegrepen.
We moeten onzekerheden en afwijkende meningen bewaren.
En we moeten weten wie uiteindelijk werkelijk heeft afgewogen...
...besloten en verantwoordelijkheid heeft aanvaard.
De kern is eenvoudig.
Een menselijke handtekening onder een door AI opgesteld document maakt het...
...proces nog niet menselijk.
Menselijke besluitvorming wordt pas geloofwaardig wanneer de menselijke...
...invloed zichtbaar, inhoudelijk en herleidbaar is.
Het position paper blijft daarbij waardevol.
Maar het moet geen legitimatiestempel worden.
Het moet het sluitstuk zijn van een aantoonbaar menselijk...
...besluitvormingsproces.
Bronnen en referenties.
Bij deze publicatie hoort een afzonderlijke toelichting op de belangrijkste...
...bronnen en referenties.
Deze bronnen laten gezamenlijk zien dat transparante besluitvorming uit...
...meerdere lagen bestaat.
We moeten niet alleen kijken naar het uiteindelijke document.
We moeten ook kijken naar het gebruikte AI-model...
...de gegevens waarop systemen zijn ontwikkeld...
...de organisatorische omstandigheden waarin professionals werken en de...
...documentatie waarmee het proces achteraf kan worden gereconstrueerd.
De eerste belangrijke bron is de Europese AI-verordening.
Voor dit onderwerp zijn vooral de artikelen elf tot en met dertien relevant.
Artikel elf behandelt de technische documentatie van...
...hoog-risico-AI-systemen.
Die documentatie moet voldoende informatie bevatten om te kunnen beoordelen...
...of het systeem aan de wettelijke eisen voldoet.
Artikel twaalf gaat over automatische registratie...
...vaak aangeduid als logging.
Door gebeurtenissen tijdens het gebruik van een systeem vast te leggen...
...kan achteraf beter worden onderzocht wat er is gebeurd...
...en welke factoren mogelijk tot een bepaalde uitkomst hebben geleid.
Artikel dertien behandelt transparantie en informatieverstrekking aan...
...degenen die het systeem gebruiken.
De gebruiker moet het systeem voldoende kunnen begrijpen om de uitvoer te...
...interpreteren en op een passende manier te gebruiken.
Deze bepalingen ondersteunen de gedachte dat verantwoordelijkheid niet...
...alleen uit een einddocument kan bestaan.
Wanneer een AI-systeem wezenlijke invloed heeft gehad op een besluit...
...moet ook het proces rondom dat systeem voldoende traceerbaar zijn.
De tweede bron is Model Cards for Model Reporting...
...van Margaret Mitchell en haar mede-auteurs.
Deze publicatie introduceerde model cards als een praktische manier om...
...informatie over AI-modellen systematisch vast te leggen.
Een model card kan beschrijven waarvoor een model is ontwikkeld...
...in welke omstandigheden het is getest...
...welke prestaties bekend zijn en welke beperkingen of ethische risico’s...
...bestaan.
Voor deze blogreeks is dat relevant omdat een position paper vooral de...
...menselijke argumentatie en besluitvorming documenteert.
Een model card vult dat aan met informatie over het gebruikte AI-instrument.
Zonder die informatie kan een lezer moeilijk beoordelen of het model...
...geschikt was voor de taak waarvoor het werd ingezet.
De derde bron is Datasheets for Datasets...
...van Timnit Gebru en haar mede-auteurs.
Deze publicatie richt zich op de documentatie van datasets.
Een datasheet kan onder meer beschrijven waarom gegevens zijn verzameld...
...hoe de dataset is samengesteld, welke groepen vertegenwoordigd zijn...
...welke beperkingen bestaan en voor welk gebruik de gegevens wel of niet...
...geschikt zijn.
Deze bron onderstreept dat een AI-uitkomst nooit alleen wordt bepaald door...
...het model.
De uitkomst wordt mede gevormd door de gegevens waarmee het model is...
...ontwikkeld en door de informatie die tijdens het gebruik wordt ingevoerd.
Wanneer gegevens onvolledig, verouderd of eenzijdig zijn...
...kan ook een technisch geavanceerd systeem tot een overtuigend maar gebrekkig...
...antwoord komen.
De vierde bron is de Britse Algorithmic Transparency Recording Standard.
Deze standaard is ontwikkeld om overheidsorganisaties op een herkenbare...
...manier te laten publiceren hoe zij algoritmische hulpmiddelen gebruiken.
Een openbaar transparantieregister kan bijvoorbeeld beschrijven waarom een...
...systeem wordt ingezet, welke organisatie verantwoordelijk is...
...welke invloed het systeem heeft op besluitvorming en welke waarborgen zijn...
...getroffen.
De betekenis hiervan reikt verder dan de Britse overheid.
Een vergelijkbare aanpak kan maatschappelijke organisaties, gemeenten...
...zorginstellingen en andere publieke instellingen helpen om zichtbaar te...
...maken waar en hoe kunstmatige intelligentie invloed heeft op hun werk.
Zo ontstaat een openbaar AI-gebruiksregister...
...zonder dat noodzakelijkerwijs ieder intern document of iedere vertrouwelijke...
...prompt openbaar hoeft te worden gemaakt.
De vijfde belangrijke bron is de studie Fairness and Accountability Design...
...Needs for Algorithmic Support in High-Stakes Public Sector Decision-Making...
...van Michael Veale, Max Van Kleek en Reuben Binns.
Deze studie onderzocht de praktijk van professionals die algoritmische...
...ondersteuning gebruiken bij ingrijpende publieke beslissingen.
De auteurs laten zien dat abstracte beginselen zoals eerlijkheid...
...transparantie en verantwoordelijkheid niet vanzelf aansluiten op de...
...dagelijkse werkelijkheid van organisaties.
Professionals werken onder tijdsdruk.
Zij hebben te maken met beperkte informatie, vaste procedures...
...hiërarchische verwachtingen en systemen waarvan de werking niet altijd...
...volledig inzichtelijk is.
Deze bron ondersteunt daarom een centrale stelling uit dit blogbericht.
Een mens kan formeel bevoegd zijn om van een AI-advies af te wijken...
...terwijl de organisatie die afwijking feitelijk moeilijk maakt.
Een position paper krijgt pas werkelijk betekenis wanneer ook zichtbaar is...
...hoeveel invloed mensen konden uitoefenen...
...welke organisatorische druk bestond...
...welke mogelijkheden voor tegenspraak aanwezig waren en hoe kritiek is...
...verwerkt.
Gezamenlijk leiden deze bronnen tot een bredere conclusie.
Verantwoorde AI-besluitvorming vereist meer dan één goed geschreven...
...document.
Er is documentatie nodig over het systeem.
Er is informatie nodig over de gebruikte gegevens.
Er is registratie nodig van belangrijke stappen en wijzigingen.
Er is inzicht nodig in de organisatorische werkelijkheid waarin het besluit...
...tot stand kwam.
En er is een menselijke beslisser nodig die niet alleen formeel tekent...
...maar de argumenten begrijpt...
...de alternatieven heeft afgewogen en aanspreekbaar blijft op de uitkomst.
Daarom is een position paper een sterk begin.
Maar het mag nooit worden gebruikt als bewijs dat menselijke besluitvorming...
...vanzelf heeft plaatsgevonden.
Het wordt pas betekenisvol wanneer het onderdeel is van een breder en...
...navolgbaar besluitdossier.
Een dossier waarin zichtbaar wordt wat de kunstmatige intelligentie heeft...
...bijgedragen.
Wat mensen hebben gewijzigd.
Welke onzekerheden zijn gebleven.
Welke stemmen zijn gehoord.
En waarom uiteindelijk deze beslissing is genomen.
Dan wordt de handtekening onder het document geen administratief einde.
Dan wordt zij de bevestiging van een aantoonbaar menselijk proces.