WEBVTT 1 00:00:00.000 --> 00:00:01.450 Is een position paper voldoende? 2 00:00:01.930 --> 00:00:03.890 Datum: 19 juli 2026. 3 00:00:03.890 --> 00:00:07.210 Door Alexander Groenheide, Voorzitter Stichting... 4 00:00:07.730 --> 00:00:08.950 ...De Kamer van Sociale Waarden. 5 00:00:08.950 --> 00:00:12.910 Dit is het tweede deel van de reeks over kunstmatige intelligentie en... 6 00:00:12.910 --> 00:00:14.430 ...menselijke verantwoordelijkheid. 7 00:00:15.050 --> 00:00:17.250 In het eerste deel, Wie bestuurt straks wie?... 8 00:00:17.730 --> 00:00:22.310 ...stond de vraag centraal of de mens werkelijk de leiding houdt wanneer... 9 00:00:22.310 --> 00:00:25.190 ...kunstmatige intelligentie steeds meer informatie ordent... 10 00:00:25.690 --> 00:00:28.190 ...alternatieven formuleert en adviezen voorbereidt. 11 00:00:28.190 --> 00:00:32.430 De conclusie was dat menselijke controle meer moet zijn dan formele... 12 00:00:32.430 --> 00:00:33.130 ...aanwezigheid. 13 00:00:33.510 --> 00:00:36.690 Een mens die alleen nog toestemming geeft voor een door AI voorgestelde... 14 00:00:36.690 --> 00:00:39.470 ...uitkomst, is niet vanzelf een betekenisvolle beslisser. 15 00:00:40.270 --> 00:00:43.130 In dit tweede deel onderzoeken we daarom een volgende vraag. 16 00:00:43.610 --> 00:00:45.230 Is een position paper voldoende? 17 00:00:46.090 --> 00:00:48.290 Steeds vaker worden beleidsstukken, analyses... 18 00:00:48.750 --> 00:00:52.270 ...adviezen en position papers grotendeels met behulp van kunstmatige... 19 00:00:52.270 --> 00:00:53.510 ...intelligentie opgesteld. 20 00:00:53.510 --> 00:00:55.830 Een mens formuleert een opdracht. 21 00:00:56.230 --> 00:00:58.030 Het systeem ordent de informatie. 22 00:00:58.490 --> 00:01:00.850 Het produceert argumenten, samenvattingen... 23 00:01:01.070 --> 00:01:04.250 ...aanbevelingen en soms zelfs een volledig besluitvoorstel. 24 00:01:04.410 --> 00:01:05.610 Daarna leest een medewerker... 25 00:01:06.050 --> 00:01:08.610 ...bestuurder of deskundige de tekst nog even door. 26 00:01:09.470 --> 00:01:10.890 Een paar woorden worden aangepast. 27 00:01:11.490 --> 00:01:12.810 Een alinea wordt verplaatst. 28 00:01:13.170 --> 00:01:16.010 Misschien wordt een conclusie iets voorzichtiger geformuleerd. 29 00:01:16.350 --> 00:01:19.230 En vervolgens verschijnt onderaan het document een naam... 30 00:01:19.690 --> 00:01:21.450 ...een functie en een handtekening. 31 00:01:21.450 --> 00:01:24.030 Maar wat bewijst die handtekening eigenlijk? 32 00:01:24.590 --> 00:01:27.130 Bewijst zij dat een mens werkelijk heeft nagedacht? 33 00:01:27.490 --> 00:01:29.990 Bewijst zij dat de argumenten zijn gecontroleerd? 34 00:01:30.650 --> 00:01:32.770 Bewijst zij dat alternatieven zijn afgewogen... 35 00:01:33.110 --> 00:01:35.810 ...bronnen zijn beoordeeld en onzekerheden zijn herkend? 36 00:01:36.250 --> 00:01:40.010 Of bewijst die handtekening alleen dat iemand toestemming heeft gegeven om... 37 00:01:40.010 --> 00:01:42.710 ...een door een algoritme samengestelde tekst te gebruiken? 38 00:01:43.450 --> 00:01:44.830 Dat verschil is wezenlijk. 39 00:01:45.490 --> 00:01:47.710 Een document kan er professioneel uitzien. 40 00:01:48.070 --> 00:01:49.770 Het kan zorgvuldig zijn opgebouwd. 41 00:01:49.770 --> 00:01:52.170 Het kan verwijzen naar wetgeving... 42 00:01:52.750 --> 00:01:55.090 ...wetenschappelijk onderzoek en maatschappelijke waarden. 43 00:01:55.950 --> 00:02:00.050 Maar daarmee is nog niet bewezen dat een mens de onderliggende afweging... 44 00:02:00.050 --> 00:02:01.010 ...zelfstandig heeft gemaakt. 45 00:02:01.610 --> 00:02:04.490 Misschien hebben we daarom meer nodig dan alleen een position paper. 46 00:02:05.250 --> 00:02:09.150 Misschien moeten we niet alleen documenteren wat uiteindelijk is besloten... 47 00:02:09.630 --> 00:02:11.570 ...maar ook hoe dat besluit tot stand is gekomen. 48 00:02:12.250 --> 00:02:14.090 Welke informatie kwam van mensen? 49 00:02:14.530 --> 00:02:16.790 Welke passages werden door AI gegenereerd? 50 00:02:17.370 --> 00:02:19.410 Welke bronnen zijn daadwerkelijk gecontroleerd? 51 00:02:20.080 --> 00:02:22.130 Welke voorstellen zijn aangepast of verworpen? 52 00:02:22.710 --> 00:02:24.530 Welke onzekerheden bleven bestaan? 53 00:02:25.110 --> 00:02:26.970 En wie had uiteindelijk werkelijk de bevoegdheid... 54 00:02:27.230 --> 00:02:30.270 ...de tijd en de ruimte om van het AI-advies af te wijken? 55 00:02:30.850 --> 00:02:34.270 In deze voice-over staan daarom drie open vragen centraal. 56 00:02:35.050 --> 00:02:39.310 Welke onderdelen van een besluit moeten altijd aantoonbaar onder menselijke... 57 00:02:39.310 --> 00:02:40.890 ...verantwoordelijkheid worden geschreven? 58 00:02:41.570 --> 00:02:46.190 Hoe maken we zichtbaar welk deel van een analyse of beleidsstuk afkomstig is... 59 00:02:46.190 --> 00:02:47.420 ...van kunstmatige intelligentie? 60 00:02:47.420 --> 00:02:51.800 En kan een besluit nog democratisch worden genoemd wanneer vrijwel alle... 61 00:02:51.800 --> 00:02:53.900 ...argumentatie door AI is opgesteld? 62 00:02:54.540 --> 00:02:56.820 Een position paper kan waarden zichtbaar maken... 63 00:02:57.240 --> 00:02:59.820 ...argumenten ordenen en een besluit motiveren. 64 00:03:00.180 --> 00:03:04.380 Maar een position paper kan ook een keurige voorkant worden waarachter het... 65 00:03:04.380 --> 00:03:07.100 ...werkelijke besluitvormingsproces verborgen blijft. 66 00:03:07.220 --> 00:03:09.800 De centrale vraag is daarom niet alleen... 67 00:03:10.060 --> 00:03:12.120 ...of er een mens onder het document staat. 68 00:03:12.560 --> 00:03:15.980 De centrale vraag is of menselijke besluitvorming ook zichtbaar... 69 00:03:16.180 --> 00:03:17.720 ...herleidbaar en bewijsbaar is. 70 00:03:18.420 --> 00:03:20.080 De mens als goedkeuringsstempel. 71 00:03:20.460 --> 00:03:24.100 Het gebruik van AI bij beleidsvorming hoeft op zichzelf geen probleem te... 72 00:03:24.100 --> 00:03:24.300 ...zijn. 73 00:03:24.580 --> 00:03:27.940 Een AI-systeem kan grote hoeveelheden informatie verwerken. 74 00:03:28.520 --> 00:03:31.620 Het kan documenten vergelijken, patronen herkennen... 75 00:03:32.340 --> 00:03:35.640 ...tegenstrijdigheden signaleren en helpen om een complexe discussie... 76 00:03:35.640 --> 00:03:36.680 ...overzichtelijk te maken. 77 00:03:37.260 --> 00:03:39.380 Dat kan de kwaliteit van beleid verbeteren. 78 00:03:40.080 --> 00:03:43.340 Het kan ambtenaren ondersteunen die onder hoge tijdsdruk werken. 79 00:03:43.920 --> 00:03:47.820 Het kan kleine maatschappelijke organisaties toegang geven tot... 80 00:03:47.820 --> 00:03:51.420 ...analysecapaciteit die voorheen alleen beschikbaar was voor grote... 81 00:03:51.420 --> 00:03:53.520 ...instellingen met juridische afdelingen... 82 00:03:54.140 --> 00:03:56.120 ...onderzoeksbureaus en beleidsmedewerkers. 83 00:03:56.820 --> 00:03:58.960 Maar precies daar ontstaat ook een risico. 84 00:03:59.480 --> 00:04:00.960 Hoe beter het systeem schrijft... 85 00:04:01.300 --> 00:04:04.840 ...hoe verleidelijker het wordt om de tekst zonder diepgaande controle over te... 86 00:04:04.840 --> 00:04:05.100 ...nemen. 87 00:04:05.760 --> 00:04:07.480 De argumentatie klinkt logisch. 88 00:04:08.260 --> 00:04:09.560 De structuur is professioneel. 89 00:04:09.960 --> 00:04:11.060 De toon is overtuigend. 90 00:04:11.600 --> 00:04:12.680 De bronnen lijken relevant. 91 00:04:12.680 --> 00:04:15.399 En de conclusie past binnen de opdracht. 92 00:04:16.000 --> 00:04:19.519 Dan kan de menselijke controle ongemerkt veranderen in een administratieve... 93 00:04:19.519 --> 00:04:19.959 ...handeling. 94 00:04:20.540 --> 00:04:22.640 De mens kijkt niet meer of het besluit klopt... 95 00:04:22.880 --> 00:04:24.820 ...maar of het document er overtuigend uitziet. 96 00:04:25.340 --> 00:04:27.640 Niet meer: heb ik deze afweging zelf gemaakt? 97 00:04:28.160 --> 00:04:29.660 Maar: kan ik hiermee naar buiten? 98 00:04:30.080 --> 00:04:32.280 Niet meer: welke waarden botsen hier? 99 00:04:32.540 --> 00:04:35.080 Maar: is de formulering juridisch voorzichtig genoeg? 100 00:04:35.500 --> 00:04:36.960 Niet meer: wie draagt de gevolgen? 101 00:04:37.280 --> 00:04:40.740 Maar: staat er ergens dat de mens eindverantwoordelijk blijft? 102 00:04:40.740 --> 00:04:44.960 Zo verandert de menselijke beslisser langzaam in een goedkeuringsstempel. 103 00:04:45.820 --> 00:04:47.640 Formeel blijft de mens verantwoordelijk. 104 00:04:48.540 --> 00:04:52.600 Materieel heeft het systeem echter de probleemdefinitie, de argumentatie... 105 00:04:52.980 --> 00:04:55.200 ...de prioriteiten en de conclusie gevormd. 106 00:04:55.720 --> 00:04:59.020 Dat verschil tussen formele en werkelijke verantwoordelijkheid is... 107 00:04:59.020 --> 00:04:59.680 ...essentieel. 108 00:04:59.860 --> 00:05:02.400 Een besluit is niet menselijk omdat een mens het ondertekent. 109 00:05:03.160 --> 00:05:06.660 Een besluit is menselijk wanneer mensen aantoonbaar invloed hebben gehad op... 110 00:05:06.660 --> 00:05:09.900 ...de vragen, de waarden, de interpretatie van de feiten... 111 00:05:10.520 --> 00:05:13.760 ...de afweging van alternatieven en de uiteindelijke motivering. 112 00:05:14.620 --> 00:05:16.820 Goedkeuring is iets anders dan een eigen afweging. 113 00:05:17.480 --> 00:05:20.420 Een goedkeuring betekent dat iemand instemt met een resultaat. 114 00:05:21.620 --> 00:05:25.440 Een eigen afweging betekent dat iemand het besluitvormingsproces inhoudelijk... 115 00:05:25.440 --> 00:05:26.100 ...heeft doorlopen. 116 00:05:26.820 --> 00:05:28.280 Dat zijn niet dezelfde handelingen. 117 00:05:28.900 --> 00:05:32.660 Iemand kan een voorstel goedkeuren zonder alle bronnen te hebben gelezen. 118 00:05:33.400 --> 00:05:37.680 Iemand kan een AI-advies accepteren zonder te begrijpen waarom bepaalde... 119 00:05:37.680 --> 00:05:39.640 ...argumenten zwaarder zijn gewogen dan andere. 120 00:05:40.420 --> 00:05:43.740 Iemand kan een document ondertekenen zonder zicht te hebben op de... 121 00:05:43.740 --> 00:05:46.340 ...instructies waarmee het systeem is aangestuurd. 122 00:05:46.880 --> 00:05:49.560 En iemand kan formeel bevoegd zijn om af te wijken... 123 00:05:50.140 --> 00:05:52.480 ...terwijl de organisatie daar feitelijk geen tijd... 124 00:05:52.900 --> 00:05:54.360 ...ruimte of veiligheid voor biedt. 125 00:05:54.940 --> 00:05:58.740 Stel dat een beleidsmedewerker drie uur krijgt om een ingewikkeld advies... 126 00:05:58.740 --> 00:06:03.000 ...over zorg, veiligheid, onderwijs of jeugdbescherming op te stellen. 127 00:06:03.400 --> 00:06:07.100 Een AI-systeem produceert binnen enkele minuten een samenhangend document. 128 00:06:07.880 --> 00:06:09.620 De medewerker kan het voorstel aanpassen... 129 00:06:09.620 --> 00:06:11.520 ...maar moet dezelfde dag nog leveren. 130 00:06:12.300 --> 00:06:13.760 Formeel is er menselijke controle. 131 00:06:14.340 --> 00:06:16.960 Praktisch is er nauwelijks ruimte voor een eigen afweging. 132 00:06:17.540 --> 00:06:19.520 De medewerker kan theoretisch afwijken. 133 00:06:19.520 --> 00:06:23.680 Maar afwijken betekent opnieuw onderzoek doen, bronnen raadplegen... 134 00:06:24.480 --> 00:06:28.080 ...alternatieven formuleren en misschien uitleggen waarom een geavanceerd... 135 00:06:28.080 --> 00:06:29.040 ...systeem ernaast zit. 136 00:06:30.020 --> 00:06:32.560 Onder tijdsdruk wordt instemmen dan de eenvoudigste keuze. 137 00:06:33.580 --> 00:06:35.700 Zo kan menselijke controle bestaan op papier... 138 00:06:35.700 --> 00:06:37.940 ...terwijl zij in de praktijk vrijwel leeg is. 139 00:06:38.680 --> 00:06:41.800 Daarom moeten we niet alleen vragen wie het besluit heeft ondertekend. 140 00:06:42.540 --> 00:06:43.580 We moeten ook vragen. 141 00:06:43.580 --> 00:06:45.100 Hoeveel tijd had deze persoon? 142 00:06:45.100 --> 00:06:46.960 Welke informatie was beschikbaar? 143 00:06:46.960 --> 00:06:49.620 Welke onderdelen kon hij of zij controleren? 144 00:06:49.620 --> 00:06:52.000 Was er ruimte om tegen te spreken? 145 00:06:52.000 --> 00:06:56.140 Werd afwijking van het AI-advies geregistreerd als professionele... 146 00:06:56.140 --> 00:06:58.460 ...zorgvuldigheid, of vooral als vertraging? 147 00:06:58.460 --> 00:07:02.480 En kon de beslisser de gevolgen van het besluit daadwerkelijk overzien? 148 00:07:02.480 --> 00:07:04.520 De Europese AI-verordening... 149 00:07:05.380 --> 00:07:07.200 ...documentatie is onderdeel van verantwoordelijkheid. 150 00:07:07.880 --> 00:07:12.120 De Europese AI-verordening maakt duidelijk dat verantwoording niet alleen... 151 00:07:12.120 --> 00:07:14.400 ...betrekking heeft op de uiteindelijke uitkomst. 152 00:07:14.400 --> 00:07:19.200 Voor hoog-risico-AI bevatten de artikelen elf tot en met dertien eisen rond... 153 00:07:19.200 --> 00:07:23.420 ...technische documentatie, registratie van gebeurtenissen, traceerbaarheid... 154 00:07:24.140 --> 00:07:27.720 ...transparantie en informatie voor degenen die het systeem gebruiken. 155 00:07:27.720 --> 00:07:32.300 Die eisen zijn belangrijk omdat zij erkennen dat een AI-uitkomst niet los... 156 00:07:32.300 --> 00:07:35.960 ...kan worden gezien van het systeem en het proces waaruit die uitkomst... 157 00:07:35.960 --> 00:07:36.620 ...voortkomt. 158 00:07:36.620 --> 00:07:39.820 Om een beslissing te kunnen beoordelen, moet zichtbaar zijn. 159 00:07:39.820 --> 00:07:41.460 welk systeem is gebruikt. 160 00:07:41.460 --> 00:07:44.360 welke mogelijkheden en beperkingen bekend waren. 161 00:07:44.360 --> 00:07:47.760 welke gegevens en instructies een rol speelden. 162 00:07:47.760 --> 00:07:50.020 welke gebeurtenissen zijn geregistreerd. 163 00:07:50.020 --> 00:07:51.860 hoe de uitvoer moet worden geïnterpreteerd. 164 00:07:52.300 --> 00:07:55.580 en welke vorm van menselijk toezicht noodzakelijk is. 165 00:07:55.580 --> 00:07:58.960 Een einddocument alleen vertelt dat verhaal niet. 166 00:07:59.480 --> 00:08:02.960 Een position paper kan keurig uitleggen welke conclusie is bereikt... 167 00:08:02.960 --> 00:08:07.440 ...maar het document laat niet automatisch zien hoe AI de argumentatie heeft... 168 00:08:07.440 --> 00:08:07.960 ...beïnvloed. 169 00:08:07.960 --> 00:08:12.480 Misschien heeft het systeem tien mogelijke interpretaties gegenereerd en... 170 00:08:12.480 --> 00:08:13.540 ...koos de mens er één. 171 00:08:14.260 --> 00:08:17.540 Misschien genereerde het systeem maar één dominante lijn... 172 00:08:17.540 --> 00:08:19.900 ...waarna de mens vooral de formulering verbeterde. 173 00:08:19.900 --> 00:08:23.740 Misschien zijn kritische bronnen nooit in de analyse terechtgekomen. 174 00:08:24.320 --> 00:08:28.100 Misschien waren de gebruikte instructies al zo sturend dat de uitkomst... 175 00:08:28.100 --> 00:08:29.360 ...grotendeels vaststond. 176 00:08:30.080 --> 00:08:33.460 Misschien heeft een medewerker belangrijke AI-fouten gecorrigeerd. 177 00:08:33.460 --> 00:08:34.659 Maar misschien ook niet. 178 00:08:35.179 --> 00:08:37.080 Zonder documentatie weten we het niet. 179 00:08:37.080 --> 00:08:40.460 Daarom is traceerbaarheid geen technische luxe. 180 00:08:40.460 --> 00:08:43.860 Het is een voorwaarde om verantwoordelijkheid betekenis te geven. 181 00:08:43.860 --> 00:08:46.080 Van einddocument naar besluitdossier. 182 00:08:46.080 --> 00:08:49.240 Een position paper kan een belangrijke rol spelen. 183 00:08:49.240 --> 00:08:51.520 Het kan waarden expliciet maken. 184 00:08:51.520 --> 00:08:53.900 Het kan een probleem definiëren. 185 00:08:53.900 --> 00:08:56.440 Het kan verschillende belangen zichtbaar maken. 186 00:08:56.440 --> 00:09:00.860 Het kan bronnen verzamelen en mogelijke handelingsrichtingen formuleren. 187 00:09:00.860 --> 00:09:05.140 Maar wanneer kunstmatige intelligentie een substantiële rol speelt... 188 00:09:05.140 --> 00:09:08.160 ...zou het position paper onderdeel moeten worden van een breder... 189 00:09:08.160 --> 00:09:08.880 ...besluitdossier. 190 00:09:09.600 --> 00:09:14.220 Dat besluitdossier hoeft niet iedere losse muisklik of iedere tijdelijke... 191 00:09:14.220 --> 00:09:15.860 ...formulering te bewaren. 192 00:09:15.860 --> 00:09:19.980 Het hoeft ook geen onleesbaar technisch archief te worden waarin niemand... 193 00:09:19.980 --> 00:09:22.600 ...meer de kern van de besluitvorming kan terugvinden. 194 00:09:22.600 --> 00:09:26.600 Maar het moet voldoende informatie bevatten om achteraf te kunnen... 195 00:09:26.600 --> 00:09:28.940 ...reconstrueren hoe het besluit is ontstaan. 196 00:09:28.940 --> 00:09:31.200 Daarbij kan worden vastgelegd. 197 00:09:31.200 --> 00:09:33.760 welk menselijke waardenkader vooraf is gebruikt. 198 00:09:33.760 --> 00:09:36.400 welke vragen door mensen zijn geformuleerd. 199 00:09:36.580 --> 00:09:39.320 welke bronnen zijn ingevoerd of geraadpleegd. 200 00:09:39.320 --> 00:09:42.600 welk AI-model en welke modelversie zijn gebruikt. 201 00:09:42.600 --> 00:09:45.500 welke belangrijke prompts of instructies zijn gegeven. 202 00:09:45.500 --> 00:09:48.800 welke AI-uitvoer wezenlijke invloed heeft gehad. 203 00:09:48.800 --> 00:09:51.580 welke onderdelen door mensen zijn gewijzigd. 204 00:09:51.580 --> 00:09:53.780 welke voorstellen bewust zijn verworpen. 205 00:09:53.780 --> 00:09:56.660 welke onzekerheden zijn blijven bestaan. 206 00:09:56.660 --> 00:09:58.760 welke afwijkende meningen zijn ingebracht. 207 00:09:58.760 --> 00:10:02.380 en wie uiteindelijk de verantwoordelijkheid voor de beslissing heeft... 208 00:10:02.380 --> 00:10:02.740 ...genomen. 209 00:10:02.740 --> 00:10:05.900 Het position paper wordt daarmee niet overbodig. 210 00:10:06.880 --> 00:10:07.560 Integendeel. 211 00:10:07.800 --> 00:10:09.600 Het krijgt juist een duidelijkere plaats. 212 00:10:09.600 --> 00:10:13.600 Het wordt het leesbare en inhoudelijke sluitstuk van een aantoonbaar... 213 00:10:13.600 --> 00:10:14.800 ...besluitvormingsproces. 214 00:10:14.800 --> 00:10:18.460 Model Cards: weten welk instrument is gebruikt. 215 00:10:18.460 --> 00:10:21.780 Een tweede bouwsteen vinden we in het idee van model cards. 216 00:10:21.780 --> 00:10:26.180 In de publicatie Model Cards for Model Reporting introduceerden Margaret... 217 00:10:26.180 --> 00:10:30.080 ...Mitchell en haar mede-auteurs een gestandaardiseerde manier om informatie... 218 00:10:30.080 --> 00:10:32.380 ...over AI-modellen vast te leggen. 219 00:10:32.380 --> 00:10:34.220 Een model card beschrijft bijvoorbeeld. 220 00:10:34.220 --> 00:10:35.780 waarvoor een model bedoeld is. 221 00:10:35.780 --> 00:10:37.740 waarvoor het niet bedoeld is. 222 00:10:37.740 --> 00:10:39.700 in welke situaties het is getest. 223 00:10:39.700 --> 00:10:41.640 welke prestaties bekend zijn. 224 00:10:41.640 --> 00:10:43.180 welke beperkingen bestaan. 225 00:10:43.180 --> 00:10:45.900 en welke ethische aandachtspunten relevant zijn. 226 00:10:46.320 --> 00:10:49.860 Dat klinkt misschien technisch, maar de bestuurlijke betekenis is groot. 227 00:10:50.460 --> 00:10:53.160 Wanneer een organisatie AI gebruikt om beleid... 228 00:10:53.600 --> 00:10:55.540 ...analyses of besluiten voor te bereiden... 229 00:10:55.540 --> 00:10:58.800 ...moet zij weten wat voor instrument zij gebruikt. 230 00:10:58.800 --> 00:11:01.520 Een taalmodel dat overtuigende teksten kan produceren... 231 00:11:01.520 --> 00:11:05.120 ...is niet automatisch geschikt om juridische conclusies te trekken. 232 00:11:05.920 --> 00:11:08.200 Een systeem dat goed presteert op algemene teksten... 233 00:11:08.200 --> 00:11:11.880 ...is niet automatisch betrouwbaar bij specialistische medische... 234 00:11:12.100 --> 00:11:14.420 ...sociale of bestuursrechtelijke vragen. 235 00:11:14.420 --> 00:11:17.800 En een model dat een evenwichtig antwoord lijkt te geven... 236 00:11:17.800 --> 00:11:19.760 ...kan toch belangrijke groepen... 237 00:11:20.480 --> 00:11:23.000 ...ervaringen of perspectieven onvoldoende vertegenwoordigen. 238 00:11:23.000 --> 00:11:27.160 Een position paper beschrijft vooral de menselijke kant van het besluit. 239 00:11:27.160 --> 00:11:29.380 Welke waarden spelen een rol? 240 00:11:29.380 --> 00:11:31.160 Welke argumenten worden gebruikt? 241 00:11:31.160 --> 00:11:33.220 Welke conclusie wordt verdedigd? 242 00:11:33.220 --> 00:11:35.920 Een model card beschrijft het gebruikte instrument. 243 00:11:36.560 --> 00:11:37.560 Wat kan dit systeem? 244 00:11:37.740 --> 00:11:38.380 Wat kan het niet? 245 00:11:38.800 --> 00:11:39.800 Waarop is het getest? 246 00:11:40.300 --> 00:11:41.420 Welke risico’s zijn bekend? 247 00:11:41.940 --> 00:11:42.640 Beide zijn nodig. 248 00:11:42.640 --> 00:11:46.200 Zonder position paper ontbreekt de menselijke en maatschappelijke... 249 00:11:46.200 --> 00:11:46.700 ...motivering. 250 00:11:46.700 --> 00:11:51.120 Zonder informatie over het model blijft onduidelijk hoeveel vertrouwen aan... 251 00:11:51.120 --> 00:11:53.000 ...de gebruikte AI kon worden gegeven. 252 00:11:53.660 --> 00:11:56.960 Datasheets for Datasets: de gegevens achter het antwoord. 253 00:11:57.500 --> 00:12:00.020 Een AI-systeem produceert geen uitkomst vanuit het niets. 254 00:12:00.360 --> 00:12:02.060 Het model is ontwikkeld met gegevens. 255 00:12:02.700 --> 00:12:05.980 Het kan daarnaast tijdens het gebruik worden gevoed met documenten... 256 00:12:06.220 --> 00:12:09.240 ...databronnen, instructies, dossiers of zoekresultaten. 257 00:12:09.240 --> 00:12:11.800 Daarom is niet alleen het model relevant... 258 00:12:12.360 --> 00:12:14.400 ...maar ook de informatie waarop het model steunt. 259 00:12:14.940 --> 00:12:17.340 De publicatie Datasheets for Datasets... 260 00:12:17.340 --> 00:12:19.580 ...van Timnit Gebru en haar mede-auteurs... 261 00:12:19.580 --> 00:12:23.320 ...stelde voor om datasets te voorzien van gestandaardiseerde documentatie. 262 00:12:23.320 --> 00:12:25.600 Daarin kan worden beschreven. 263 00:12:25.600 --> 00:12:27.240 waarom de dataset is verzameld. 264 00:12:27.240 --> 00:12:28.900 waar de gegevens vandaan komen. 265 00:12:28.900 --> 00:12:31.400 hoe de samenstelling tot stand kwam. 266 00:12:31.400 --> 00:12:34.760 welke groepen of situaties wel en niet vertegenwoordigd zijn. 267 00:12:35.100 --> 00:12:36.660 welke beperkingen bekend zijn. 268 00:12:36.660 --> 00:12:38.120 welk gebruik passend is. 269 00:12:38.120 --> 00:12:40.660 en welk gebruik juist risico’s oplevert. 270 00:12:41.280 --> 00:12:44.240 Dat uitgangspunt is ook van belang bij generatieve AI. 271 00:12:44.240 --> 00:12:47.600 Wanneer een systeem een beleidsanalyse opstelt... 272 00:12:47.600 --> 00:12:50.480 ...moeten we niet alleen kijken naar de kwaliteit van de tekst. 273 00:12:50.480 --> 00:12:54.520 We moeten ook vragen welke informatie de analyse heeft gevormd. 274 00:12:54.520 --> 00:12:56.220 Welke documenten zijn geselecteerd? 275 00:12:56.220 --> 00:12:58.120 Welke bronnen zijn uitgesloten? 276 00:12:58.120 --> 00:13:01.400 Ging het vooral om officiële beleidsdocumenten? 277 00:13:01.780 --> 00:13:03.820 Zijn ook ervaringen van burgers, cliënten... 278 00:13:03.980 --> 00:13:05.760 ...werknemers of minderheden meegenomen? 279 00:13:05.760 --> 00:13:07.240 Zijn bronnen actueel? 280 00:13:07.620 --> 00:13:11.200 Is duidelijk welke informatie onzeker, omstreden of verouderd is? 281 00:13:11.640 --> 00:13:13.080 Wanneer de invoer eenzijdig is... 282 00:13:13.540 --> 00:13:17.800 ...kan de uitvoer zeer professioneel klinken en toch eenzijdig blijven. 283 00:13:17.900 --> 00:13:21.180 De kwaliteit van een besluit hangt daarom niet alleen af van het gebruikte... 284 00:13:21.180 --> 00:13:21.520 ...model. 285 00:13:22.170 --> 00:13:23.780 Zij hangt ook af van de bronnen... 286 00:13:24.340 --> 00:13:27.340 ...gegevens en perspectieven die in het proces zijn toegelaten. 287 00:13:27.340 --> 00:13:30.160 Een openbaar AI-gebruiksregister. 288 00:13:30.160 --> 00:13:32.470 De Britse overheid ontwikkelde de Algorithmic Transparency... 289 00:13:33.220 --> 00:13:34.280 ...Recording Standard. 290 00:13:34.280 --> 00:13:39.520 Deze standaard is bedoeld om overheidsorganisaties op een herkenbare en... 291 00:13:39.520 --> 00:13:43.200 ...openbaar toegankelijke manier te laten beschrijven waarom en hoe zij... 292 00:13:43.200 --> 00:13:45.340 ...algoritmische hulpmiddelen gebruiken. 293 00:13:45.740 --> 00:13:48.460 Daarbij kan onder andere worden vastgelegd. 294 00:13:48.460 --> 00:13:50.700 welk probleem het hulpmiddel moet ondersteunen. 295 00:13:51.200 --> 00:13:52.460 hoe het systeem wordt ingezet. 296 00:13:52.940 --> 00:13:54.520 welke organisatie verantwoordelijk is. 297 00:13:55.380 --> 00:13:57.700 welke invloed het systeem heeft op besluitvorming. 298 00:13:57.700 --> 00:13:59.400 welke gegevens worden gebruikt. 299 00:13:59.700 --> 00:14:01.640 en welke waarborgen aanwezig zijn. 300 00:14:01.640 --> 00:14:05.400 Voor bepaalde Britse overheidsorganisaties is publicatie... 301 00:14:05.720 --> 00:14:07.740 ...volgens deze standaard verplicht gesteld. 302 00:14:07.740 --> 00:14:11.460 Dat principe kan ook buiten de Britse overheid waardevol zijn. 303 00:14:11.460 --> 00:14:15.900 Denk aan gemeenten, zorginstellingen, onderwijsorganisaties... 304 00:14:15.900 --> 00:14:18.860 ...maatschappelijke samenwerkingsverbanden en kennisinstituten. 305 00:14:19.600 --> 00:14:22.900 Wanneer AI wezenlijke invloed heeft op documenten of beslissingen... 306 00:14:22.900 --> 00:14:27.200 ...zou een organisatie in een openbaar AI-gebruiksregister kunnen vastleggen. 307 00:14:27.360 --> 00:14:28.760 welk systeem wordt gebruikt. 308 00:14:29.240 --> 00:14:29.880 voor welk doel. 309 00:14:29.880 --> 00:14:31.220 in welke processen. 310 00:14:31.220 --> 00:14:32.800 met welke menselijke controle. 311 00:14:32.800 --> 00:14:34.880 en met welke bekende beperkingen. 312 00:14:34.880 --> 00:14:38.900 Zo hoeft een burger niet te raden of een beleidsstuk grotendeels door... 313 00:14:38.900 --> 00:14:43.120 ...mensen, door AI of door een combinatie van beide is opgesteld. 314 00:14:43.120 --> 00:14:47.500 Transparantie betekent dan niet dat iedere prompt en ieder intern concept... 315 00:14:47.500 --> 00:14:48.760 ...openbaar moet worden gemaakt. 316 00:14:48.760 --> 00:14:53.140 Sommige informatie kan persoonsgegevens, beveiligingsinformatie... 317 00:14:53.500 --> 00:14:56.020 ...of vertrouwelijke beraadslaging bevatten. 318 00:14:56.560 --> 00:14:59.560 Maar de hoofdlijnen van het gebruik moeten controleerbaar zijn. 319 00:15:00.160 --> 00:15:03.380 De samenleving moet kunnen weten wanneer een algoritmisch systeem invloed... 320 00:15:03.380 --> 00:15:05.660 ...heeft gehad op een besluit dat mensen raakt. 321 00:15:06.400 --> 00:15:09.740 Versiebeheer: welk document is eigenlijk beoordeeld? 322 00:15:10.600 --> 00:15:13.560 Bij traditionele besluitvorming lijkt het vaak duidelijk welk document... 323 00:15:13.560 --> 00:15:14.420 ...definitief is. 324 00:15:14.880 --> 00:15:18.700 Maar bij AI-ondersteund schrijven kunnen in korte tijd tientallen versies... 325 00:15:18.700 --> 00:15:19.420 ...ontstaan. 326 00:15:19.420 --> 00:15:21.760 Een eerste prompt levert een concept. 327 00:15:22.380 --> 00:15:25.520 Een vervolgprompt vraagt om een strengere juridische analyse. 328 00:15:26.380 --> 00:15:28.520 Een derde versie wordt vriendelijker geformuleerd. 329 00:15:28.520 --> 00:15:30.700 Daarna wordt een bron toegevoegd. 330 00:15:30.700 --> 00:15:33.000 Vervolgens worden kritische passages ingekort. 331 00:15:33.000 --> 00:15:37.160 Een collega laat het document opnieuw door een ander model herschrijven. 332 00:15:37.160 --> 00:15:40.800 En uiteindelijk verschijnt een nette definitieve tekst. 333 00:15:40.800 --> 00:15:44.600 Maar welke versie heeft de menselijke beslisser werkelijk gelezen? 334 00:15:44.600 --> 00:15:47.060 Welke AI-uitvoer vormde de basis? 335 00:15:47.060 --> 00:15:51.060 Welke wijzigingen zijn inhoudelijk en welke uitsluitend stilistisch? 336 00:15:51.060 --> 00:15:54.100 Zijn waarschuwingen uit eerdere versies verdwenen? 337 00:15:54.340 --> 00:15:58.220 Is een minderheidsstandpunt geschrapt omdat het niet in de gewenste... 338 00:15:58.220 --> 00:15:59.040 ...structuur paste? 339 00:15:59.820 --> 00:16:03.540 Zonder versiebeheer kunnen belangrijke beslismomenten onzichtbaar worden. 340 00:16:04.280 --> 00:16:06.400 Versiebeheer hoeft niet ingewikkeld te zijn. 341 00:16:06.400 --> 00:16:09.130 Het kan beginnen met een heldere registratie. 342 00:16:09.130 --> 00:16:09.720 versienummer. 343 00:16:10.080 --> 00:16:10.500 datum. 344 00:16:10.500 --> 00:16:11.560 gebruikt model. 345 00:16:11.900 --> 00:16:12.960 belangrijkste wijzigingen. 346 00:16:12.960 --> 00:16:15.340 persoon die de wijziging heeft aangebracht. 347 00:16:15.340 --> 00:16:17.360 en reden voor de wijziging. 348 00:16:17.980 --> 00:16:21.420 Bij wezenlijke besluiten kan daarnaast worden vastgelegd welke passages... 349 00:16:21.420 --> 00:16:26.120 ...rechtstreeks uit AI-output voortkomen en welke door mensen zijn herschreven... 350 00:16:26.120 --> 00:16:27.040 ...of toegevoegd. 351 00:16:27.040 --> 00:16:30.320 Niet om menselijke creativiteit te bureaucratiseren. 352 00:16:30.720 --> 00:16:34.580 Wel om te voorkomen dat achteraf niemand meer kan uitleggen hoe de... 353 00:16:34.580 --> 00:16:36.380 ...uiteindelijke redenering is ontstaan. 354 00:16:37.040 --> 00:16:39.260 Menselijke wijziging moet inhoudelijk zichtbaar zijn. 355 00:16:39.260 --> 00:16:43.900 Een van de grootste valkuilen is dat organisaties menselijke betrokkenheid... 356 00:16:43.900 --> 00:16:46.880 ...afmeten aan het aantal wijzigingen in een tekst. 357 00:16:46.880 --> 00:16:49.200 Maar veel wijzigingen bewijzen weinig. 358 00:16:49.980 --> 00:16:51.540 Een mens kan een komma verplaatsen... 359 00:16:51.940 --> 00:16:54.300 ...de toon aanpassen en enkele woorden vervangen... 360 00:16:54.300 --> 00:16:57.800 ...terwijl de volledige redenering van het systeem intact blijft. 361 00:16:58.280 --> 00:16:59.860 Dat is redactionele bewerking. 362 00:16:59.860 --> 00:17:02.700 Nog geen menselijke heroverweging. 363 00:17:02.700 --> 00:17:06.060 Een betekenisvolle menselijke bijdrage wordt zichtbaar wanneer iemand... 364 00:17:06.060 --> 00:17:06.480 ...bijvoorbeeld. 365 00:17:06.480 --> 00:17:09.119 Een uitgangspunt ter discussie stelt. 366 00:17:09.920 --> 00:17:11.300 Een ontbrekende bron toevoegt. 367 00:17:11.740 --> 00:17:14.200 Een onvoldoende vertegenwoordigd perspectief inbrengt. 368 00:17:14.200 --> 00:17:15.640 Een risico anders weegt. 369 00:17:15.960 --> 00:17:17.500 Een AI-conclusie afwijst. 370 00:17:18.119 --> 00:17:19.540 Een alternatief formuleert. 371 00:17:19.540 --> 00:17:23.380 Of uitlegt waarom een juridisch mogelijke keuze maatschappelijk toch... 372 00:17:23.380 --> 00:17:24.119 ...onwenselijk is. 373 00:17:24.119 --> 00:17:28.580 Het gaat dus niet om de vraag hoeveel tekst een mens heeft veranderd. 374 00:17:28.580 --> 00:17:32.480 Het gaat om de vraag welke inhoudelijke invloed de mens heeft uitgeoefend. 375 00:17:32.480 --> 00:17:37.080 Daarom zou in een besluitdossier niet alleen moeten staan dát een mens de... 376 00:17:37.080 --> 00:17:38.880 ...AI-uitvoer heeft beoordeeld. 377 00:17:38.880 --> 00:17:43.020 Er zou ook moeten worden vastgelegd op welke punten de menselijke... 378 00:17:43.020 --> 00:17:45.420 ...beoordeling tot een andere uitkomst heeft geleid. 379 00:17:45.420 --> 00:17:49.760 En wanneer geen enkele inhoudelijke wijziging nodig werd gevonden... 380 00:17:49.760 --> 00:17:51.760 ...moet ook dat worden gemotiveerd. 381 00:17:52.240 --> 00:17:55.080 Waarom werd de AI-uitvoer volledig overtuigend gevonden? 382 00:17:55.820 --> 00:17:57.640 Welke controles zijn uitgevoerd? 383 00:17:58.000 --> 00:17:59.580 Welke alternatieven zijn bekeken? 384 00:18:00.080 --> 00:18:03.560 En waarom waren aanvullende menselijke correcties niet noodzakelijk? 385 00:18:04.280 --> 00:18:07.280 Abstracte eerlijkheid tegenover de werkelijkheid van organisaties. 386 00:18:07.940 --> 00:18:09.140 De studie van Michael Veale... 387 00:18:09.960 --> 00:18:13.580 ...Max Van Kleek en Reuben Binns naar eerlijkheid en verantwoordelijkheid bij... 388 00:18:13.580 --> 00:18:17.440 ...algoritmische ondersteuning in hoog-risico-besluitvorming laat zien dat... 389 00:18:17.440 --> 00:18:20.880 ...abstracte beginselen niet vanzelf in de praktijk terechtkomen. 390 00:18:21.700 --> 00:18:24.040 Organisaties kunnen verklaren dat zij transparantie... 391 00:18:24.640 --> 00:18:27.700 ...eerlijkheid en menselijke controle belangrijk vinden. 392 00:18:28.020 --> 00:18:31.060 Maar professionals werken binnen concrete omstandigheden. 393 00:18:31.580 --> 00:18:35.460 Zij hebben te maken met tijdsdruk, productiedoelen, protocollen... 394 00:18:36.000 --> 00:18:39.300 ...managementverwachtingen, beperkte informatie en bestaande... 395 00:18:39.300 --> 00:18:40.100 ...machtsverhoudingen. 396 00:18:40.640 --> 00:18:44.300 Daarom is de vraag niet alleen of een medewerker formeel bevoegd is om van... 397 00:18:44.300 --> 00:18:45.820 ...een AI-advies af te wijken. 398 00:18:46.500 --> 00:18:50.000 De vraag is ook of de organisatie afwijking praktisch mogelijk maakt. 399 00:18:50.740 --> 00:18:54.600 Kan de medewerker kritiek leveren zonder als lastig of inefficiënt te worden... 400 00:18:54.600 --> 00:18:54.920 ...gezien? 401 00:18:55.480 --> 00:18:57.540 Is er tijd voor aanvullend onderzoek? 402 00:18:58.040 --> 00:18:59.760 Is er een procedure voor tegenspraak? 403 00:19:00.060 --> 00:19:03.140 Kan een burger of cliënt begrijpen welke rol AI heeft gespeeld? 404 00:19:03.940 --> 00:19:06.980 Worden fouten en afwijkingen gebruikt om het systeem te verbeteren? 405 00:19:07.440 --> 00:19:09.760 Of verdwijnen zij in individuele dossiers? 406 00:19:10.480 --> 00:19:12.980 Een position paper kan prachtige beginselen bevatten. 407 00:19:13.480 --> 00:19:17.080 Maar wanneer de organisatie rondom het besluit geen ruimte biedt voor... 408 00:19:17.080 --> 00:19:20.160 ...twijfel, tegenspraak en professionele autonomie... 409 00:19:20.920 --> 00:19:23.600 ...blijft het document vooral een verklaring van goede bedoelingen. 410 00:19:24.360 --> 00:19:27.360 Verantwoordelijkheid vereist daarom niet alleen transparantie over het... 411 00:19:27.360 --> 00:19:27.780 ...systeem. 412 00:19:28.900 --> 00:19:33.020 Zij vereist ook transparantie over de institutionele omgeving waarin het... 413 00:19:33.020 --> 00:19:33.940 ...systeem wordt gebruikt. 414 00:19:34.740 --> 00:19:38.520 Democratische besluitvorming vraagt zichtbare menselijke argumentatie. 415 00:19:39.080 --> 00:19:42.420 Kan een besluit democratisch worden genoemd wanneer vrijwel alle... 416 00:19:42.420 --> 00:19:44.620 ...argumentatie door AI is opgesteld? 417 00:19:44.920 --> 00:19:47.840 Dat hangt niet alleen af van de technische bijdrage van AI. 418 00:19:48.580 --> 00:19:52.240 Het hangt af van de vraag waar de waarden en prioriteiten vandaan komen. 419 00:19:53.020 --> 00:19:56.260 Democratie is meer dan het produceren van een logisch einddocument. 420 00:19:56.940 --> 00:19:59.980 Democratische besluitvorming vraagt strijdige perspectieven. 421 00:20:00.840 --> 00:20:02.680 Zij vraagt publieke argumentatie. 422 00:20:03.340 --> 00:20:06.780 Zij vraagt dat bestuurders uitleggen waarom het ene belang zwaarder weegt... 423 00:20:06.780 --> 00:20:07.400 ...dan het andere. 424 00:20:07.860 --> 00:20:11.280 Zij vraagt ruimte voor kritiek, wijziging en verantwoording. 425 00:20:11.280 --> 00:20:16.160 Een AI-systeem kan argumenten genereren voor vrijwel ieder standpunt. 426 00:20:16.580 --> 00:20:19.820 Maar het systeem draagt niet de maatschappelijke gevolgen van de gemaakte... 427 00:20:19.820 --> 00:20:20.160 ...keuze. 428 00:20:20.820 --> 00:20:24.080 Het hoeft niet terug te keren naar een wijk waar het beleid heeft gefaald. 429 00:20:24.900 --> 00:20:28.480 Het hoeft een cliënt niet uit te leggen waarom ondersteuning is geweigerd. 430 00:20:29.100 --> 00:20:30.780 Het hoeft geen verkiezing te doorstaan. 431 00:20:31.580 --> 00:20:34.380 Het hoeft geen excuses aan te bieden. 432 00:20:34.380 --> 00:20:37.800 En het kan niet moreel verantwoordelijk worden gehouden voor de manier... 433 00:20:37.800 --> 00:20:39.960 ...waarop waarden tegen elkaar zijn afgewogen. 434 00:20:40.700 --> 00:20:43.800 Daarom moet bij democratische besluitvorming zichtbaar blijven welke... 435 00:20:43.800 --> 00:20:47.800 ...argumenten door mensen zijn omarmd, gewijzigd of verworpen. 436 00:20:48.220 --> 00:20:50.940 Niet omdat mensen altijd betere teksten schrijven. 437 00:20:51.560 --> 00:20:55.460 Maar omdat mensen aanspreekbaar moeten blijven op de waarden die zij in... 438 00:20:55.460 --> 00:20:56.380 ...besluiten toepassen. 439 00:20:57.220 --> 00:20:59.660 Welke onderdelen moeten mensen altijd zelf schrijven? 440 00:21:00.340 --> 00:21:04.000 Niet ieder onderdeel van ieder document hoeft volledig handmatig te worden... 441 00:21:04.000 --> 00:21:04.480 ...geschreven. 442 00:21:05.000 --> 00:21:08.980 AI kan goed helpen bij samenvattingen, structuur, taalcorrectie... 443 00:21:09.380 --> 00:21:11.980 ...eerste inventarisaties en het ordenen van bronnen. 444 00:21:12.340 --> 00:21:15.780 Maar bepaalde onderdelen zouden aantoonbaar onder menselijke... 445 00:21:15.780 --> 00:21:17.260 ...verantwoordelijkheid moeten vallen. 446 00:21:17.880 --> 00:21:18.440 Bijvoorbeeld. 447 00:21:18.440 --> 00:21:20.880 de definitie van het maatschappelijke probleem. 448 00:21:21.240 --> 00:21:22.060 het waardenkader. 449 00:21:22.720 --> 00:21:24.400 de beschrijving van botsende belangen. 450 00:21:25.000 --> 00:21:26.660 de beoordeling van onzekerheden. 451 00:21:27.300 --> 00:21:29.000 de uiteindelijke belangenafweging. 452 00:21:29.420 --> 00:21:31.800 de motivering waarom een bepaalde optie wordt gekozen. 453 00:21:32.380 --> 00:21:34.660 de uitleg wie de lasten en risico’s draagt. 454 00:21:34.660 --> 00:21:37.740 en de verantwoording waarom alternatieven zijn verworpen. 455 00:21:38.300 --> 00:21:40.980 AI kan bij deze onderdelen ondersteunen. 456 00:21:41.220 --> 00:21:44.320 Maar de beslisser moet er zelf inhoudelijk eigenaar van zijn. 457 00:21:44.700 --> 00:21:48.460 Dat betekent niet noodzakelijk dat iedere zin zonder digitale hulp moet... 458 00:21:48.460 --> 00:21:49.280 ...worden getypt. 459 00:21:49.620 --> 00:21:52.680 Het betekent wel dat de mens de redenering moet begrijpen... 460 00:21:52.960 --> 00:21:56.440 ...kunnen verdedigen en zo nodig zelfstandig kunnen reconstrueren. 461 00:21:56.880 --> 00:21:58.780 Een bruikbare toets zou kunnen zijn. 462 00:21:58.780 --> 00:22:03.620 Kan de verantwoordelijke beslisser zonder het AI-systeem uitleggen welke... 463 00:22:03.620 --> 00:22:06.920 ...waarden centraal stonden, welke alternatieven zijn onderzocht... 464 00:22:07.360 --> 00:22:11.000 ...welke onzekerheden bestaan en waarom uiteindelijk deze keuze is gemaakt? 465 00:22:11.780 --> 00:22:16.240 Wanneer dat niet kan, is waarschijnlijk geen sprake van betekenisvolle... 466 00:22:16.240 --> 00:22:17.020 ...menselijke besluitvorming. 467 00:22:18.080 --> 00:22:20.360 De mogelijke opbouw van een besluitdossier. 468 00:22:20.440 --> 00:22:23.740 Een toekomstbestendig besluitdossier kan uit verschillende lagen bestaan. 469 00:22:24.320 --> 00:22:26.680 De eerste laag bevat het menselijke waardenkader. 470 00:22:27.460 --> 00:22:31.140 Welke publieke, professionele of maatschappelijke waarden zijn relevant? 471 00:22:31.140 --> 00:22:35.860 Denk aan menselijke waardigheid, veiligheid, autonomie, rechtvaardigheid... 472 00:22:36.300 --> 00:22:40.360 ...proportionaliteit, solidariteit en democratische legitimiteit. 473 00:22:40.860 --> 00:22:42.900 De tweede laag bevat de informatiebasis. 474 00:22:43.360 --> 00:22:45.900 Welke bronnen, datasets, ervaringsverhalen... 475 00:22:46.280 --> 00:22:48.460 ...onderzoeken en juridische kaders zijn gebruikt? 476 00:22:49.040 --> 00:22:50.960 Welke bronnen zijn omstreden of onzeker? 477 00:22:51.320 --> 00:22:53.020 Welke relevante informatie ontbrak? 478 00:22:53.340 --> 00:22:55.540 De derde laag beschrijft het AI-gebruik. 479 00:22:55.860 --> 00:22:56.820 Welk model is gebruikt? 480 00:22:57.180 --> 00:22:58.040 Welke modelversie? 481 00:22:58.460 --> 00:22:59.040 Voor welk doel? 482 00:22:59.040 --> 00:23:00.820 Welke instructies waren bepalend? 483 00:23:01.300 --> 00:23:02.800 Welke beperkingen waren bekend? 484 00:23:03.340 --> 00:23:05.560 De vierde laag bevat de relevante uitvoer. 485 00:23:06.080 --> 00:23:09.380 Niet noodzakelijk iedere gegenereerde zin, maar wel de concepten... 486 00:23:10.260 --> 00:23:13.760 ...analyses of aanbevelingen die wezenlijke invloed hadden op het besluit. 487 00:23:14.340 --> 00:23:16.680 De vijfde laag beschrijft de menselijke tussenkomst. 488 00:23:17.260 --> 00:23:18.740 Welke fouten zijn gecorrigeerd? 489 00:23:19.080 --> 00:23:20.360 Welke bronnen zijn toegevoegd? 490 00:23:20.740 --> 00:23:22.380 Welke conclusies zijn verworpen? 491 00:23:22.940 --> 00:23:24.900 Welke passages zijn inhoudelijk herschreven? 492 00:23:25.500 --> 00:23:28.640 De zesde laag bevat onzekerheden en afwijkende opvattingen. 493 00:23:29.160 --> 00:23:30.140 Waar bestond twijfel? 494 00:23:30.720 --> 00:23:32.920 Welke experts of betrokkenen waren het niet eens? 495 00:23:33.400 --> 00:23:35.160 Welke alternatieven bleven mogelijk? 496 00:23:35.960 --> 00:23:38.340 De zevende laag bevat de uiteindelijke motivering. 497 00:23:38.960 --> 00:23:40.260 Waarom is deze keuze gemaakt? 498 00:23:40.680 --> 00:23:41.880 Wie heeft het besluit genomen? 499 00:23:42.560 --> 00:23:44.720 Welke functie en bevoegdheid had deze persoon? 500 00:23:45.380 --> 00:23:48.840 En op welke manier blijft die persoon aanspreekbaar op de gevolgen? 501 00:23:49.120 --> 00:23:52.820 Het position paper kan vervolgens de leesbare synthese van dit dossier... 502 00:23:52.820 --> 00:23:53.240 ...vormen. 503 00:23:53.740 --> 00:23:56.480 Niet als cosmetisch bewijs van menselijke betrokkenheid. 504 00:23:57.000 --> 00:23:59.280 Maar als sluitstuk van een traceerbaar proces. 505 00:24:00.440 --> 00:24:01.080 Conclusie. 506 00:24:01.260 --> 00:24:02.620 Is een position paper voldoende? 507 00:24:03.200 --> 00:24:05.380 Nee, niet wanneer het document op zichzelf staat. 508 00:24:05.820 --> 00:24:07.480 Een position paper kan richting geven... 509 00:24:07.980 --> 00:24:10.340 ...waarden zichtbaar maken en argumentatie structureren. 510 00:24:10.840 --> 00:24:14.440 Maar het kan niet automatisch bewijzen dat de besluitvorming menselijk... 511 00:24:14.900 --> 00:24:16.600 ...onafhankelijk en controleerbaar was. 512 00:24:17.240 --> 00:24:18.300 Daarvoor is meer nodig. 513 00:24:18.700 --> 00:24:20.880 We moeten kunnen zien welke rol AI speelde. 514 00:24:21.360 --> 00:24:24.140 We moeten weten welk model en welke bronnen zijn gebruikt. 515 00:24:24.820 --> 00:24:27.320 We moeten kunnen reconstrueren hoe de tekst veranderde. 516 00:24:27.820 --> 00:24:30.940 We moeten kunnen vaststellen waar mensen inhoudelijk hebben ingegrepen. 517 00:24:31.680 --> 00:24:34.740 We moeten onzekerheden en afwijkende meningen bewaren. 518 00:24:35.460 --> 00:24:38.440 En we moeten weten wie uiteindelijk werkelijk heeft afgewogen... 519 00:24:38.800 --> 00:24:41.460 ...besloten en verantwoordelijkheid heeft aanvaard. 520 00:24:41.800 --> 00:24:43.400 De kern is eenvoudig. 521 00:24:43.820 --> 00:24:47.300 Een menselijke handtekening onder een door AI opgesteld document maakt het... 522 00:24:47.300 --> 00:24:48.920 ...proces nog niet menselijk. 523 00:24:49.240 --> 00:24:52.740 Menselijke besluitvorming wordt pas geloofwaardig wanneer de menselijke... 524 00:24:52.740 --> 00:24:55.520 ...invloed zichtbaar, inhoudelijk en herleidbaar is. 525 00:24:56.320 --> 00:24:58.480 Het position paper blijft daarbij waardevol. 526 00:24:59.060 --> 00:25:01.480 Maar het moet geen legitimatiestempel worden. 527 00:25:02.040 --> 00:25:05.100 Het moet het sluitstuk zijn van een aantoonbaar menselijk... 528 00:25:05.100 --> 00:25:06.240 ...besluitvormingsproces. 529 00:25:07.000 --> 00:25:08.120 Bronnen en referenties. 530 00:25:08.940 --> 00:25:12.540 Bij deze publicatie hoort een afzonderlijke toelichting op de belangrijkste... 531 00:25:12.540 --> 00:25:13.640 ...bronnen en referenties. 532 00:25:14.420 --> 00:25:18.220 Deze bronnen laten gezamenlijk zien dat transparante besluitvorming uit... 533 00:25:18.220 --> 00:25:19.440 ...meerdere lagen bestaat. 534 00:25:19.960 --> 00:25:22.260 We moeten niet alleen kijken naar het uiteindelijke document. 535 00:25:23.160 --> 00:25:25.580 We moeten ook kijken naar het gebruikte AI-model... 536 00:25:26.000 --> 00:25:28.180 ...de gegevens waarop systemen zijn ontwikkeld... 537 00:25:28.940 --> 00:25:32.400 ...de organisatorische omstandigheden waarin professionals werken en de... 538 00:25:32.400 --> 00:25:35.960 ...documentatie waarmee het proces achteraf kan worden gereconstrueerd. 539 00:25:36.740 --> 00:25:39.880 De eerste belangrijke bron is de Europese AI-verordening. 540 00:25:40.600 --> 00:25:44.260 Voor dit onderwerp zijn vooral de artikelen elf tot en met dertien relevant. 541 00:25:45.000 --> 00:25:47.860 Artikel elf behandelt de technische documentatie van... 542 00:25:47.860 --> 00:25:49.480 ...hoog-risico-AI-systemen. 543 00:25:49.680 --> 00:25:53.260 Die documentatie moet voldoende informatie bevatten om te kunnen beoordelen... 544 00:25:53.260 --> 00:25:55.680 ...of het systeem aan de wettelijke eisen voldoet. 545 00:25:56.220 --> 00:25:58.960 Artikel twaalf gaat over automatische registratie... 546 00:25:59.820 --> 00:26:01.000 ...vaak aangeduid als logging. 547 00:26:01.840 --> 00:26:05.600 Door gebeurtenissen tijdens het gebruik van een systeem vast te leggen... 548 00:26:05.660 --> 00:26:08.160 ...kan achteraf beter worden onderzocht wat er is gebeurd... 549 00:26:08.500 --> 00:26:11.660 ...en welke factoren mogelijk tot een bepaalde uitkomst hebben geleid. 550 00:26:12.660 --> 00:26:16.740 Artikel dertien behandelt transparantie en informatieverstrekking aan... 551 00:26:16.740 --> 00:26:18.540 ...degenen die het systeem gebruiken. 552 00:26:18.980 --> 00:26:22.860 De gebruiker moet het systeem voldoende kunnen begrijpen om de uitvoer te... 553 00:26:22.860 --> 00:26:25.580 ...interpreteren en op een passende manier te gebruiken. 554 00:26:26.700 --> 00:26:29.960 Deze bepalingen ondersteunen de gedachte dat verantwoordelijkheid niet... 555 00:26:29.960 --> 00:26:31.960 ...alleen uit een einddocument kan bestaan. 556 00:26:32.840 --> 00:26:36.520 Wanneer een AI-systeem wezenlijke invloed heeft gehad op een besluit... 557 00:26:36.740 --> 00:26:39.840 ...moet ook het proces rondom dat systeem voldoende traceerbaar zijn. 558 00:26:40.520 --> 00:26:43.360 De tweede bron is Model Cards for Model Reporting... 559 00:26:43.360 --> 00:26:45.860 ...van Margaret Mitchell en haar mede-auteurs. 560 00:26:46.700 --> 00:26:50.560 Deze publicatie introduceerde model cards als een praktische manier om... 561 00:26:50.560 --> 00:26:53.900 ...informatie over AI-modellen systematisch vast te leggen. 562 00:26:54.340 --> 00:26:57.260 Een model card kan beschrijven waarvoor een model is ontwikkeld... 563 00:26:57.660 --> 00:26:59.640 ...in welke omstandigheden het is getest... 564 00:27:00.160 --> 00:27:04.320 ...welke prestaties bekend zijn en welke beperkingen of ethische risico’s... 565 00:27:04.320 --> 00:27:04.680 ...bestaan. 566 00:27:05.200 --> 00:27:09.100 Voor deze blogreeks is dat relevant omdat een position paper vooral de... 567 00:27:09.100 --> 00:27:11.740 ...menselijke argumentatie en besluitvorming documenteert. 568 00:27:12.480 --> 00:27:16.780 Een model card vult dat aan met informatie over het gebruikte AI-instrument. 569 00:27:17.900 --> 00:27:21.420 Zonder die informatie kan een lezer moeilijk beoordelen of het model... 570 00:27:21.420 --> 00:27:24.180 ...geschikt was voor de taak waarvoor het werd ingezet. 571 00:27:24.560 --> 00:27:26.500 De derde bron is Datasheets for Datasets... 572 00:27:26.500 --> 00:27:28.700 ...van Timnit Gebru en haar mede-auteurs. 573 00:27:29.320 --> 00:27:31.920 Deze publicatie richt zich op de documentatie van datasets. 574 00:27:32.640 --> 00:27:36.420 Een datasheet kan onder meer beschrijven waarom gegevens zijn verzameld... 575 00:27:36.800 --> 00:27:40.500 ...hoe de dataset is samengesteld, welke groepen vertegenwoordigd zijn... 576 00:27:41.000 --> 00:27:44.900 ...welke beperkingen bestaan en voor welk gebruik de gegevens wel of niet... 577 00:27:44.900 --> 00:27:45.580 ...geschikt zijn. 578 00:27:46.240 --> 00:27:50.300 Deze bron onderstreept dat een AI-uitkomst nooit alleen wordt bepaald door... 579 00:27:50.300 --> 00:27:50.680 ...het model. 580 00:27:51.480 --> 00:27:54.160 De uitkomst wordt mede gevormd door de gegevens waarmee het model is... 581 00:27:54.160 --> 00:27:57.480 ...ontwikkeld en door de informatie die tijdens het gebruik wordt ingevoerd. 582 00:27:58.460 --> 00:28:01.520 Wanneer gegevens onvolledig, verouderd of eenzijdig zijn... 583 00:28:01.980 --> 00:28:06.160 ...kan ook een technisch geavanceerd systeem tot een overtuigend maar gebrekkig... 584 00:28:06.160 --> 00:28:06.880 ...antwoord komen. 585 00:28:06.880 --> 00:28:11.200 De vierde bron is de Britse Algorithmic Transparency Recording Standard. 586 00:28:12.120 --> 00:28:15.880 Deze standaard is ontwikkeld om overheidsorganisaties op een herkenbare... 587 00:28:15.880 --> 00:28:19.980 ...manier te laten publiceren hoe zij algoritmische hulpmiddelen gebruiken. 588 00:28:20.820 --> 00:28:25.060 Een openbaar transparantieregister kan bijvoorbeeld beschrijven waarom een... 589 00:28:25.060 --> 00:28:28.320 ...systeem wordt ingezet, welke organisatie verantwoordelijk is... 590 00:28:28.980 --> 00:28:33.080 ...welke invloed het systeem heeft op besluitvorming en welke waarborgen zijn... 591 00:28:33.080 --> 00:28:33.480 ...getroffen. 592 00:28:33.920 --> 00:28:36.700 De betekenis hiervan reikt verder dan de Britse overheid. 593 00:28:37.520 --> 00:28:40.960 Een vergelijkbare aanpak kan maatschappelijke organisaties, gemeenten... 594 00:28:41.700 --> 00:28:44.960 ...zorginstellingen en andere publieke instellingen helpen om zichtbaar te... 595 00:28:44.960 --> 00:28:48.820 ...maken waar en hoe kunstmatige intelligentie invloed heeft op hun werk. 596 00:28:49.680 --> 00:28:52.460 Zo ontstaat een openbaar AI-gebruiksregister... 597 00:28:52.460 --> 00:28:57.840 ...zonder dat noodzakelijkerwijs ieder intern document of iedere vertrouwelijke... 598 00:28:57.840 --> 00:28:59.740 ...prompt openbaar hoeft te worden gemaakt. 599 00:29:00.460 --> 00:29:05.260 De vijfde belangrijke bron is de studie Fairness and Accountability Design... 600 00:29:05.260 --> 00:29:09.740 ...Needs for Algorithmic Support in High-Stakes Public Sector Decision-Making... 601 00:29:09.740 --> 00:29:12.600 ...van Michael Veale, Max Van Kleek en Reuben Binns. 602 00:29:12.940 --> 00:29:16.360 Deze studie onderzocht de praktijk van professionals die algoritmische... 603 00:29:16.360 --> 00:29:20.000 ...ondersteuning gebruiken bij ingrijpende publieke beslissingen. 604 00:29:20.000 --> 00:29:24.380 De auteurs laten zien dat abstracte beginselen zoals eerlijkheid... 605 00:29:25.120 --> 00:29:28.520 ...transparantie en verantwoordelijkheid niet vanzelf aansluiten op de... 606 00:29:28.520 --> 00:29:30.500 ...dagelijkse werkelijkheid van organisaties. 607 00:29:31.319 --> 00:29:33.240 Professionals werken onder tijdsdruk. 608 00:29:33.720 --> 00:29:37.140 Zij hebben te maken met beperkte informatie, vaste procedures... 609 00:29:38.080 --> 00:29:41.480 ...hiërarchische verwachtingen en systemen waarvan de werking niet altijd... 610 00:29:41.480 --> 00:29:42.660 ...volledig inzichtelijk is. 611 00:29:43.060 --> 00:29:46.440 Deze bron ondersteunt daarom een centrale stelling uit dit blogbericht. 612 00:29:46.440 --> 00:29:50.740 Een mens kan formeel bevoegd zijn om van een AI-advies af te wijken... 613 00:29:51.400 --> 00:29:54.400 ...terwijl de organisatie die afwijking feitelijk moeilijk maakt. 614 00:29:55.020 --> 00:29:59.180 Een position paper krijgt pas werkelijk betekenis wanneer ook zichtbaar is... 615 00:29:59.180 --> 00:30:01.360 ...hoeveel invloed mensen konden uitoefenen... 616 00:30:01.860 --> 00:30:03.500 ...welke organisatorische druk bestond... 617 00:30:04.060 --> 00:30:07.940 ...welke mogelijkheden voor tegenspraak aanwezig waren en hoe kritiek is... 618 00:30:07.940 --> 00:30:08.560 ...verwerkt. 619 00:30:09.000 --> 00:30:11.540 Gezamenlijk leiden deze bronnen tot een bredere conclusie. 620 00:30:12.480 --> 00:30:16.120 Verantwoorde AI-besluitvorming vereist meer dan één goed geschreven... 621 00:30:16.120 --> 00:30:16.500 ...document. 622 00:30:16.940 --> 00:30:19.320 Er is documentatie nodig over het systeem. 623 00:30:19.640 --> 00:30:22.040 Er is informatie nodig over de gebruikte gegevens. 624 00:30:22.500 --> 00:30:25.780 Er is registratie nodig van belangrijke stappen en wijzigingen. 625 00:30:26.200 --> 00:30:30.520 Er is inzicht nodig in de organisatorische werkelijkheid waarin het besluit... 626 00:30:30.520 --> 00:30:31.300 ...tot stand kwam. 627 00:30:31.300 --> 00:30:35.200 En er is een menselijke beslisser nodig die niet alleen formeel tekent... 628 00:30:35.560 --> 00:30:37.360 ...maar de argumenten begrijpt... 629 00:30:37.880 --> 00:30:41.360 ...de alternatieven heeft afgewogen en aanspreekbaar blijft op de uitkomst. 630 00:30:42.180 --> 00:30:44.380 Daarom is een position paper een sterk begin. 631 00:30:45.080 --> 00:30:49.500 Maar het mag nooit worden gebruikt als bewijs dat menselijke besluitvorming... 632 00:30:49.500 --> 00:30:50.700 ...vanzelf heeft plaatsgevonden. 633 00:30:51.240 --> 00:30:54.960 Het wordt pas betekenisvol wanneer het onderdeel is van een breder en... 634 00:30:54.960 --> 00:30:56.300 ...navolgbaar besluitdossier. 635 00:30:57.100 --> 00:31:00.160 Een dossier waarin zichtbaar wordt wat de kunstmatige intelligentie heeft... 636 00:31:00.160 --> 00:31:00.800 ...bijgedragen. 637 00:31:00.800 --> 00:31:02.960 Wat mensen hebben gewijzigd. 638 00:31:03.380 --> 00:31:05.120 Welke onzekerheden zijn gebleven. 639 00:31:05.440 --> 00:31:06.640 Welke stemmen zijn gehoord. 640 00:31:07.139 --> 00:31:09.260 En waarom uiteindelijk deze beslissing is genomen. 641 00:31:10.120 --> 00:31:13.400 Dan wordt de handtekening onder het document geen administratief einde. 642 00:31:13.940 --> 00:31:16.800 Dan wordt zij de bevestiging van een aantoonbaar menselijk proces.