WEBVTT 1 00:00:00.070 --> 00:00:01.430 Wie bestuurt straks wie? 2 00:00:02.230 --> 00:00:06.210 Van kunstmatige intelligentie naar menselijke verantwoordelijkheid, welkom... 3 00:00:06.210 --> 00:00:07.750 ...bij de Kamer van Sociale Waarden. 4 00:00:08.570 --> 00:00:12.310 In deze podcast beginnen we aan een openbare zoektocht naar de verhouding... 5 00:00:12.310 --> 00:00:14.610 ...tussen de mens en kunstmatige intelligentie. 6 00:00:15.050 --> 00:00:18.510 Een zoektocht die niet alleen gaat over wat kunstmatige intelligentie... 7 00:00:18.510 --> 00:00:22.270 ...allemaal kan en ook niet alleen over de gevaren die aan kunstmatige... 8 00:00:22.270 --> 00:00:23.750 ...intelligentie verbonden kunnen zijn. 9 00:00:24.270 --> 00:00:26.630 De centrale vraag is fundamenteler. 10 00:00:26.630 --> 00:00:28.130 Wie bestuurt straks wie? 11 00:00:28.690 --> 00:00:32.250 Bepaalt de mens waarvoor kunstmatige intelligentie wordt gebruikt? 12 00:00:32.790 --> 00:00:37.070 Of gaan mensen zich steeds vaker aanpassen aan de uitkomsten, aanbevelingen... 13 00:00:37.070 --> 00:00:40.490 ...en redeneringen die kunstmatige intelligentie hun voorlegt? 14 00:00:41.110 --> 00:00:44.450 En wanneer we straks een beslissing nemen op basis van een analyse van... 15 00:00:44.450 --> 00:00:49.390 ...ChatGPT, Gemini, Claude of een ander taalmodel, is dat dan nog werkelijk... 16 00:00:49.390 --> 00:00:50.370 ...onze eigen beslissing? 17 00:00:51.070 --> 00:00:54.230 Of zijn wij langzaam de uitvoerders geworden van een richting die door een... 18 00:00:54.230 --> 00:00:55.570 ...machine is voorgesteld? 19 00:00:56.410 --> 00:01:00.470 Kunstmatige intelligentie kan in korte tijd grote hoeveelheden informatie... 20 00:01:00.470 --> 00:01:01.010 ...verwerken. 21 00:01:01.830 --> 00:01:05.570 Een taalmodel kan argumenten ordenen, documenten vergelijken, scenario's... 22 00:01:05.570 --> 00:01:10.010 ...uitwerken, tegenargumenten formuleren en complexe vraagstukken toegankelijk... 23 00:01:10.010 --> 00:01:10.330 ...maken. 24 00:01:10.650 --> 00:01:12.630 Dat biedt enorme mogelijkheden. 25 00:01:12.690 --> 00:01:16.430 Kunstmatige intelligentie kan mensen helpen om beter geïnformeerd te zijn. 26 00:01:17.230 --> 00:01:20.870 Zij kan patronen zichtbaar maken die wij zelf misschien over het hoofd zien. 27 00:01:21.310 --> 00:01:25.110 Zij kan ons confronteren met alternatieve verklaringen en oplossingen. 28 00:01:25.810 --> 00:01:30.130 En zij kan creativiteit voortbrengen die in snelheid en omvang ver voorbij... 29 00:01:30.130 --> 00:01:32.730 ...het individuele menselijke vermogen lijkt te gaan. 30 00:01:33.290 --> 00:01:36.090 Maar juist daardoor ontstaat een nieuwe kwetsbaarheid. 31 00:01:37.050 --> 00:01:40.990 Wanneer een systeem sneller kan analyseren, overtuigender kan schrijven en... 32 00:01:40.990 --> 00:01:45.010 ...meer alternatieven kan produceren dan een mens zelfstandig kan overzien,... 33 00:01:45.810 --> 00:01:49.610 ...bestaat het risico dat de mens zijn eigen beoordeling langzaam uit handen... 34 00:01:49.610 --> 00:01:54.210 ...geeft, niet door een bewust besluit, maar doordat het steeds gemakkelijker... 35 00:01:54.210 --> 00:01:57.010 ...wordt om een overtuigend AI -antwoord over te nemen. 36 00:01:57.850 --> 00:02:01.650 Daarom stelt de Kamer van Sociale Waarden voor om belangrijke... 37 00:02:01.650 --> 00:02:05.150 ...maatschappelijke en organisatorische beslissingen vast te leggen in... 38 00:02:05.150 --> 00:02:08.590 ...positionerings papieren, ook wel position papers genoemd. 39 00:02:08.889 --> 00:02:11.690 Een position paper is niet alleen een verzameling argumenten. 40 00:02:12.430 --> 00:02:15.750 Het is een document waarin mensen zichtbaar maken welke waarden zij... 41 00:02:15.750 --> 00:02:20.630 ...hanteren, welke belangen zij hebben afgewogen, welke onzekerheden zij... 42 00:02:20.630 --> 00:02:24.950 ...erkennen, welke risico's zij wel of niet aanvaardbaar vinden en waarom zij... 43 00:02:24.950 --> 00:02:27.210 ...uiteindelijk tot een bepaalde positie zijn gekomen. 44 00:02:28.030 --> 00:02:30.450 Kunstmatige intelligentie mag daarbij helpen. 45 00:02:31.310 --> 00:02:34.990 Zij mag onderzoeken, vergelijken, structureren en kritisch bevragen. 46 00:02:35.690 --> 00:02:38.730 Maar de uiteindelijke positie moet door mensen worden vastgesteld. 47 00:02:39.250 --> 00:02:42.810 Niet omdat de mens altijd slimmer, sneller of nauwkeuriger is dan... 48 00:02:42.810 --> 00:02:47.590 ...kunstmatige intelligentie, maar omdat kunstmatige intelligentie geen... 49 00:02:47.590 --> 00:02:51.110 ...menselijke verantwoordelijkheid kan dragen voor de gevolgen van een... 50 00:02:51.110 --> 00:02:51.590 ...beslissing. 51 00:02:52.390 --> 00:02:56.070 Wie een modern taalmodel gebruikt herkent waarschijnlijk het volgende. 52 00:02:56.750 --> 00:02:58.150 Je stelt een ingewikkelde vraag. 53 00:02:58.890 --> 00:03:01.550 Binnen enkele seconden verschijnt een goed opgebouwde tekst. 54 00:03:02.110 --> 00:03:04.290 De argumenten staan overzichtelijk onder elkaar. 55 00:03:04.830 --> 00:03:06.050 Er is een heldere conclusie. 56 00:03:06.870 --> 00:03:11.090 Misschien worden zelfs risico's, uitzonderingen en mogelijke bezwaren genoemd. 57 00:03:11.450 --> 00:03:15.450 Het antwoord klinkt redelijk, het klinkt deskundig en soms klinkt het... 58 00:03:15.450 --> 00:03:17.470 ...overtuigender dan de uitleg van een mens. 59 00:03:18.070 --> 00:03:19.710 Juist daarin schuilt een risico. 60 00:03:20.230 --> 00:03:24.090 Een overtuigend antwoord is nog niet automatisch een juist antwoord. 61 00:03:24.870 --> 00:03:28.510 Een logisch opgebouwde redenering is nog niet automatisch een rechtvaardige... 62 00:03:28.510 --> 00:03:29.070 ...redenering. 63 00:03:29.510 --> 00:03:34.150 En een efficiënte oplossing is nog niet automatisch een menselijke oplossing. 64 00:03:34.650 --> 00:03:38.510 Een taalmodel kan een voorstel doen dat op papier uitstekend lijkt te... 65 00:03:38.510 --> 00:03:42.810 ...werken, maar dat in de werkelijkheid mensen uitsluit, afhankelijk maakt of... 66 00:03:42.810 --> 00:03:44.250 ...reduceert tot gegevenspunten. 67 00:03:45.050 --> 00:03:49.090 Het model ervaart de gevolgen daarvan niet, het voelt geen verlies, het... 68 00:03:49.090 --> 00:03:53.350 ...draagt geen schaamte, het kent geen angst voor uitsluiting en het hoeft niet... 69 00:03:53.350 --> 00:03:57.810 ...verder te leven met de sociale, juridische of relationele gevolgen van het... 70 00:03:57.810 --> 00:03:58.230 ...besluit. 71 00:03:58.990 --> 00:04:01.890 De mensen op wie het besluit betrekking heeft moeten dat wel. 72 00:04:02.370 --> 00:04:06.190 Daarom is het niet voldoende dat ergens in een proces nog een mens aanwezig is. 73 00:04:06.890 --> 00:04:10.310 De vraag is niet alleen of een mens naar het AI -antwoord heeft gekeken. 74 00:04:10.970 --> 00:04:14.690 De werkelijke vraag is of die mens nog in staat was om zelfstandig te... 75 00:04:14.690 --> 00:04:17.110 ...beoordelen, tegen te spreken en te besluiten. 76 00:04:17.630 --> 00:04:21.110 Stel dat een gemeente kunstmatige intelligentie gebruikt om een besluit voor... 77 00:04:21.110 --> 00:04:21.650 ...te bereiden. 78 00:04:22.190 --> 00:04:27.070 De AI analyseert het dossier, de AI selecteert de relevante feiten, de AI... 79 00:04:27.070 --> 00:04:31.290 ...formuleert het juridische kader, de AI vergelijkt het dossier met eerdere... 80 00:04:31.290 --> 00:04:35.650 ...gevallen, de AI stelt een conclusie op en de medewerker leest de tekst... 81 00:04:35.650 --> 00:04:38.110 ...vervolgens nog enkele minuten door en zet zijn naam eronder. 82 00:04:39.010 --> 00:04:42.810 Formeel is er dan een mens betrokken, maar is er ook werkelijk sprake... 83 00:04:42.810 --> 00:04:44.690 ...geweest van menselijke besluitvorming? 84 00:04:45.450 --> 00:04:49.350 Had deze medewerker voldoende tijd om het volledige dossier zelf te begrijpen? 85 00:04:49.770 --> 00:04:53.790 Kon hij controleren welke informatie door de AI buiten beschouwing was gelaten? 86 00:04:54.330 --> 00:04:57.670 Wist hij hoe zwaar bepaalde gegevens in de analyse hadden meegewogen? 87 00:04:58.210 --> 00:05:02.290 Had hij de deskundigheid en bevoegdheid om de voorgestelde conclusie af te wijzen? 88 00:05:03.110 --> 00:05:05.310 En voelde hij zich vrij om dat daadwerkelijk te doen? 89 00:05:06.190 --> 00:05:10.190 Wanneer het antwoord op deze vragen ontkennend is, kan de mens veranderen in... 90 00:05:10.190 --> 00:05:12.350 ...een goedkeuringstempel van het systeem. 91 00:05:12.990 --> 00:05:17.230 De handtekening blijft menselijk, maar het denkproces is grotendeels aan de... 92 00:05:17.230 --> 00:05:18.390 ...technologie overgelaten. 93 00:05:18.810 --> 00:05:21.230 Dat is geen betekenisvolle menselijke controle. 94 00:05:22.090 --> 00:05:25.230 Dat is menselijke aanwezigheid zonder werkelijke menselijke macht. 95 00:05:26.010 --> 00:05:29.950 Daarbij speelt een verschijnsel dat automatiseringsbias wordt genoemd. 96 00:05:30.590 --> 00:05:33.870 Dat is de neiging van mensen om te veel vertrouwen te stellen in een... 97 00:05:33.870 --> 00:05:35.230 ...geautomatiseerde uitkomst. 98 00:05:36.030 --> 00:05:39.230 Zeker wanneer het systeem meestal goede resultaten produceert. 99 00:05:40.090 --> 00:05:44.230 Wanneer een navigatiesysteem ons 99 keer correct naar onze bestemming... 100 00:05:44.230 --> 00:05:49.030 ...brengt, zijn we de honderdste keer sneller geneigd om het systeem te volgen. 101 00:05:49.110 --> 00:05:50.970 Zelfs wanneer de route vreemd aanvoelt. 102 00:05:51.390 --> 00:05:53.510 Iets vergelijkbaars kan gebeuren met taalmodellen. 103 00:05:54.110 --> 00:05:58.430 Hoe vaker een model een bruikbaar antwoord geeft, hoe kleiner de kans dat... 104 00:05:58.430 --> 00:06:00.810 ...wij het volgende antwoord nog grondig controleren. 105 00:06:01.430 --> 00:06:05.570 Het risico neemt verder toe wanneer de gebruiker ja, weinig tijd heeft,... 106 00:06:05.910 --> 00:06:09.950 ...onvoldoende deskundigheid bezit, onder organisatorische druk staat of... 107 00:06:09.950 --> 00:06:12.810 ...geconfronteerd wordt met een zeer overtuigend geformuleerd advies. 108 00:06:13.890 --> 00:06:17.970 Menselijk toezicht kan daarom niet alleen betekenen dat iemand toestemming... 109 00:06:17.970 --> 00:06:18.450 ...moet geven. 110 00:06:19.350 --> 00:06:22.830 De mens moet ook worden beschermd tegen zijn eigen neiging om het systeem... 111 00:06:22.830 --> 00:06:24.790 ...zonder voldoende onderzoek te volgen. 112 00:06:25.230 --> 00:06:28.210 Daarvoor zijn opleiding, tijd, bevoegdheid en een kritische... 113 00:06:28.210 --> 00:06:29.490 ...organisatiecultuur nodig. 114 00:06:30.330 --> 00:06:34.230 Een medewerker die formeel mag afwijken, maar iedere afwijking uitgebreid... 115 00:06:34.230 --> 00:06:38.270 ...moet verdedigen, beschikt misschien helemaal niet over een werkelijk vrije... 116 00:06:38.270 --> 00:06:39.370 ...beslissingsruimte. 117 00:06:40.410 --> 00:06:44.350 Betekenisvolle menselijke controle vraagt om meer dan een knop met het woord... 118 00:06:44.350 --> 00:06:44.830 ...goedkeuren. 119 00:06:45.610 --> 00:06:48.830 De mens moet allereerst begrijpen wat het systeem wel en niet kan. 120 00:06:49.670 --> 00:06:52.950 Hij moet weten dat een taalmodel een overtuigend antwoord kan formuleren... 121 00:06:52.950 --> 00:06:57.150 ...zonder dat de onderliggende informatie noodzakelijk volledig of correct is. 122 00:06:57.790 --> 00:06:59.790 Hij moet de belangrijke bronnen kunnen controleren. 123 00:07:00.530 --> 00:07:03.510 Hij moet weten welke aannames in de analyse zijn verwerkt. 124 00:07:04.030 --> 00:07:06.310 Hij moet kunnen zien waar onzekerheid bestaat. 125 00:07:07.090 --> 00:07:10.670 En hij moet de mogelijkheid hebben om de AI -uitkomst te negeren, te... 126 00:07:10.670 --> 00:07:12.790 ...wijzigen of volledig af te wijzen. 127 00:07:13.330 --> 00:07:15.990 Daarbij hoort ook dat duidelijk is wie verantwoordelijk is. 128 00:07:16.790 --> 00:07:20.430 Niet alleen wie de knop heeft ingedrukt, maar wie het doel van het systeem... 129 00:07:20.430 --> 00:07:21.070 ...heeft bepaald. 130 00:07:21.620 --> 00:07:24.530 Wie heeft besloten welke gegevens mochten worden gebruikt? 131 00:07:25.210 --> 00:07:26.870 Wie de criteria heeft vastgesteld? 132 00:07:27.330 --> 00:07:28.190 Wie toezicht hield? 133 00:07:28.450 --> 00:07:29.350 Wie kon ingrijpen? 134 00:07:29.970 --> 00:07:33.350 En wie uitleg moet geven wanneer mensen door de uitkomst worden geraakt? 135 00:07:34.230 --> 00:07:36.910 Verantwoordelijkheid moet aansluiten bij werkelijke invloed. 136 00:07:37.450 --> 00:07:40.530 Je kunt een mens niet eerlijk verantwoordelijk maken voor een beslissing... 137 00:07:40.530 --> 00:07:45.250 ...wanneer die persoon onvoldoende informatie, tijd, deskundigheid of... 138 00:07:45.250 --> 00:07:47.710 ...bevoegdheid had om het systeem te controleren. 139 00:07:48.470 --> 00:07:51.550 Het position paper kan binnen dit proces een belangrijk anker zijn. 140 00:07:52.410 --> 00:07:56.330 Voordat de uiteindelijke beslissing wordt genomen, moeten mensen daarin hun... 141 00:07:56.330 --> 00:07:57.330 ...positie vastleggen. 142 00:07:57.730 --> 00:08:00.090 Niet alleen de conclusie, maar ook de weg ernaartoe. 143 00:08:00.570 --> 00:08:04.370 Een goed position paper maakt duidelijk wat het vraagstuk is. 144 00:08:04.910 --> 00:08:07.350 Welke mensen of groepen door de beslissing worden geraakt? 145 00:08:08.170 --> 00:08:10.350 Welke feiten als voldoende betrouwbaar worden beschouwd? 146 00:08:10.850 --> 00:08:13.230 Welke waarden richting geven aan de beoordeling? 147 00:08:13.870 --> 00:08:15.210 Welke belangen met elkaar botsen? 148 00:08:15.730 --> 00:08:17.350 Welke alternatieven zijn onderzocht? 149 00:08:17.710 --> 00:08:19.690 Welke onzekerheden overblijven? 150 00:08:20.270 --> 00:08:22.790 En waarom mensen uiteindelijk een bepaalde keuze maken? 151 00:08:23.590 --> 00:08:27.630 De bijdrage van kunstmatige intelligentie moet daarbij zichtbaar blijven. 152 00:08:28.030 --> 00:08:32.190 Niet om het gebruik van AI verdacht te maken, maar om te voorkomen dat de... 153 00:08:32.190 --> 00:08:34.590 ...oorsprong van argumenten en conclusies vervaart. 154 00:08:35.309 --> 00:08:39.010 Wanneer AI een eerste analyse heeft opgesteld, moet dat bekend zijn. 155 00:08:39.429 --> 00:08:43.610 Wanneer mensen belangrijke passages hebben gewijzigd, moet ook dat zichtbaar zijn. 156 00:08:44.290 --> 00:08:48.690 Wanneer een AI -advies bewust niet is gevolgd, verdient juist die afwijking... 157 00:08:48.690 --> 00:08:49.470 ...een motivering. 158 00:08:50.090 --> 00:08:52.750 Zo ontstaat een controleerbaar besluitvormingsproces. 159 00:08:53.630 --> 00:08:56.750 Niet met het doel om mensen te wantrouwen, maar om menselijke... 160 00:08:56.750 --> 00:08:58.450 ...verantwoordelijkheid te beschermen. 161 00:08:58.870 --> 00:09:02.130 Menselijke controle beschermt niet alleen degene over wie een beslissing... 162 00:09:02.130 --> 00:09:03.170 ...wordt genomen. 163 00:09:03.570 --> 00:09:05.030 Zij beschermt ook de beslisser. 164 00:09:05.750 --> 00:09:09.550 Een professional kan onder grote druk komen te staan wanneer een AI -systeem... 165 00:09:09.550 --> 00:09:13.130 ...een duidelijke conclusie geeft, terwijl zijn eigen ervaring iets anders... 166 00:09:13.130 --> 00:09:13.430 ...zegt. 167 00:09:14.250 --> 00:09:18.830 Stel dat een leerkracht, arts, hulpverlener, rechter, ambtenaar of... 168 00:09:18.830 --> 00:09:22.290 ...toezichthouder twijfelt aan een geautomatiseerde aanbeveling. 169 00:09:22.710 --> 00:09:25.730 Krijgt die professional dan werkelijk ruimte om af te wijken? 170 00:09:26.090 --> 00:09:30.410 Of ontstaat de vraag waarom deze persoon niet gewoon het systeem heeft gevolgd? 171 00:09:30.830 --> 00:09:34.790 Wanneer organisaties AI presenteren als objectiever, sneller of... 172 00:09:34.790 --> 00:09:38.370 ...wetenschappelijker dan de mens, kan een professional zich gedwongen voelen... 173 00:09:38.370 --> 00:09:40.550 ...om zijn eigen waarneming te negeren. 174 00:09:41.110 --> 00:09:44.070 Daarom moet menselijke autonomie institutioneel worden beschermd. 175 00:09:44.730 --> 00:09:48.570 Afwijken van AI mag niet worden behandeld als een fout die vooraf al... 176 00:09:48.570 --> 00:09:49.110 ...verdacht is. 177 00:09:49.970 --> 00:09:53.070 Het moet worden beschouwd als een normaal en noodzakelijk onderdeel van... 178 00:09:53.070 --> 00:09:54.090 ...professioneel handelen. 179 00:09:54.930 --> 00:09:58.510 Dat betekent natuurlijk niet dat iedere menselijke intuïtie juist is. 180 00:09:59.370 --> 00:10:00.450 Mensen maken fouten. 181 00:10:01.130 --> 00:10:05.550 Mensen kunnen vooringenomen zijn, mensen kunnen informatie missen, maar het... 182 00:10:05.550 --> 00:10:09.330 ...antwoord op menselijke feilbaarheid kan niet zijn dat wij de menselijke... 183 00:10:09.330 --> 00:10:13.490 ...beoordeling volledig vervangen door een systeem dat eveneens fouten,... 184 00:10:14.030 --> 00:10:16.010 ...vertekeningen en beperkingen kan bevatten. 185 00:10:16.750 --> 00:10:19.210 De kracht ligt in een controleerbare samenwerking. 186 00:10:19.690 --> 00:10:23.990 AI kan de mens kritisch bevragen en de mens moet AI kritisch blijvend bevragen. 187 00:10:24.850 --> 00:10:29.010 Kunstmatige intelligentie kan ons helpen om meer mogelijkheden te zien, maar... 188 00:10:29.010 --> 00:10:32.350 ...zij mag niet zelfstandig bepalen welke mogelijkheid wenselijk is. 189 00:10:32.770 --> 00:10:36.630 Zij kan berekenen welke oplossing het goedkoopst is, maar niet zelfstandig... 190 00:10:36.630 --> 00:10:39.330 ...beslissen welke menselijke prijs aanvaardbaar is. 191 00:10:39.930 --> 00:10:43.670 Zij kan voorspellen welke maatregel waarschijnlijk het meeste effect heeft,... 192 00:10:44.170 --> 00:10:47.230 ...maar niet bepalen welke rechten daarvoor mogen worden beperkt. 193 00:10:48.050 --> 00:10:51.690 Zij kan verschillende waarden in een tekst herkennen, maar niet op eigen... 194 00:10:51.690 --> 00:10:55.290 ...gezag vaststellen welke waarde in een concreet conflict voorrang moet... 195 00:10:55.290 --> 00:10:55.630 ...krijgen. 196 00:10:56.310 --> 00:10:57.630 Dat zijn normatieve keuzes. 197 00:10:58.390 --> 00:11:00.490 Keuzes over hoe wij met elkaar willen samenleven. 198 00:11:01.170 --> 00:11:05.550 Keuzes over rechtvaardigheid, waardigheid, vrijheid, zorg, veiligheid en... 199 00:11:05.550 --> 00:11:06.190 ...solidariteit. 200 00:11:06.530 --> 00:11:09.450 Daarvoor is democratische en menselijke legitimiteit nodig. 201 00:11:10.250 --> 00:11:13.430 De drie openvragen daarom leggen wij in dit eerste deel drie vragen voor. 202 00:11:14.210 --> 00:11:19.210 De eerste vraag is op welk moment mag kunstmatige intelligentie adviseren en... 203 00:11:19.210 --> 00:11:21.510 ...op welk moment moet een mens verplicht zelf beslissen? 204 00:11:22.270 --> 00:11:26.390 Is de grens afhankelijk van het onderwerp, van de mogelijke schade, van de... 205 00:11:26.390 --> 00:11:30.210 ...rechten die op het spel staan of van de mate waarin een besluit later nog... 206 00:11:30.210 --> 00:11:30.850 ...kan worden hersteld? 207 00:11:31.250 --> 00:11:36.010 De tweede vraag is, is menselijke verantwoordelijkheid nog aantoonbaar... 208 00:11:36.010 --> 00:11:40.550 ...wanneer kunstmatige intelligentie een groot gedeelte van het denkwerk heeft... 209 00:11:40.550 --> 00:11:40.930 ...verricht? 210 00:11:41.590 --> 00:11:45.450 Is een menselijke handtekening voldoende of moeten wij ook kunnen... 211 00:11:45.450 --> 00:11:50.250 ...reconstrueren welke argumenten door AI zijn aangeleverd, welke controles... 212 00:11:50.250 --> 00:11:53.950 ...zijn uitgevoerd en welke menselijke wijzigingen hebben plaatsgevonden? 213 00:11:54.650 --> 00:11:59.230 En de derde vraag is, welke nieuwe maatschappelijke afspraken zijn nodig om... 214 00:11:59.230 --> 00:12:00.970 ...menselijke autonomie te beschermen? 215 00:12:00.970 --> 00:12:04.430 Hebben professionals een recht nodig om van AI af te wijken? 216 00:12:05.090 --> 00:12:09.010 Moeten organisaties verplicht inzicht geven in de rol die AI bij een... 217 00:12:09.010 --> 00:12:10.030 ...beslissing heeft gespeeld? 218 00:12:10.510 --> 00:12:14.290 En moeten bepaalde beslissingen altijd buiten het bereik van volledige... 219 00:12:14.290 --> 00:12:15.430 ...automatisering blijven? 220 00:12:15.910 --> 00:12:19.990 Wij nodigen burgers, professionals, bestuurders, wetenschappers,... 221 00:12:20.190 --> 00:12:23.690 ...ontwikkelaars en maatschappelijke organisaties uit om op deze vragen te... 222 00:12:23.690 --> 00:12:24.250 ...reageren. 223 00:12:24.610 --> 00:12:29.090 Niet omdat wij verwachten dat één persoon het volledige antwoord heeft, maar... 224 00:12:29.090 --> 00:12:33.570 ...omdat de spelregels voor een samenleving met kunstmatige intelligentie niet... 225 00:12:33.570 --> 00:12:38.510 ...uitsluitend door technologiebedrijven, overheden of programmeurs mogen... 226 00:12:38.510 --> 00:12:39.170 ...worden bepaald. 227 00:12:39.510 --> 00:12:42.190 Zij moeten voortkomen uit een brede maatschappelijke dialoog. 228 00:12:42.910 --> 00:12:45.230 De vragen in deze podcast staan niet op zichzelf. 229 00:12:45.710 --> 00:12:49.470 In wetgeving internationale beleidskaders en wetenschappelijk onderzoek... 230 00:12:49.470 --> 00:12:53.570 ...wordt al langere tijd gezocht naar manieren om menselijke autonomie en... 231 00:12:53.570 --> 00:12:55.050 ...verantwoordelijkheid te behouden. 232 00:12:55.800 --> 00:12:59.190 Daarom bespreken we nu de belangrijkste bronnen waarop dit eerste deel is... 233 00:12:59.190 --> 00:12:59.730 ...gebaseerd. 234 00:13:00.510 --> 00:13:04.510 Niet als een losstaande literatuurlijst, maar als verdieping van de centrale... 235 00:13:04.510 --> 00:13:08.930 ...vraag, wat betekent het werkelijk wanneer wij zeggen dat de mens de controle... 236 00:13:08.930 --> 00:13:09.610 ...moet houden? 237 00:13:10.170 --> 00:13:14.350 De eerste belangrijke bron is de Europese Verordening over Kunstmatige... 238 00:13:14.350 --> 00:13:15.050 ...Intelligentie. 239 00:13:15.450 --> 00:13:19.150 Deze verordening is ook bekend als de Europese AI Verordening, of in het... 240 00:13:19.150 --> 00:13:20.390 ...Engels de AI -Act. 241 00:13:21.030 --> 00:13:25.350 Het gaat om Verordening Europese Unie 2024 nummer 1689. 242 00:13:26.330 --> 00:13:29.830 De verordening heeft als uitgangspunt dat kunstmatige intelligentie... 243 00:13:29.830 --> 00:13:33.130 ...mensgericht en betrouwbaar moet worden ontwikkeld en gebruikt. 244 00:13:33.950 --> 00:13:37.950 Voor systemen die volgens de verordening als hoog risico worden aangemerkt,... 245 00:13:38.570 --> 00:13:42.230 ...bevat artikel 14 specifieke eisen voor menselijk toezicht. 246 00:13:42.770 --> 00:13:45.270 Het is belangrijk om daarbij zorgvuldig te blijven. 247 00:13:45.670 --> 00:13:49.870 Deze eisen gelden niet automatisch voor ieder gesprek met ChatGPT, Gemini of... 248 00:13:49.870 --> 00:13:50.250 ...Claude. 249 00:13:50.950 --> 00:13:55.650 Artikel 14 is in de eerste plaats gericht op hoog risico AI -systemen binnen... 250 00:13:55.650 --> 00:13:57.030 ...de betekenis van de verordening. 251 00:13:57.850 --> 00:14:01.710 De bepalingen bieden echter wel waardevolle uitgangspunten voor verantwoord... 252 00:14:01.710 --> 00:14:04.590 ...gebruik van andere vormen van kunstmatige intelligentie. 253 00:14:05.530 --> 00:14:08.930 Volgens artikel 14 moeten mensen aan wie toezicht is opgedragen de... 254 00:14:08.930 --> 00:14:12.790 ...mogelijkheden en beperkingen van het systeem kunnen begrijpen. 255 00:14:13.610 --> 00:14:15.370 Zij moeten de werking kunnen volgen. 256 00:14:15.770 --> 00:14:19.330 Zij moeten afwijkingen, fouten en onverwachte prestaties kunnen herkennen. 257 00:14:20.050 --> 00:14:23.830 De verordening benoemt ook expliciet het risico van automatiseringsbias. 258 00:14:24.630 --> 00:14:28.750 Dat is de neiging om automatisch of te sterk te vertrouwen op de uitkomst... 259 00:14:28.750 --> 00:14:29.790 ...van een AI -systeem. 260 00:14:30.330 --> 00:14:34.650 Daarom moet de menselijke toezichthouder de uitvoer correct kunnen interpreteren. 261 00:14:35.090 --> 00:14:37.590 Hij moet kunnen besluiten om het systeem niet te gebruiken. 262 00:14:38.370 --> 00:14:41.130 Hij moet de uitvoer kunnen negeren, terugdraaien of vervangen. 263 00:14:41.970 --> 00:14:46.230 En hij moet, wanneer dat noodzakelijk is, kunnen ingrijpen of het systeem... 264 00:14:46.230 --> 00:14:47.250 ...veilig kunnen stoppen. 265 00:14:47.950 --> 00:14:50.950 Dit ondersteunt een belangrijk uitgangspunt van deze podcast. 266 00:14:51.670 --> 00:14:55.770 Menselijk toezicht is pas betekenisvol wanneer een mens niet alleen aanwezig... 267 00:14:55.770 --> 00:14:57.910 ...is, maar ook werkelijk kan handelen. 268 00:14:58.770 --> 00:15:02.370 De tweede juridische bron is de Algemene Verordening Gegevensbescherming,... 269 00:15:02.450 --> 00:15:03.670 ...beter bekend als de AVG. 270 00:15:04.370 --> 00:15:09.210 Artikel 22 van de AVG gaat over geautomatiseerde individuele besluitvorming,... 271 00:15:09.470 --> 00:15:10.690 ...waaronder profilering. 272 00:15:11.210 --> 00:15:15.390 De hoofdregel is dat iemand het recht heeft om niet te worden onderworpen... 273 00:15:15.390 --> 00:15:19.330 ...aan een besluit dat uitsluitend op geautomatiseerde verwerking is gebaseerd... 274 00:15:19.330 --> 00:15:23.850 ...wanneer dat besluit rechtsgevolgen heeft of hem op een vergelijkbare manier... 275 00:15:23.850 --> 00:15:25.070 ...aanzienlijk treft. 276 00:15:25.650 --> 00:15:29.710 Op deze regel bestaan uitzonderingen, maar in bepaalde gevallen moeten... 277 00:15:29.710 --> 00:15:31.410 ...passende waarborgen worden geboden. 278 00:15:32.270 --> 00:15:36.590 Daaronder vallen tenminste het recht op menselijke tussenkomst, het recht om... 279 00:15:36.590 --> 00:15:39.930 ...een eigen standpunt kenbaar te maken en het recht om het besluit te... 280 00:15:39.930 --> 00:15:40.350 ...betwisten. 281 00:15:41.070 --> 00:15:42.310 Ook hier moeten we precies zijn. 282 00:15:43.070 --> 00:15:46.790 Artikel 22 geldt niet voor iedere AI -bijdrage aan ieder besluit. 283 00:15:47.550 --> 00:15:51.350 Het richt zich op besluiten die uitsluitend geautomatiseerd worden genomen... 284 00:15:51.350 --> 00:15:54.990 ...en die juridische of vergelijkbaar ingrijpende gevolgen hebben. 285 00:15:55.430 --> 00:15:58.310 Toch is het achterliggende beginsel breder relevant. 286 00:15:59.010 --> 00:16:02.210 Wanneer technologie een grote invloed heeft op een beslissing die een mens... 287 00:16:02.210 --> 00:16:05.610 ...raakt, moet die persoon niet alleen tegenover een systeem komen te staan. 288 00:16:06.470 --> 00:16:11.330 Er moet een toegankelijke menselijke route bestaan voor uitleg, tegenspraak... 289 00:16:11.330 --> 00:16:12.210 ...en heroverweging. 290 00:16:12.670 --> 00:16:16.470 De derde bron wordt gevormd door de AI -principes van de Organisatie voor... 291 00:16:16.470 --> 00:16:19.550 ...Economische Samenwerking en Ontwikkeling, de OESO. 292 00:16:20.290 --> 00:16:26.250 Deze principes werden oorspronkelijk in 2019 vastgesteld en in mei 2024... 293 00:16:26.250 --> 00:16:27.050 ...bijgewerkt. 294 00:16:27.650 --> 00:16:31.590 Zij zijn gericht op innovatieve en betrouwbare kunstmatige intelligentie die... 295 00:16:31.590 --> 00:16:34.730 ...mensenrechten en democratische waarden respecteert. 296 00:16:35.270 --> 00:16:39.930 De principes benoemen vijf belangrijke gebieden, inclusieve groei, duurzame... 297 00:16:39.930 --> 00:16:44.570 ...ontwikkeling en welzijn, mensenrechten en democratische waarden, waaronder... 298 00:16:44.570 --> 00:16:49.150 ...rechtvaardigheid en privacy, transparantie en uitlegbaarheid, robuustheid,... 299 00:16:49.550 --> 00:16:52.250 ...veiligheid en beveiliging en verantwoordingsplicht. 300 00:16:53.090 --> 00:16:56.910 Deze principes maken duidelijk dat betrouwbare kunstmatige intelligentie... 301 00:16:56.910 --> 00:16:58.950 ...niet alleen een technisch vraagstuk is. 302 00:16:59.790 --> 00:17:03.290 Een systeem kan technisch goed functioneren en toch maatschappelijk... 303 00:17:03.290 --> 00:17:04.630 ...onwenselijke gevolgen hebben. 304 00:17:05.510 --> 00:17:09.250 Daarom moeten ook de doelen, waarden, machtsverhoudingen en... 305 00:17:09.250 --> 00:17:11.829 ...verantwoordelijkheden rondom het systeem worden onderzocht. 306 00:17:12.569 --> 00:17:17.290 De vierde bron is het raamwerk voor AI -risicomanagement van het Amerikaanse... 307 00:17:17.290 --> 00:17:21.829 ...National Institute of Standards and Technology, meestal afgekort als NIST. 308 00:17:22.150 --> 00:17:27.010 De eerste versie van dit AI -risicomanagement framework werd op 26 januari... 309 00:17:27.010 --> 00:17:28.930 ...2023 uitgebracht. 310 00:17:29.470 --> 00:17:30.730 Het raamwerk is vrijwillig. 311 00:17:31.390 --> 00:17:35.010 Het is bedoeld om organisaties te helpen risico's van kunstmatige... 312 00:17:35.010 --> 00:17:39.590 ...intelligentie voor personen, organisaties en de samenleving te herkennen en... 313 00:17:39.590 --> 00:17:40.330 ...te beheersen. 314 00:17:40.650 --> 00:17:42.930 Het raamwerk richt zich niet alleen op het eindproduct. 315 00:17:43.550 --> 00:17:47.810 Het kijkt naar het ontwerp, de ontwikkeling, het gebruik en de evaluatie van... 316 00:17:47.810 --> 00:17:48.750 ...AI -systemen. 317 00:17:49.410 --> 00:17:54.790 In juli 2024 publiceerde NIST bovendien een aanvullend profiel dat specifiek... 318 00:17:54.790 --> 00:17:57.850 ...is gericht op generatieve kunstmatige intelligentie. 319 00:17:58.370 --> 00:18:02.910 Dat is relevant voor systemen die teksten, afbeeldingen, geluid of andere... 320 00:18:02.910 --> 00:18:04.210 ...inhoud kunnen voortbrengen. 321 00:18:04.310 --> 00:18:07.930 De belangrijke les uit dit raamwerk is dat risico's niet pas moeten worden... 322 00:18:07.930 --> 00:18:09.970 ...onderzocht wanneer er iets misgaat. 323 00:18:10.690 --> 00:18:14.470 Risicobeheersing moet vanaf het begin onderdeel zijn van de manier waarop... 324 00:18:14.470 --> 00:18:16.830 ...een organisatie kunstmatige intelligentie inzet. 325 00:18:17.470 --> 00:18:21.950 De vijfde bron is de wetenschappelijke publicatie met de titel Meaningful... 326 00:18:21.950 --> 00:18:25.650 ...Human Control Actionable Properties for AI System Development. 327 00:18:26.390 --> 00:18:29.930 In het Nederlands kan dat worden vertaald als betekenisvolle menselijke... 328 00:18:29.930 --> 00:18:34.110 ...controle, toepasbare eigenschappen voor de ontwikkeling van AI -systemen. 329 00:18:34.870 --> 00:18:38.910 Deze publicatie is geschreven door Luciano Cavalcante Siebert en... 330 00:18:38.910 --> 00:18:43.230 ...verschillende mede -auteurs en verscheen in 2022 in het wetenschappelijk... 331 00:18:43.230 --> 00:18:45.290 ...tijdschrift AI and Ethics. 332 00:18:45.870 --> 00:18:50.110 De onderzoekers proberen het filosofische begrip betekenisvolle menselijke... 333 00:18:50.110 --> 00:18:53.750 ...controle te vertalen naar bruikbare kenmerken voor ontwerpers en... 334 00:18:53.750 --> 00:18:54.530 ...organisaties. 335 00:18:55.410 --> 00:18:58.450 Een belangrijk uitgangspunt is dat de verantwoordelijkheid die aan een mens... 336 00:18:58.450 --> 00:19:02.730 ...wordt toegeschreven in verhouding moet staan tot de werkelijke mogelijkheid... 337 00:19:02.730 --> 00:19:06.290 ...en bevoegdheid van die persoon om het systeem te controleren. 338 00:19:06.890 --> 00:19:10.970 Met andere woorden, hoe minder invloed iemand werkelijk heeft, hoe minder... 339 00:19:10.970 --> 00:19:14.750 ...redelijk het is om die persoon achteraf volledig verantwoordelijk te maken. 340 00:19:15.590 --> 00:19:19.630 De auteurs stellen ook dat er duidelijke verbindingen moeten bestaan tussen... 341 00:19:19.630 --> 00:19:23.530 ...de handelingen van het AI -systeem en de handelingen van mensen die zich... 342 00:19:23.530 --> 00:19:26.290 ...bewust zijn van hun morele verantwoordelijkheid. 343 00:19:27.010 --> 00:19:28.430 Deze gedachte is essentieel. 344 00:19:29.210 --> 00:19:32.110 Verantwoordelijkheid mag niet verdwijnen in een keten van ontwikkelaars,... 345 00:19:32.570 --> 00:19:37.010 ...leveranciers, managers, gebruikers en algoritmen, waarbij uiteindelijk... 346 00:19:37.010 --> 00:19:40.230 ...niemand nog kan uitleggen wie de richting heeft bepaald. 347 00:19:40.670 --> 00:19:44.590 De besproken bronnen geven nog geen volledig antwoord op de vraag wie straks... 348 00:19:44.590 --> 00:19:48.830 ...wie bestuurt, maar zij maken wel duidelijk dat menselijke controle uit... 349 00:19:48.830 --> 00:19:50.290 ...verschillende onderdelen bestaat. 350 00:19:50.750 --> 00:19:56.330 Begrip, deskundigheid, tijd, bevoegdheid, transparantie, tegenspraak... 351 00:19:56.330 --> 00:19:58.210 ...ingrijpen, en verantwoordelijkheid. 352 00:19:58.850 --> 00:20:02.270 Ontbreekt een van deze onderdelen dan kan menselijke controle veranderen in... 353 00:20:02.270 --> 00:20:07.510 ...een formaliteit, een naam onder een document, een vinkje in een systeem of... 354 00:20:07.510 --> 00:20:11.630 ...een medewerker die verantwoordelijk wordt gehouden voor een uitkomst waarop... 355 00:20:11.630 --> 00:20:12.810 ...hij nauwelijks invloed had. 356 00:20:13.530 --> 00:20:16.670 Daarom willen wij het gesprek niet beëindigen met een conclusie. 357 00:20:16.990 --> 00:20:18.450 Wij willen het openen met drie vragen. 358 00:20:18.930 --> 00:20:22.670 Wanneer mag AI adviseren en wanneer moet de mens zelf beslissen? 359 00:20:23.290 --> 00:20:26.870 Hoe maken wij aantoonbaar dat een beslissing werkelijk door mensen is... 360 00:20:26.870 --> 00:20:30.910 ...genomen en welke maatschappelijke waarborgen zijn nodig om menselijke... 361 00:20:30.910 --> 00:20:32.090 ...autonomie te beschermen? 362 00:20:32.870 --> 00:20:36.550 Uw ervaring, kennis en kritiek kunnen bijdragen aan het vervolg. 363 00:20:37.450 --> 00:20:40.570 In het tweede blogbericht onderzoeken wij daarom de volgende vraag. 364 00:20:41.070 --> 00:20:42.550 Is een position paper voldoende? 365 00:20:43.170 --> 00:20:47.110 Want wanneer een mens zijn handtekening onder een door AI opgesteld document... 366 00:20:47.110 --> 00:20:50.510 ...zet, bewijst die handtekening dan dat de mens heeft besloten. 367 00:20:51.310 --> 00:20:55.510 Of hebben wij meer nodig om menselijke beoordeling, tegenspraak en... 368 00:20:55.510 --> 00:20:57.830 ...verantwoordelijkheid werkelijk zichtbaar te maken? 369 00:20:58.150 --> 00:20:59.650 Daarover gaat het volgende deel. 370 00:21:00.390 --> 00:21:01.490 Wie bestuurt straks wie? 371 00:21:02.090 --> 00:21:05.650 Het antwoord wordt niet alleen bepaald door wat kunstmatige intelligentie kan. 372 00:21:06.390 --> 00:21:10.810 Het wordt vooral bepaald door wat wij als mensen bereid zijn zelf te blijven doen.