NIEUWSBERICHT

Een terugblik: gezamenlijk congres VJK en VJR

Kunstmatige en menselijke intelligentie: zijn gemeente- en rijksjuristen klaar voor de toekomst?

Op 30 mei 2024 organiseerden we samen met de Vereniging Juristen Kwaliteitszorg (VJK) een congres over de vraag of gemeente- en rijksjuristen klaar zijn voor de toekomst van kunstmatige intelligentie. Zij spelen immers een cruciale rol bij het opstellen en toepassen van regelgeving. Zijn zij er klaar voor om AI in hun werkprocessen te integreren?

Onder leiding van mr John Olivier (voorzitter van het VJK) en mr dr Monique Wesselink (bestuurslid VJR) deelden diverse experts hun inzichten aan de ruim tweehonderd deelnemers over de inzet van algoritmische systemen, de regulering van AI en de juridische implicaties daarvan.

Prof. dr. mr. Jurgen Goossens van de universiteit Utrecht ging in op de paradigmaverschuiving die zich vanuit bestuurskundig perspectief de afgelopen decennia in de rol van de overheid heeft voorgedaan. Hoewel daarmee ook de rol van de jurist is veranderd, blijft de kern daarvan gelijk: het borgen van de publieke waarden. Goossens riep iedereen op kritisch en analytisch na te denken over hoe de hedendaagse jurist zich wil en kan verhouden tot AI. Hoe krijg je grip op AI, hoe controleer je AI? Hoe zorg je voor bescherming van de burger en doet men recht aan het legaliteitsbeginsel? Hoe borgen we de publieke waarden in AI?

Mr. Riccardo Osterwald, directeur van het Juridisch bureau van de gemeente Amsterdam, ging vervolgens in op AI en de juridische functie 2.0. AI biedt volgens hem veel mogelijkheden, maar heeft ook een weerbarstig randje. Zo kan AI repetitieve taken overnemen, waardoor juristen zich beter kunnen concentreren op bijvoorbeeld het voeren van het goede gesprek met de burger. Tegelijkertijd is er de zorg dat het overlaten van taken aan AI kan leiden tot verlies aan menselijk denkvermogen.

Na een lunch onder begeleiding van het Juliana strijktrio, opende mr. Fatma Çapkurt, promovenda aan de universiteit Leiden, het middagdeel. Zij hield een pleidooi voor het zorgvuldig profileren en meer integreren van de Algemene Verordening Gegevensbescherming (AVG) in de Algemene wet bestuursrecht (Awb). Als ‘techrealist’ maakt zij zich zorgen omdat volgens haar een lange termijn visie ontbreekt en er een hyperfocus is op techniek; blockchain - AI en chatGTP. Zij vraagt zich af of we in de toekomst nog wel zelf nadenken. 

Tot slot introduceerde prof. mr. Janneke Gerards van de universiteit Utrecht het impact assessment mensenrechten en algoritmen (IAMA). Een stappenplan dat helpt om bij de inzet van een algoritme de juiste afwegingen te maken. Het IAMA helpt om vooraf goed na te denken en af te wegen – maar ook achteraf transparant te kunnen motiveren op basis van welke belangen besluiten zijn genomen voor het inzetten (of juist niet inzetten) van een algoritme. Het IAMA kan ons helpen om AI te gebruiken als een krachtig hulpmiddel, terwijl we de controle en ethiek van menselijke beslissingen behouden. En dat is hard nodig! Mensen maken algoritmes en dus kunnen daarin menselijke denkfouten sluipen. Bovendien groeien zelflerende algoritmes waardoor het steeds moeilijker te achterhalen is op basis waarvan een algoritme een patroon herkend. Een algoritme maakt immers afwegingen op basis van correlaties (is er een verband?) maar niet op basis van causaliteit (waarom is dit verband er?). 

We sloten de dag af met een panelgesprek en een borrel.