In de middag zijn er drie rondes van vijf verschillende sessies. Per ronde kun je een sessie kiezen. Er geldt een maximum aantal inschrijvingen per sessie.

De bio's van sprekers kun je hier nalezen.

RONDE 1​​​

De veranderende rol van de rechter door AI - Marc de Werd, gerechtshof Amsterdam

Als rechters de kansen die kunstmatige intelligentie de rechtspraak biedt verantwoord willen benutten, dan zullen zij actief betrokken moeten zijn bij de ontwikkeling van, en het toezicht op, nieuwe technologie. Dat is een belangrijke aanbeveling van Opinie 26 (2023) van de Raad van Europa. Opinie 26 stelt twee belangrijke vragen: 1) hoe te waarborgen dat het gebruik van AI-technologie door rechters in overeenstemming is met rechtsstatelijke eisen voor een eerlijk proces, daaronder begrepen de toegang tot de rechter en de rechterlijke onafhankelijkheid en onpartijdigheid; en (een laag dieper) 2) wat is in het AI-tijdperk (nog) de taak van een rechter, wie bepaalt dat, en hoe blijft het rechterlijk domein gevrijwaard van ongewenste technologische invloeden. In deze bijdrage worden op beide dilemma’s gereflecteerd en en passant Opinie 26 toegelicht.

Algoritmische besluitvorming in het bestuursrecht - Ola Al Khatib, Universiteit Utrecht/Stichting Algorithm Audit

Alhoewel bestuursorganen al decennia algoritmen inzetten, worden steeds vaker de complexere datagedreven in plaats van de simpelere regelgebaseerde ingezet, tijdens de voorbereidingsfase van Awb-besluiten. Bijvoorbeeld om te prioriteren welke aanvragen of (belasting)aangiftes aan nalevingstoezicht worden onderworpen. Daarmee gaat AI ook steeds meer onderdeel uitmaken van de nieuwe realiteit binnen de rechtspraak.

Deze nieuwe realiteit vergt meer ongelijkheidscompensatie door de bestuursrechter. Belanghebbenden weten meestal namelijk niet eens dat ze te maken hebben met een algoritme, en inzicht in de onderliggende gegevens en logica hebben ze al helemaal niet. En de momenteel geldende rechtsnormen laten zich niet één-op-één vertalen naar deze nieuwe, digitale realiteit. Totdat de wetgever in actie komt en regels voor algoritmische besluitvorming opstelt, zal de rechter belanghebbenden moeten beschermen via bestaande, algemene rechtsnormen.

Voor zowel het mitigeren van de machtsasymmetrie tussen burger en overheid als het vertalen van algemene rechtsnormen naar de algoritmische context, is aanzienlijke kennis vereist van de werking van verschillende soorten algoritmes. Deze workshop levert een bijdrage aan de (verdere) cultivering van deze kennis in de rechtspraak door het containerbegrip ‘algoritme’ en de toepassing daarvan door de overheid te demystificeren.

AI voor dummies - Rob Grift, rechtbank Oost-Brabant

ChatGPT, Midjourney, Machine learning, neurale netwerken, deeplearning. AI kent héél veel verschijningsvormen. In deze sessie legt Rob op een laagdrempelige manier uit wat AI eigenlijk is (spoiler alert: statistiek!), welke verschijningsvormen het kent en waarom het van belang is het verschil te (her)kennen tussen statistische correlatie en causaliteit.

AI-act: 180 overwegingen, 113 artikelen, 13 bijlagen! - Leo van der Wees, Raad voor de rechtspraak

En iedereen maar denken dat AI een black box is; de AI-act, de verordening die de ontwikkeling en het gebruik van AI in de EU in goede banen moet leiden, is ook een behoorlijk zwart gat. Misschien niet echt vreemd. Het zou een wonder zijn geweest als de mysterieuze wereld van AI door middel van heldere regelgeving in goede banen geleid zou gaan worden. Het gaat gebeuren met 113 artikelen, 13 bijlagen, 180 overwegingen, en verwijzingen naar 27 andere wetten. Tijdens deze sessie over de AI-act wordt geprobeerd toch iets van helderheid gegeven over vooral die bepalingen die de Rechtspraak wel eens zouden kunnen gaan raken.

Uitwerking van de AI-verordening - minsterie van JenV

De Directie Artificiële Intelligentie (DAI) van het Ministerie van Justitie en Veiligheid (JenV) helpt het JenV-domein met het stimuleren van verantwoorde toepassing van AI en werkt mee aan de (inter)nationale ontwikkeling van AI-beleid. DAI is nauw verbonden met de JenV-organisaties en werkt actief samen met andere ministeries om de verbinding tussen beleid en uitvoering te maken.

Een belangrijk onderwerp waar DAI zich mee bezighoudt is de AI-verordening (AIV), die op 1 augustus 2024 in werking is getreden. Het team heeft drie jaar lang hard met andere JenV-organisaties en ministeries gewerkt, aan de inbreng van Nederlandse posities over de AIV in Brussel. En nu is de tijd aangebroken voor de implementatie van die verordening. Hoewel het wettelijke kader nog niet helemaal af is (denk aan de gedelegeerde- en uitvoeringshandelingen, standaarden en de Nederlandse uitvoeringswet), is het voor DAI en JenV belangrijk om nu al aan de slag te gaan met de vervolgstappen. Zowel Europees en nationaal maar ook binnen JenV. De verdere uitwerking kan namelijk invloed hebben op de JenV-taakuitvoering. Maar hoe verloopt die verdere uitwerking van de AIV (zoals de inrichting van een EU-database of de classificatieregels van hoog risico AI)? Wat wordt nog geregeld in de Nederlandse uitvoeringswet voor de AIV? En wat is de impact van het hoofdlijnenakkoord op AI- en algoritmebeleid? Tijdens deze interactieve sessie neemt DAI je in vogelvlucht mee door de laatste ontwikkelingen.

RONDE 2

Who are the “humans-in-the-loop”? Operationalizing human oversight of AI-supported judicial decision-making (English) - Isabella Banks, UvA

As high-risk systems under the new EU AI Act, AI systems used to support judicial decision-making must enable effective human oversight. This means that so-called humans-in-the-loop of such systems must be able to exercise agency over the decision-making process by correcting inaccurate or biased algorithmic outputs. But what does it mean to oversee AI systems in a way that is not only legally compliant, but also consistent with judicial values and fundamental rights? This interactive session will begin with a brief introduction to the human oversight requirements set out in Article 14 of the AI Act and the ways in which they distribute accountability for human oversight across the AI value chain. Participants will then be invited to think about the legal, professional, and ethical responsibilities of actors within the AI value chain to operationalize human oversight in the judicial context. By collectively reflecting on these responsibilities, participants will identify accountability gaps left by the AI Act and brainstorm what the humans-in-the-loop of AI-supported judicial decision-making processes can do to address them.

AI in forensische bewijswaardering - Rolf Ypma, NFI

Een belangrijk deel van het werk van een forensisch deskundige bestaat uit het interpreteren van metingen, zoals uit het lab (GCMS drugsmeting), van een camera (gezicht op beveiligingscamera) of microfoon (tap van verdachte). AI methodes kunnen dit werk ondersteunen of wellicht verbeteren - bijvoorbeeld door accurater gezichten op twee afbeeldingen te vergelijken. In deze presentatie wordt je meegenomen in wat er nu al mogelijk is en gebeurt, en waar bij het NFI wordt ingezet voor de toekomst. Ook bespreken we enkele fundamentelere vragen: als een algoritme een niet-uitlegbare 'black box' is, kan deze dan verantwoord ingezet worden in forensische bewijswaardering?

Verschoningsgerechtigde informatie filteren met AI - Maša Galič, VU Amsterdam

Met de digitalisering van communicatie is het steeds moeilijker geworden om verschoningsgerechtigde informatie (zoals vertrouwelijke communicatie tussen een advocaat en zijn cliënt) af te schermen. In de context van terrabytes aan gegevens die in beslag worden genomen in grote (grensoverschrijdende) onderzoeken, is de traditionele manier om deze informatie te filteren (oftewel schonen) met behulp van zoektermen (zoals 'advocaat' of 'vertrouwelijk') veel te traag, arbeidsintensief en van onbekende kwaliteit geworden. Bovendien is er bij geheime operaties en opsporingsonderzoeken zonder concrete verdachten niemand die kan aangeven dat er verschoningsgerechtigde informatie in de verzamelde dataset zit en waar deze informatie zich precies zou kunnen bevinden. In deze context wordt AI gezien als een wondermiddel: het zou de kosten van het filteren verlagen en tegelijkertijd de mogelijkheden voor misbruik minimaliseren en zo ook het vertrouwen in het rechtelijk systeem herstellen.

In deze presentatie verkent Maša Galič de sterke en zwakke punten van verschillende AI-gebaseerde benaderingen voor het filteren van verschoningsgerechtigde informatie.

Digitale bewijsvoering en inzet van algoritmes en AI bij opsporing - Martijn Egberts, Openbaar Ministerie

De toename van de digitalisering in NL en een groot deel van de rest van de wereld, heeft als gevolg dat steeds meer bewijsmiddelen vooral of alleen nog maar in digitale vorm bestaan. Denk aan een browsergeschiedenis waarin iemand zoekt naar manieren om een moord te plegen zonder sporen na te laten, de vele e-mails die we ontvangen en versturen, cryptocurrency om geld wit te wassen en niet te vergeten alle digitale sporen in onze mobiele telefoons die vertellen waar we waren, wat we deden en met wie we communiceerden.

Aan de hand van verschillende voorbeelden uit de opsporing zal Martijn Egberts zijn visie geven op hoe de opsporing (politie FIOD, NFI e.a.) nu algoritmes, AI en data-analyses gebruikt of kan gebruiken binnen de daarvoor geldende kaders. Welke rol speelt het openbaar ministerie daarin? Speelt AI daarin nu al een belangrijke rol en zo ja, in hoeverre begrijpen de juristen dan op welke manier AI doorwerkt in de verkregen resultaten? Aan de hand van enkele voorbeelden wordt het gebruik van digitaal bewijs in de rechtszaal besproken. Een interactieve sessie waarbij ingegaan wordt op de mogelijkheden van (niet) generatieve AI, AI en Hansken en gezichts/stemherkenning.

Inzet van AI in de dagelijkse praktijk bij de Politie - Kelly Vink, Politie

Kelly is juridisch adviseur AI en Data Science bij de Politie. Ze gaat in op hoe de Politie het gebruik van AI inzet in de opsporing en dagelijkse praktijk. Waar lopen ze tegenaan? En hoe wordt de brug geslagen richting OM en uiteindelijk de Rechtspraak? Ook gaat ze dieper in op wat de inzichten zijn op het gebied van wetgeving en advies richting wetgever op het gebied van AI.

RONDE 3

Sessie Predicting court decisions: how is it done, and should we be doing it? - Masha Medvedeva (English), Leiden University

Over 150 academic papers claim the ability to predict court decisions, with many claiming accuracies exceeding 90%. Now GPT-4 has passed the US Uniform Bar Exam. The promises (and the alarms) of a robot judge have been around for years, yet the courts do not use such systems. In this workshop we will discuss why that is. We will address how these systems are built, who they are for and who is developing them. We will talk about whether the judiciary should develop its own prediction models and the impact they may have on legal practice.

Wie, of wat, is de advocaat van de toekomst? - Jeroen Soeteman, NOvA

Jeroen Soeteman, algemeen deken van de Nederlandse orde van advocaten, verkent in deze sessie hoe de NOvA de ontwikkeling van advocaat naar AI-advocaat ziet. Hoe verhoudt AI zich tot de kernwaarden advocatuur (onafhankelijkheid, partijdigheid, deskundigheid, integriteit en vertrouwelijkheid)? Soeteman bespreekt de noodzaak om AI verantwoord en ethisch in te zetten, waarbij de rechtsbescherming van cliënten centraal staat. Hij gaat in op de vraag hoe de NOvA zich voorbereidt op deze veranderingen en benadrukt het belang van menselijke vaardigheden zoals empathie en integriteit in het AI-tijdperk.

AI en de macht van BigTech - Kees Verhoeven, Bureau Digitale Zaken

AI is een systeemtechnologie die in alle domeinen van meerwaarde kan zijn, dus ook in de rechtspraak. Tegelijk heeft de inzet van AI en data impact op de rechtsstaat met haar rechtsprincipes en rechtsprekende macht. Zeker gezien het feit dat belangrijke AI-modellen en systemen ontwikkeld worden door machtige spelers zonder democratische functie. In zijn sessie schetst Kees Verhoeven de opkomst en impact van digitale technologieën vanaf het internet tot kunstmatige intelligentie en de gevolgen voor onze democratische rechtstaat.

Ethisch dialoog - Minke Brandenburg, Datalab Rechtspraak

In deze sessie gaan de deelnemers in gesprek over de ethische vraagstukken rondom de inzet van AI binnen de Rechtspraak. Aan de hand van een concrete casus bespreken de deelnemers de mogelijke impact op burgers, medewerkers, en andere betrokken partijen. Samen zoeken we naar de balans tussen onze kernwaarden, de mogelijkheden die nieuwe technologie biedt en waar de twee elkaar raken.

De veranderende rol van de rechter door AI - Marc de Werd, gerechtshof Amsterdam

Als rechters de kansen die kunstmatige intelligentie de rechtspraak biedt verantwoord willen benutten, dan zullen zij actief betrokken moeten zijn bij de ontwikkeling van, en het toezicht op, nieuwe technologie. Dat is een belangrijke aanbeveling van Opinie 26 (2023) van de Raad van Europa. Opinie 26 stelt twee belangrijke vragen: 1) hoe te waarborgen dat het gebruik van AI-technologie door rechters in overeenstemming is met rechtsstatelijke eisen voor een eerlijk proces, daaronder begrepen de toegang tot de rechter en de rechterlijke onafhankelijkheid en onpartijdigheid; en (een laag dieper) 2) wat is in het AI-tijdperk (nog) de taak van een rechter, wie bepaalt dat, en hoe blijft het rechterlijk domein gevrijwaard van ongewenste technologische invloeden. In deze bijdrage wordt op beide dilemma’s gereflecteerd en wordt en passant Opinie 26 toegelicht.