Kunstmatige intelligentie (AI) doet steeds meer zijn intrede in de juridische wereld. Ook in Nederland hebben rechtbanken inmiddels vonnissen gewezen waarin ChatGPT wordt genoemd. In dit blog analyseer ik, Sascha Lang, recente uitspraken waarin AI een rol speelt, gaan we in op de risico’s en juridische bezwaren, en bekijken we wat de EU AI Act en andere ontwikkelingen betekenen voor de toekomst van AI in de rechtszaal.
ChatGPT in de praktijk: wat gebeurt er in de Nederlandse rechtszaal?
In meerdere recente uitspraken van Nederlandse rechters is ChatGPT expliciet genoemd – hetzij als hulpmiddel van de rechter zelf, hetzij door partijen die ChatGPT-informatie als bewijs hebben ingebracht.
In een opmerkelijke zaak bij de Rechtbank Gelderland gebruikte een rechter ChatGPT om schade te begroten in een burenruzie over zonnepanelen. Volgens het vonnis schatte de rechter, met behulp van ChatGPT, de levensduur van zonnepanelen op 27,5 jaar. Ook werd het model geraadpleegd om te bepalen of isolatiemateriaal herbruikbaar was. Daarmee was het vonnis mede gebaseerd op informatie die niet door partijen was ingebracht.
Dat leidde tot stevige kritiek: is het wel toegestaan dat een rechter zelfstandig informatie toevoegt aan het dossier, zonder dat partijen zich daarover kunnen uitlaten?
Tegelijkertijd zien we ook partijen die ChatGPT inzetten, bijvoorbeeld voor het vertalen van documenten of om economische vergelijkingen te maken. In vrijwel alle gevallen wijzen rechters deze AI-bewijzen af, vaak omdat de gebruikte prompts niet zijn overgelegd, de antwoorden geen bronnen bevatten of omdat de betrouwbaarheid niet kan worden geverifieerd.
Twee maten? Rechters vs. partijen
Wat opvalt is het verschil in behandeling van AI-gebruik door rechters ten opzichte van AI-gebruik door partijen. Wanneer een partij ChatGPT gebruikt als bewijs, wordt dat meestal afgeserveerd wegens gebrek aan transparantie of verificatie. Maar wanneer een rechter hetzelfde doet, wordt dat in sommige gevallen geaccepteerd als onderbouwing van een redelijke schatting.
Deze ongelijkheid roept fundamentele vragen op over het recht op hoor en wederhoor (audi et alteram partem) en de verplichting van de rechter om zich te baseren op feiten die partijen hebben aangedragen – niet op zelf ingewonnen AI-informatie.
Het juridische kader: EU AI Act en het Nederlandse procesrecht
De inzet van AI in de rechtspraak valt mogelijk onder de ‘hoog risico’-categorie van de Europese AI-verordening (EU AI Act). Die schrijft onder andere voor dat bij toepassingen in de rechtspraak een fundamentele rechten-effectbeoordeling moet worden gedaan, evenals maatregelen voor menselijke controle, transparantie en databescherming.
Daarnaast geldt naar Nederlands recht dat bewijs in beginsel alleen toelaatbaar is wanneer partijen het kunnen controleren en hierop kunnen reageren. AI-output zonder bronvermelding en zonder inzicht in de prompt voldoet daar meestal niet aan.
Richtlijnen en de noodzaak van kaders
Hoewel in Europa, het VK en Nieuw-Zeeland richtlijnen worden ontwikkeld voor verantwoord AI-gebruik in de rechtspraak, ontbreken in Nederland nog duidelijke gedragsregels voor rechters of advocaten. Zolang er geen heldere regels zijn voor het gebruik van generatieve AI in de rechtszaal, blijft er rechtsonzekerheid. De Nederlandse Raad voor de Rechtspraak werkt aan een AI-strategie, maar concrete richtlijnen ontbreken nog. Drie minimumeisen lijken noodzakelijk:
- De gebruikte prompt en het volledige antwoord van AI moeten bekend worden gemaakt;
- AI-informatie mag alleen gebruikt worden als partijen zich daarover hebben kunnen uitlaten;
- Bronvermeldingen en herleidbaarheid zijn cruciaal voor transparantie en betrouwbaarheid.
Conclusie
AI biedt grote kansen in de juridische sector, van efficiëntere juridische analyse tot ondersteuning in eenvoudige geschillen. Maar de integratie ervan in de rechtszaal moet wel zorgvuldig gebeuren. Als AI het vertrouwen in de rechtspraak niet mag ondermijnen, zijn heldere richtlijnen en transparantie essentieel – voor zowel rechters als procespartijen.
