Mag de rechter zich baseren op ChatGPT? (Schuermans Advocaten)

Auteur: Schuermans Advocaten

In onze nieuwsberichten van 20 maart 2024 en 23 mei 2024 berichtten wij U omtrent de op til zijnde AI–Verordening.

Deze Verordening is inmiddels op 1 augustus 2024, na eerdere goedkeuring door het Europees Parlement en de Raad van de Europese Unie, in werking getreden.

Iedereen, die toepassingen van artificiële intelligentie ontwikkelt of introduceert op de markt, zal zich bijgevolg vanaf 1 augustus 2026 aan de Verordening moeten conformeren. Tevens zullen vanaf diezelfde datum regels gelden voor het gebruik van artificiële intelligentie.

In de marge daarvan verwijzen wij naar een uitspraak van de (Nederlandse) Rechtbank Gelderland van 7 juni 2024, waarvan U de tekst hier kan terugvinden en waarover in Nederland enige consternatie is ontstaan. In de uitspraak baseerde de rechtbank zich op opzoekingen in ChatGPT om zowel de levensduur van zonnepanelen als de eventuele onbruikbaarheid van isolatiemateriaal beschadigd door water in te schatten.

Een dergelijk gebruik van een AI-systeem valt binnenkort ook onder de AI-Verordening en wordt hierdoor mogelijk zelfs beperkt.

Immers bepaalt bijlage III bij de Verordening dat AI-systemen, die bedoeld zijn om een rechterlijke instantie te ondersteunen bij het onderzoeken en uitleggen van feiten en de wet, moeten worden aanzien als AI-systemen met een hoog risico. Dergelijke systemen moeten voldoen aan de voorschriften in hoofdstuk 2 van de Verordening. Eén van deze voorschriften is dat de werking van het betrokken AI-systeem voldoende transparant is om gebruikers in staat te stellen de output van het systeem te interpreteren en op passende wijze te gebruiken. Het weekblad Nature omschreef ChatGPT in haar artikel van 25 juli 2023  echter als een black box, waarbij niet precies geweten is op welke wijze het AI-systeem tot het gegeven antwoord komt.

Eén en ander lijkt dus te impliceren dat de rechter vanaf 1 augustus 2026 niet zomaar een beroep zal mogen doen op ChatGPT. Minstens zal de rechter er goed aan doen de uitspraak met andere elementen te onderbouwen en dit zowel op juridisch als feitelijk vlak.

Bron: Schuermans Advocaten