Kan AI autonoom een bindend contract sluiten? (Timelex)

Auteurs: Stefan van Camp & Niels Vandezande (Timelex)

Met de booming opkomst van AI worden activiteiten van personen meer en meer geautomatiseerd. Dit geldt ook voor het online opzoeken van mogelijke interessante transacties, zowel in een B2B als B2C context. AI kan interessante transacties vinden op het internet en deze voorstellen aan de gebruiker. Amazon en Google hebben reeds geruime tijd geleden geëxperimenteerd met zulke applicaties. Met de ontwikkelingen op het gebied van AI-agents worden de mogelijkheden sterk verruimd. AI-agents zullen in de toekomst op basis van de door de gebruiker ingegeven parameters autonoom de verschillende stappen kunnen zetten om geschikte transacties te zoeken, voorwaarden en prijzen te vergelijken, en zelfs te onderhandelen via messaging systemen of chatbots. Op dit ogenblik blijft AI voornamelijk beperkt tot het opzoeken en voorstellen van interessante transacties die overeenstemmen met de wensen van de gebruiker, waarbij de aankoop finaal nog moet bevestigd worden door een “menselijke” tussenkomst van de gebruiker die de voorgestelde transactie beoordeelt en uitdrukkelijk moet instemmen met een aankoop alvorens het aanbod of het contract verzonden wordt. De “finale druk op de knop” moet nog door een mens gegeven worden.

Anderzijds bestaan er reeds heel wat AI producten die een ondersteunende rol spelen bij het voorbereiden en opmaken van een ontwerp van een contract, die contractvoorwaarden kunnen analyseren, de contract lifecycle (CLM) van een contract kunnen beheren en het contract automatisch kunnen uitvoeren rekening houdend met de overeengekomen deadlines, modaliteiten en compliance vereisten, al dan niet in combinatie met geautomatiseerde smart contracts die handelingen uitvoeren via gecodeerde triggers zonder menselijke tussenkomst.

1. Contractssluiting door AI

Een moeilijker vraag is of AI autonoom een geldig, bindend en onherroepelijk contract kan afsluiten op basis van de parameters en wensen die een menselijke gebruiker a priori heeft ingegeven, zoals de kenmerken van het te kopen product of dienst en een maximumprijs, maar zonder dat er nog een menselijke tussenkomst nodig is voor de finale instemming met de voorgestelde transactie. Er gebeuren reeds Forex transacties die automatisch plaatsvinden op basis van vooraf ingestelde instellingen van een gebruiker. Er zijn reeds verschillende crypto platformen die opereren via autonoom handelende AI-bots. In de Verenigde Staten experimenteerde supermarktketen Walmart met chatbots die autonoom contracten afsloten met leveranciers van eenvoudige materialen, waarbij de complexiteit van de onderhandeling beperkt was. Het project was vrij succesvol. Op dit ogenblik worden er verschillende pilootprojecten bestudeerd op het terrein van “agentic AI contracting”. Daarbij moet men opletten dat er geen verwarring ontstaat rond het gebruik van de term ”agent”. In de juridische betekenis van het woord, is een agent volgens verschillende Europese en Angelsaksische rechtsstelsels een fysieke persoon of rechtspersoon, aan wie een vertegenwoordigingsbevoegdheid wordt gegeven om contracten af te sluiten. “AI-agents” zijn de nieuwste evolutie gebaseerd op het LLM-model, maar de term verwijst niet naar die juridische betekenis, en verwijst eerder naar een systeem dat een complex geheel van taken uitvoert om een goede deal voor te stellen aan de gebruiker, zonder vertegenwoordigingsbevoegdheid om autonoom een contract af te sluiten. Althans, dat is voorlopig de stand van zaken.

Een AI-systeem of AI-contract agent kan een interessante deal opsporen en uitwerken op basis van de parameters die een gebruiker heeft ingegeven, en hij kan deze zelfs autonoom onderhandelen en (in theorie) ook meteen het betreffende contract afsluiten zonder menselijke tussenkomst. De technologie is voorhanden, alleen is het nog de vraag of gebruikers bereid zijn om het risico te nemen om gebonden te zijn door een contract zonder dat ze er een finale goedkeuring hebben voor gegeven. Bovendien is het juridisch kader veel complexer wanneer er sprake is van een echte contractssluiting door een autonoom handelende AI-agent.

De contractssluiting door een AI-agent raakt de essentiële juridische fundamenten van het contractenrecht. Het contractenrecht van Europese landen gebaseerd op de Franse Code Civil of de Angelsaksische Common Law gaat uit van de menselijke wil als het fundament voor een geldig contract. Zowel het aanbod van een contract door de ene partij als de aanvaarding van het aanbod door de medecontractant moeten gebaseerd zijn op de menselijke wil. Indien men er van uit gaat dat de menselijke wil wordt uitgeschakeld wanneer AI autonoom een contract afsluit in naam van een gebruiker (een persoon die optreedt voor zichzelf, als een professioneel of als een consument, of die optreedt voor een organisatie), stelt zich de vraag of er wel sprake kan zijn van een geldig contract waardoor die persoon of die organisatie juridisch gebonden is. Bovendien stelt zich de vraag of de persoon of organisatie het contract kan verwerpen indien een AI-agent een contract heeft afgesloten op basis van een fout of vergissing, en het afgesloten contract niet overeenstemt met de werkelijke intentie van die persoon of die organisatie.

Het afsluiten of uitvoeren van een contract door een technisch systeem of door software is niet geheel nieuw. Vending machines die door een verkoper worden geplaatst sluiten al sinds decennia verkoopcontracten voor drank, snoep of tickets. De verkoper uit zijn wil tot verkopen niet expliciet. De uitkomst van de handeling die door de machine wordt gesteld, wordt door middel van attributie toegerekend aan de verkoper die door de plaatsing van de machine op een voldoende duidelijke wijze heeft aangegeven dat hij gebonden wil zijn door de handelingen van de machine. Hetzelfde geldt voor de koper die zijn wilsovereenstemming uitdrukt door geld in te werpen of een creditcard aan te bieden en een keuze te maken. Computerprogramma’s kunnen automatisch bestellingen plaatsen (EDI) of overeenkomsten uitvoeren (smart contracts) indien voldaan is aan de triggers die in de programmacode zijn opgenomen. Zulke contracten worden reeds geruime tijd toegepast in de financiële wereld en in de logistiek. De ingebruikneming van de software wordt beschouwd als de uiting van de wil van de partijen om gebonden te zijn door dergelijke contracten, en de resultaten van de software worden via attributie toegerekend aan de betrokkenen.

a. Deterministische systemen 

De voorbeelden die we hebben aangehaald zijn gebaseerd op rigide software, die strikt gecodeerd wordt op basis van de intenties van de partijen. EDI en smart contracts bevatten inderdaad rigide code, die zonder een beoordelingsmarge uitvoert wat er wordt gevraagd. De software die hiervoor wordt geschreven, is deterministisch. In dezelfde zin bestaat er ook deterministische AI waarin de parameters van wat er dient te gebeuren op een rigide wijze is ingebed in de software. In theorie kan men zeggen dat de partijen de verantwoordelijkheid hebben genomen voor wat de software verondersteld wordt te doen, al is het uiteraard wel mogelijk dat bepaalde partijen in de praktijk te weinig technische kennis beschikken om dit te verifiëren. Omdat de software rechtlijnig en rigide is, zal een partij de geldigheid van een transactie alleen kunnen verwerpen indien zij redelijkerwijze niet in staat is om de software te controleren. Een partij zal dus gebonden zijn aan een dergelijke overeenkomst, tenzij er blijkbaar een fout werd begaan in de codering waarbij geen nalatigheid kan verweten worden aan die partij. Indien de partij zich wenst te beroepen op een materiële vergissing of op de figuur van “dwaling” om een niet-gewilde overeenkomst te verwerpen, moet zij aantonen dat de materiële vergissing of de dwaling niet te wijten is aan haar nalatigheid. Deze regel maakt deel uit van de meeste Europese rechtsstelsels.

Met de opkomst van smart contracts en AI hebben verschillende organisaties de klassieke fundamenten van het contractenrecht getoetst aan de recente ontwikkelingen. Einde 2024 publiceerde UNCITRAL een Model Law on Automated Contracting, waarin wordt bepaald dat de acties van een geautomatiseerd systeem toegerekend worden aan de gebruiker van het systeem (artikel 7). Overeenkomstig artikel 8 is de ontvanger van de handeling of van de verklaring van het geautomatiseerde systeem gerechtigd om te vertrouwen op deze attributie. Hij mag erop vertrouwen dat de gebruiker van het systeem die actie of verklaring gewild heeft, tenzij hij had moeten weten dat de gebruiker deze actie of verklaring niet had verwacht. Dit is een objectieve benadering, waarbij men vooral aandacht heeft voor de goede trouw van de ontvanger van een contract of van een contractsvoorstel. Indien deze mocht vertrouwen op de (schijnbare) herkomst en juistheid van het contract of van het voorstel, is de verzender van het contact of van het voorstel, die AI heeft gebruikt, in principe gebonden. Het is met andere woorden voornamelijk een toepassing van de vertrouwensleer. De Law Commission of England and Wales heeft principieel hetzelfde standpunt. Deze organisaties menen overigens dat er geen mogelijkheid van menselijke tussenkomst hoeft te zijn om over een geldig contract te spreken. Indien de gebruiker van AI het risico wenst te nemen dat AI voor hem autonoom een contract afsluit zonder dat de gebruiker een finale toestemming moet geven voor het contract, dan is hij principieel gebonden.

b. Niet-deterministische systemen 

Toch stelt zich de vraag of de theorie van attributie wel onverkort van toepassing is wanneer een AI-agent moet beschouwd worden als een niet-deterministisch systeem, zoals een systeem dat gebaseerd is op Deep Learning technieken. Deze systemen worden niet bestuurd door rigide programmacode van de gebruiker, maar maken gebruik van AI-modellen die getraind werden op basis van data. Het is een gekend fenomeen dat zulk systeem onverwachte resultaten kan produceren, die niet gewild werden door de gebruiker. De uitkomst van een AI-transactie zal dus niet steeds rechtlijnig kunnen doorgetrokken worden naar de gebruiker. Anderzijds zou men kunnen stellen dat de gebruiker dit risico bewust genomen heeft, dat dit onvoorzichtig was, en dat zijn medecontractant erop mocht vertrouwen dat het contractsvoorstel bindend was, tenzij het voorstel zo absurd zou zijn, of in tegenspraak zou zijn met eerdere besprekingen, dat de medecontractant zelf wantrouwig diende te zijn. Op dit ogenblik is er geen consensus in de Europese rechtsleer en er is nog geen richtinggevende rechtspraak betreffende dergelijke casussen. De UNCITRAL Modelwet is wat dubbelzinnig. In artikel 7 (3) wordt bepaald dat de gebruiker een transactie niet mag verwerpen omdat de uitkomst onverwacht was, maar anderzijds blijven de klassieke principes van het nationaal toepasselijk recht inzake dwaling en wilsgebreken wel toepasselijk. In het optionele artikel 8 wordt bepaald dat de medecontractant niet mag vertrouwen op een contractsvoorstel geformuleerd door een AI-agent indien de medecontractant zou moeten weten dat de gebruiker van de AI-agent de uitkomst niet verwachtte. Een redelijke toepassing van de vertrouwensleer blijft dus het principe. Indien de gebruiker van een AI-agent die in zijn naam een ongewild contract heeft gesloten, dit contract wil verwerpen, dan zal hij in de eerste plaats het bewijs moeten leveren dat hij andere parameters had aangegeven, en dat deze voldoende correct en ondubbelzinnig waren om tot een goede overeenkomst te komen indien de AI-agent geen “fout” of “hallucinatie” had begaan. Er moet dan ook voldoende documentatie zijn die aantoont hoe de AI-agent autonoom tot die transactie is gekomen. In de voorbeelden die we aangeven is AI geen “hoog risico” systeem in de zin van de AI Act, waardoor de compliance vereisten beperkt blijven. Niettemin moet het “black box” probleem met voldoende transparantie worden tegengegaan en moet een audit mogelijk zijn op de transactiebeslissing van de AI-agent.

Indien de gebruiker geen nalatigheid had begaan, is het de vraag of hij een materiële vergissing of een dwaling kan inroepen indien de tegenpartij wel mocht vertrouwen op het door zijn AI-agent medegedeelde contractsvoorstel. De Europese rechtsstelsels kunnen onderling verschillen wanneer zij deze casus beoordelen, wat tot rechtsonzekerheid kan leiden voor internationale transacties.

2. Consumentenbescherming

Het is mogelijk dat er in de nabije toekomst meer specifieke regels worden uitgevaardigd voor consumenten. Wanneer consumenten AI-agents zouden gebruiken voor aankopen bij de grote platformen, is er een risico dat deze systemen biased zijn en niet noodzakelijk de beste deal aanbieden. Het European Law Institute meent dat AI-systemen altijd menselijke tussenkomst mogelijk moeten maken voor consumenten . Met andere woorden: consumenten zullen zelf op de finale transactieknop moeten drukken, of ze moeten tenminste de mogelijkheid hebben om een transactie goed te keuren dan wel af te keuren alvorens ze gebonden zijn. Indien dit niet voorzien is, zou de overeenkomst ongeldig zijn. Bovendien stelt zich de vraag in welke mate het consumentenrecht specifieke aanpassingen zal vergen. De consument moet kennis kunnen nemen van de vereiste precontractuele informatie aangaande het product of de dienst en van de algemene voorwaarden van een online verkoper of platform, en deze informatie moet voldoende begrijpelijk zijn . Op dit ogenblik is het nog niet duidelijk of aan deze vereisten is voldaan wanneer alleen een AI-agent deze documenten in digitale vorm kan doornemen en beoordelen. Wanneer er gebruik wordt gemaakt van een chatbox is het trouwens de vraag hoe de gegeven precontractuele informatie op een afdoende wijze bewezen wordt. Anderzijds kan het wettelijke herroepingsrecht voor consumenten wel een oplossing vormen bij foutieve aankopen. Dit wettelijke vangnet geldt niet voor B2B klanten.

3. Aansprakelijkheid bij contractssluiting door AI-agenten

Indien een AI-gebruiker geconfronteerd wordt met een ongewild contract dat autonoom door een AI-agent werd afgesloten, en hij de geldigheid daarvan niet kan verwerpen omwille van de bestaande juridische principes, zal hij een aansprakelijkheidsclaim willen instellen tegen de aanbieder van de AI-agent. In dat kader zal het vaak moeilijk zijn om aan te tonen dat de AI-agent een fout heeft begaan. Ook hier zal er voldoende transparantie moeten zijn aangaande de autonome handelingen van de AI-agent. Maar het is ook principieel de vraag of “hallucinaties” wel degelijk moeten aanzien worden als een fout, en of de gebruiker het risico bewust heeft aanvaard. Indien de AI-agent een mogelijkheid biedt tot menselijke tussenkomst, waarbij de finale toestemming voor een transactie gegeven wordt door de gebruiker, en de gebruiker geen gebruik wenst te maken van deze mogelijkheid, kan er eventueel geoordeeld worden dat de gebruiker het ongewilde contract had kunnen voorkomen.

4. Interpretatie van contracten door AI

Naast de issues die kunnen optreden bij de contractssluiting, kunnen er ook specifieke moeilijkheden optreden bij de interpretatie en de uitvoering van een autonoom gesloten contract. Inzake de interpretatie van bepaalde termen of clausules houdt een rechter rekening met de algemene intentie van de partijen, maar die kan erg onduidelijk zijn in deze context. Contracten verwijzen ook vaak naar algemene beoordelingsmarges, wanneer zaken moeten gebeuren met “redelijkheid”, “zo snel als mogelijk”, “te goeder trouw” enz. Kan AI deze situaties beoordelen? Wanneer een contract van bepaalde duur op een bepaalde datum moet vernieuwd worden, of integendeel moet opgezegd worden om een vernieuwing te vermijden, is AI dan in staat om dit te beoordelen? Indien bepaalde omstandigheden gewijzigd zijn en een contract mogelijk kan aangepast worden ingevolge de principes van “hardship” of imprevisie, kan AI zulks beoordelen? Vooralsnog lijkt het illusoir om te geloven dat menselijke tussenkomst uitgesloten kan worden in het stadium van de uitvoering van een contract, tenzij het gaat om relatief rechtlijnige contracten met beperkte beoordelingsvragen.

5. Conclusie

Er is dus nog heel wat rechtsonzekerheid rond de toepassing van AI-agents bij de sluiting en uitvoering van contracten. De partijen kunnen hun contractueel kader vastleggen in een raamovereenkomst waarin de principes inzake geldigheid, bewijs en interpretatie van de tussen hen gesloten contracten worden verduidelijkt. Bepaalde platformen of communities kunnen zulke raamovereenkomsten opleggen aan de gebruikers die willen deelnemen aan het aangeboden systeem. In de loop van de volgende jaren zal moeten blijken of er een markt is voor autonoom afgesloten contracten, of deze gereguleerd zullen worden en of de rechtspraak de gepaste oplossingen kan voorstellen voor de huidige vragen.

Bron: Timelex