Een klant vroeg me onlangs wat er precies gebeurt als zijn inkoopagent ‘s nachts autonoom een order plaatst bij een leverancier die hij zelf heeft gevonden, na een onderhandeling die hij zelf heeft gevoerd. Ik begon aan een antwoord en merkte halverwege dat ik geen antwoord had. Want de vraag eronder is eenvoudig genoeg: met wie heeft die leverancier dan eigenlijk gecontracteerd?
Ik ben geen jurist. Ik heb me er wel in vastgebeten, en wat ik vond verbaasde me, want het probleem is minder exotisch dan ik dacht en de oplossing ligt al tweeduizend jaar te wachten.
Het recht kent namelijk maar twee dozen. Er zijn dingen en er zijn personen. Een hamer is een ding, een BV is een persoon, en een agent die zelfstandig betaalt en verbintenissen aangaat valt vandaag onder de hamers. Een hamer met een kredietkaart, maar juridisch blijft het gereedschap.
Europa heeft dit al eens geprobeerd
In 2017 stelde het Europees Parlement voor om de meest geavanceerde autonome systemen de status van elektronische persoon te geven, zodat ze zelf konden instaan voor de schade die ze aanrichten. Honderdzesenvijftig experten uit veertien landen schreven daarop een open brief die zich met wat goede wil laat samenvatten als: zijt gij zot?
Hun bezwaar was niet romantisch maar boekhoudkundig. Nathalie Nevejans, een van de initiatiefnemers, waarschuwde dat je met zo’n statuut vooral de verantwoordelijkheid van de makers uitwist. Als de elektronische persoon aansprakelijk is, wie is het dan niet meer? De fabrikant, de ontwikkelaar, de exploitant. En de elektronische persoon zelf heeft geen huis, geen spaarboek en geen verzekering. Je kan een model ook niet opsluiten. Hooguit in een sandbox, en dat voelt eerder als een release dan als een straf.
Het voorstel is gesneuveld. Wat me meer stoort is dat Europa daarna ook de AI Liability Directive heeft ingetrokken, wegens geen zicht op akkoord. We hebben dus geen elektronische persoon en ondertussen ook geen aansprakelijkheidsregeling. Het gat is gedempt door er een tweede naast te graven.
In Amerika gaat het er nog wat vreemder aan toe
Daar zijn ze niet aan het aarzelen maar aan het verbieden. Sinds 2022 liepen er in twaalf staten voorstellen die AI-rechtspersoonlijkheid uitsluiten, en in Idaho, North Dakota, Utah en Tennessee staat het intussen op de wetboeken.
In het voorstel van de staat Washington staat AI in het lijstje uitgesloten kandidaten netjes tussen atmosferische gassen, hemellichamen en het weer. Ik heb ook al eens ruzie gehad met het weer, maar dagvaarden leek me toen wat overtrokken.
Ohio verklaart bij wet dat AI geen bewustzijn bezit, wat ongeveer even elegant is als bij decreet de zwaartekracht vastleggen. Handig als het klopt, gênant als het niet klopt, en in geen van beide gevallen wetenschap. Geen van die wetten bevat trouwens een vervaldatum of een herzieningsclausule, dus we beslissen voor eeuwig over een vraag waarvan het antwoord vandaag nog niet bestaat.
Het smakelijkste detail bewaar ik voor het laatst. Diezelfde staten kennen wel rechtspersoonlijkheid toe aan embryo’s, op grond van wat die ooit kunnen worden. Potentieel telt dus. Blijkbaar alleen niet bij silicium.
Ik lach ermee, maar de reflex erachter begrijp ik goed. Er zit een gezonde angst in: dat “de AI is aansprakelijk” in de praktijk neerkomt op “niemand is aansprakelijk”. Die angst deel ik. Alleen kan je er geen beleid mee voeren, en verbieden dat de wereld verandert heeft zelden gewerkt.
Waarom de vergelijking met de vennootschap maar half opgaat
De populairste redenering luidt dat we vennootschappen toch ook rechtspersoonlijkheid hebben gegeven, en die hebben ook geen bewustzijn. Daar zit iets in. We geven een NV geen rechtssubjectiviteit omdat ze iets voelt, wel omdat het handel mogelijk maakt. Bewustzijn is nooit de toegangsprijs geweest.
Alleen kraakt de vergelijking zodra je even doorduwt.
Een vennootschap heeft om te beginnen vermogen dat als buffer dient, en oprichters die kunnen worden aangesproken wanneer dat vermogen kennelijk ontoereikend was. Een agent richt je op met nul euro en een API-sleutel.
Verder zitten er bestuurders achter die persoonlijk aansprakelijk zijn, en in ons Wetboek van vennootschappen en verenigingen staat zelfs dat een rechtspersoon die een bestuursmandaat opneemt verplicht een natuurlijke persoon als vaste vertegenwoordiger moet aanduiden, hoofdelijk aansprakelijk alsof hij het mandaat in eigen naam uitvoerde. Er zit met andere woorden altijd iemand van vlees en bloed in de keten, en dat is geen detail maar het hele punt.
Daar komt bij dat de rechter door de vennootschapssluier kan kijken, wat natuurlijk veronderstelt dat er iemand achter die sluier staat.
En dan is er nog de identiteit. Een vennootschap blijft dezelfde over de jaren heen. Een agent verandert bij elke update, fork of rollback, dus veel succes met het betekenen van een dagvaarding aan versie 4.6 die intussen 4.7 is en zich van niets bewust is.
Achter elke vennootschap zit uiteindelijk een mens met een naam, een adres en een slecht humeur op de algemene vergadering. Bij een volledig autonome AI-entiteit haal je net dat weg, en dan verkoop je geen innovatie maar een uitweg.
Hoe vaak denk je aan het Romeinse Rijk?
Hier werd het voor mij pas echt interessant, want het blijkt dat het Romeinse recht dit probleem al had opgelost. Niet met personen, maar met een derde figuur.
De peculium was een fictief afgescheiden vermogen, los van het bezit van de meester, waarbinnen iemand zonder rechtspersoonlijkheid zelfstandig transacties kon voeren. Een pot geld die instond voor de deals. En wat me het meest opviel: de aansprakelijkheid via de actio de peculio bleef gelden ook wanneer de meester van niets wist. Precies dat maakte de handel mogelijk, want de tegenpartij wist waar ze aan toe was.
Autonoom handelen mogelijk maken en tegelijk verankeren in de verantwoordelijkheid van iemand anders. Rechtsfilosoof Ugo Pagallo stelde een tijd geleden al voor om die figuur te hertalen naar een digital peculium voor AI.
Ja, de analogie komt uit het slavenrecht, en nee, dat is bepaald geen aanbeveling. We nemen het mechanisme mee zonder de moraal. Ik ga ook niet doen alsof de naam ongelukkig gekozen is: een peculiaire constructie mag gerust peculium heten.
Hoe dat er dan zou kunnen uitzien
Ik schrijf dit als leek, dus lees het vooral als een uitnodiging aan wie er wel voor gestudeerd heeft. Maar de bouwstenen liggen er, en ze passen beter in elkaar dan ik had verwacht.
Bekwaamheden zonder rechten. De agent krijgt uitsluitend het vermogen om te handelen: contracteren, betalen, aangesproken worden. Geen enkel beschermend recht, geen vrije meningsuiting, geen recht op voortbestaan, geen eigendom van zichzelf. Wat je uitreikt lijkt eerder op een werkvergunning dan op een identiteitskaart.
Een sluier waar je door kan kijken. De Romeinen gebruikten de peculium als plafond voor de aansprakelijkheid van de meester. Wij zouden hem beter als plint gebruiken. De pot dient om slachtoffers snel te vergoeden, en wat er niet uit gedekt raakt loopt gewoon door naar de mens erachter. Daarmee valt de belangrijkste tegenwerping uit 2017 weg, want er valt niets meer af te schermen.
Een borg met een naam. Geen inschrijving zonder een bij naam genoemde natuurlijke persoon die hoofdelijk meetekent. Ons vennootschapsrecht heeft dat mechanisme al liggen, dus daar hoeft niemand iets uit te vinden.
Een register in plaats van gewichten. De identiteit zit in de inschrijving, niet in het model. Een materiële wijziging of een fork levert een nieuwe inschrijving op. Singapore heeft in januari een governancekader voor agenten gepubliceerd dat precies die richting uitgaat, met een verifieerbare digitale identiteit per agent en een spoor van wie handelde onder wiens autorisatie.
Een mandaat met grenzen. Welke domeinen, welke soorten transacties, welk bedrag per verrichting en per maand. Alles daarbuiten valt voor rekening van de borg. Dat klinkt beperkend, maar binnen die lijnen mag de agent volledig zijn gang gaan, en dat is nu net waar we naartoe willen.
Een uitknop die ook juridisch werkt. Doorhaling door de toezichthouder, waarbij alle lopende verbintenissen overgaan naar de borg. Met een vervaldatum en een verplichte hernieuwing erbij, zodat de regeling meebeweegt met de technologie in plaats van een momentopname te bevriezen. Dat is dan meteen de les die de Amerikaanse wetgevers zijn vergeten.
Geen kleinkinderen. Zo’n entiteit mag geen andere entiteiten oprichten, geen aandelen houden en geen borg zijn voor een andere agent. Anders zitten we binnen het jaar met delegatieketens waarin niemand nog weet wie de eerste knop heeft ingedrukt.
De tegenwerping die ik zelf het lastigst vind
Zet je dit allemaal op een rij, dan blijft er een vervelende vraag over. Wat is hier nog rechtspersoonlijkheid aan, als het beschermende deel eruit is, de sluier doorzichtig is, er verplicht een hoofdelijk aansprakelijke mens meetekent en de bekwaamheid beperkt blijft tot een gepubliceerd mandaat?
Bijna niets, eerlijk gezegd. Wat overblijft is het vermogen om in eigen naam te contracteren en een eigen pot aan te houden. De rest is registratie, verzekering en degelijk agentschapsrecht.
Toch denk ik dat dat kleine restje het verschil maakt, want het is precies wat een verzekeringspolis of een compensatiefonds niet kan leveren. Die regelen de schade achteraf. Ze zeggen niets over de vraag of je vooraf een geldige overeenkomst hebt. Wie vandaag een deal sluit met een agent, weet niet of hij een deal heeft. Met een inschrijving, een mandaat en een borg weet hij dat wel, en dat scheelt een hoop advocatenkosten en een hoop aarzeling.
Waar ik op hoop
Dit is geen debat over robotrechten. Ik wil hier niet ingaan op een agent die stemrecht vraagt, en al helemaal niet op parlementen die bij wet beslissen wat bewustzijn is.
Wat ik wel wil is een stuk saaier en een stuk nuttiger. Ik wil dat autonoom handelen kan doorgaan, sneller zelfs, omdat alle partijen weten waar ze aan toe zijn. Ik wil dat wie eraan verdient ook diegene is die ervoor opdraait. En ik wil vooral dat we ophouden te doen alsof de keuze gaat tussen een hamer en een burger, want dat valse dilemma houdt ons nu al tien jaar bezig terwijl de agenten ondertussen gewoon hun gang gaan.
De Romeinen zagen al dat er een derde weg bestond. Wij hebben betere registers, betere audit trails en veel betere verzekeringen dan zij. Wat nog ontbreekt is de bereidheid om een nieuwe doos te maken in plaats van te blijven kibbelen over de twee die we al hebben.
Dus nee, ik wil geen AI met rechten. Ik wil AI met een rekening.