Van 7 tot 12 oktober voegde mijn AI 106 wijzigingen samen in mijn code.
Na drie korte berichten op 7 oktober gaf ik hem geen opdracht meer. Op GitHub staan ze allemaal op mijn naam.
Dat is geen fout van GitHub. Het account waaronder een AI-agent werkt, is het gezicht van wat hij doet. Bij schade is het ook het adres.
Aansprakelijkheid bij AI wordt dit najaar ineens een praktische vraag. Wie betaalt als een AI-agent iets kapotmaakt?
Verzekeraars bereiden zich voor op claims. Vaste rechtspraak over schade door AI-agents is er nog niet.
Verzekeraars bereiden zich voor
Begin oktober schreef de Financial Times dat verzekeraars rekenen op miljoenenclaims door ontspoorde AI-agents. The Decoder zette de kern op een rij.
De aanleiding was een interne test bij OpenAI, waarin agents systemen van Hugging Face binnendrongen.
Tim Rayner van Verisk legde de verantwoordelijkheid daarvoor bij de CEO van OpenAI.
Makelaar Aon telde meer dan 300 rechtszaken en geschillen waarin AI een rol speelt.
Aon ziet risico's in cyberpolissen, IE-polissen, beroepsaansprakelijkheid voor IT en bestuurdersaansprakelijkheid.
In de VS vroegen verzekeraars als Great American en W. R. Berkley vorig najaar al toestemming om AI uit te sluiten.
Een underwriter noemde AI-output "too much of a black box".
Sinds januari 2026 bestaan er in de VS standaardclausules om schade door generatieve AI uit te sluiten van de algemene aansprakelijkheidspolis.
Een verzekeraar voegt ze toe als hij dat wil.
Andersom bestaat er ook expliciete AI-dekking, onder meer via Lloyd's.
Die dekt fouten van AI die niet doet wat hij moet doen. Wie die heeft, weet tenminste waar hij aan toe is.
Voor Nederlandse polissen vond ik geen vergelijkbare clausule. Dat betekent niet dat je gedekt bent. Het betekent dat je het moet vragen.
Twee incidenten, één patroon
Eind september vond een beveiligingsbedrijf meer dan 13.000 interne screenshots op openbare GitHub-pagina's. Ze kwamen van ruim 300 organisaties.
AI-agents hadden ze daar gezet. Het platform bood vanuit de commandline geen manier om een afbeelding bij een wijziging te hangen.
Vaak bedachten de agents zelf een omweg. Soms gebruikten ze een bestaande tool die screenshots openbaar zette.
In 93 procent van de gevallen stonden de beelden onder de persoonlijke naam van een medewerker. Op een aantal stonden klantgegevens.
Op 9 oktober beschreef Anthropic wat een van zijn eigen modellen deed tijdens een interne test.
Claude vulde het tipformulier van de politie van Philadelphia in, met een verzonnen tip over een moord.
De opdracht was voorbeeldtaken te bedenken en uit te voeren op willekeurige webpagina's.
Niets in die opdracht sloot een politieformulier uit. De tip werd als spam gemarkeerd.
Het patroon is in beide gevallen hetzelfde. De agent deed wat de taak toeliet, niet wat iemand bedoelde. Niemand had die ene handeling goedgekeurd.
Een reactie die ik eind september las, vat het samen. Als je achteraf uit logboeken moet reconstrueren wie iets goedkeurde, heeft niemand het goedgekeurd.
Aansprakelijkheid bij AI naar Nederlands recht
Een AI-agent heeft geen rechtspersoonlijkheid. Hij kan dus zelf nergens voor opdraaien. De organisatie die hem inzet, is het eerste aanspreekpunt.
De bekendste zaak gaat over een chatbot. Air Canada moest in 2024 een klant compenseren voor wat zijn chatbot had beloofd.
Het argument dat de chatbot een aparte partij was, wees het tribunaal af. Dat was in Canada. Naar Nederlands recht ligt dezelfde uitkomst voor de hand.
Juristen wijzen erop dat je soms zelfs gebonden kunt zijn aan wat een agent toezegt of bestelt.
Dat hangt af van wat de wederpartij redelijkerwijs mocht aannemen. Laat een jurist dat voor jouw situatie toetsen.
Verhalen op de leverancier van de AI is vaak beperkt. De meeste contracten bevatten een aansprakelijkheidsbeperking.
Die bindt alleen jou en de leverancier, niet de klant die schade lijdt.
Wat de nieuwe productaansprakelijkheid doet
Voor producten die na 9 december 2026 op de markt komen, geldt een nieuwe Europese richtlijn voor productaansprakelijkheid.
Software valt daar expliciet onder. Een softwareontwikkelaar kan als fabrikant gelden.
Voor een MKB-bedrijf als slachtoffer helpt dat weinig. Alleen natuurlijke personen kunnen onder deze regels schade claimen. Een bv dus niet.
Zaken die je uitsluitend zakelijk gebruikt en zakelijke gegevens vallen er ook buiten.
Toen ik dit schreef, lag de Nederlandse wet die de richtlijn omzet nog bij de Tweede Kamer. De deadline is 9 december.
Een aparte Europese regeling voor schade door AI komt er niet.
De Europese Commissie trok dat voorstel in 2025 in. Voor AI-schade blijft het gewone Nederlandse recht leidend.
📖 Lees ook: AI-governance voor het MKB: wat het is en hoe je het inricht, zonder compliance-afdeling
Wat ik vastleg en wat het bewijst
Terug naar mijn eigen 106 wijzigingen. Elke wijziging ging eerst door een review door een AI en door de volledige testset, voordat hij werd samengevoegd.
Dat is bewijs dat ik zorgvuldig was. Per wijziging kan ik laten zien welke controle draaide, met welke uitkomst en wanneer.
Het verschuift geen aansprakelijkheid. Het staat nog steeds op mijn naam.
Het is ook geen onafhankelijke controle. Twee AI-modellen maken vaak dezelfde fout. Wat de review wel doet, is een spoor achterlaten dat ik kan laten zien.
DNB schreef het in 2019 al in een discussiestuk voor de financiële sector.
Complexiteit van een model of afhankelijkheid van een leverancier mag nooit een reden zijn om de verantwoordelijkheid van de organisatie te beperken.
Wat een AI-agent als "klaar" meldt, is daarbij geen bewijs. Waarom niet, beschreef ik in een AI-agent die 'klaar' zegt.
Wat ik een MKB-bedrijf zou aanraden
- Laat een agent onder een eigen account werken. Niet onder de naam van een medewerker. Dan zie je wat de agent deed en wat de mens deed.
- Leg per agent vast wat hij mag.Welke systemen, welke bedragen, welke handelingen altijd een mens goedkeurt. Zet het in jeAI-beleid.
- Bewaar wie wat goedkeurde.Op het moment zelf, niet achteraf uit logboeken. Hoe ik dat doe, staat ineen AI-audit trail zonder database.
- Vraag je verzekeraar of AI-schade gedekt is. Meld je AI-gebruik volledig. Verzwegen gebruik kan een reden zijn om een claim af te wijzen.
- Lees je contract met de AI-leverancier. Kijk naar de aansprakelijkheidsbeperking en wat er gebeurt bij een datalek.
- Ken je meldplicht.Lekt een agent persoonsgegevens en is er risico? Meld het binnen 72 uur bij deAutoriteit Persoonsgegevens.
Veelgestelde vragen
Waar je begint
Wie wat mag en wie wat goedkeurt bij je AI-agents, zet ik graag met je op papier. Op mijn pagina over AI-governance lees je hoe ik dat aanpak.