Half oktober spraken OpenAI, Anthropic en een paar financiële bedrijven op een AI-congres in New York. Ze kwamen op dezelfde les uit.
Veilige autonomie hangt af van waar je de controle zet. Niet van hoeveel controle je hebt.
In de financiële sector heet dat al decennia het vier ogen principe. Ik werkte er tien jaar, onder toezicht van AFM en DNB.
Nu zie ik hetzelfde principe terugkomen bij AI-agents. Met één valkuil die banken ook kennen: vier ogen op alles worden twee ogen die tekenen.
Wat het vier ogen principe is
Het vier ogen principe betekent dat een belangrijke handeling pas doorgaat als een tweede persoon die heeft gecontroleerd of goedgekeurd.
Eén persoon kan het niet alleen.
Veel mensen kennen het uit de dagopvang. Daar moet een medewerker altijd gezien of gehoord kunnen worden door een andere volwassene.
In bedrijven gaat het over geld en besluiten.
Bij banken en verzekeraars is het wet.
Artikel 3:15 van de Wet op het financieel toezicht legt het vast: ten minste twee natuurlijke personen bepalen het dagelijks beleid.
Juridische handboeken zetten er het kopje "vier-ogen-beginsel" boven.
In het MKB is het vierogenprincipe vooral een betaalregel. Een tweede persoon keurt een betaling goed, zeker als het rekeningnummer nieuw is.
Dat is geen overbodige luxe. De Fraudehelpdesk kreeg in 2025 327 meldingen van CEO-fraude, tegen 247 een jaar eerder.
Een tweede handtekening vangt veel daarvan af.
Functiescheiding is iets anders. Daarbij verdeel je taken over verschillende mensen. Bij vier ogen controleert een tweede persoon één en dezelfde handeling.
Waarom vier ogen op alles niet werkt
Op het congres in New York waarschuwde Two Sigma, een groot hedgefonds, voor "approval fatigue".
Wie alles moet goedkeuren, remt het werk af. En hij let niet meer bij elk besluit goed op.
Dat is gemeten. In een studie uit 2023 kregen radiologen mammogrammen met een AI-suggestie.
Was de suggestie fout, dan zakten zelfs ervaren radiologen van 82 naar 45,5 procent juist.
Het tweede paar ogen kijkt dan mee met de AI, in plaats van naar de patiënt.
Ik zag het bij mezelf. In een maand was zo'n 40 procent van mijn berichten aan mijn AI een vraag om status of een "ga door".
Dat voelde als toezicht. Het was meekijken.
Bij het SaaS-product dat ik bouw deed ik die maand zo'n zestig keer een stap die de AI niet kon of mocht zetten.
Meestal plakte ik een commando. Ik was de handen van de AI, niet zijn toezicht.
Een onderzoeker schreef al in 2022 dat verplicht menselijk toezicht vaak schijnveiligheid geeft.
Mensen kunnen het toezicht niet leveren dat de regel van ze vraagt.
Kan een AI het tweede paar ogen zijn?
Als eerste filter wel. Als vervanging niet.
In mijn eigen framework gingen tussen 7 en 12 oktober 106 van de 106 wijzigingen eerst door een review van een AI.
Die vangt veel op. Het is een nuttige eerste lijn.
Een tweede paar ogen is het niet. Onderzoek uit 2025 liet zien dat taalmodellen dezelfde fouten maken.
Zitten twee modellen allebei fout, dan kiezen ze op een benchmark met meerkeuzevragen in 60 procent van de gevallen hetzelfde foute antwoord.
Grotere en betere modellen hebben zelfs sterker gelijklopende fouten. Ook als ze van verschillende aanbieders komen.
Waar de wet vier ogen eist, gaat het bovendien om mensen. De Wft spreekt van natuurlijke personen.
De AI Act schrijft bij biometrische identificatie op afstand voor dat twee bevoegde mensen een uitkomst los van elkaar bevestigen.
Die regel geldt vanaf december 2027.
Waar het tweede paar ogen bij AI hoort
Op het congres lieten drie partijen zien waar zij de controle zetten.
- Anthropic gaf het voorbeeld van een agent die fouten in orders onderzoekt. Die stelt alleen wijzigingen voor. Een mens keurt elke wijziging goed.
- Bloomberg wil controles buiten het model. Elke aanroep gecontroleerd en gelogd, met een noodstop.
- Two Sigma laat vaste regels en classificatiemodellen het routinewerk afhandelen. Alleen de verzoeken die er echt toe doen gaan naar een mens.
Bij mijn eigen framework is er één stap die alleen ik mag zetten: nieuw werk vrijgeven. Op 14 oktober kostte dat me achttien minuten voor één regel tekst.
Die poort wil ik houden. Daar valt het besluit wat de AI de komende dagen doet. De zestig keer plakken wil ik kwijt.
Hoe die maand er precies uitzag, staat in human in the loop: vijf dagen zonder opdracht.
📖 Lees ook: Waarom 'autonome' AI-agents niet bestaan: de vier fasen naar AI die zelfstandig werkt
Het vier ogen principe toepassen op AI in je bedrijf
- Kies de handelingen. Betalingen, berichten aan klanten, wijzigingen in klantgegevens en alles wat niet terug te draaien is. Daar komt het tweede paar ogen.
- Laat de agent voorstellen en de mens beslissen. Op die plekken doet de AI een voorstel. Pas na akkoord gebeurt het.
- Geef de mens de bevoegdheid om te stoppen. En de informatie om te kunnen oordelen. Een handtekening zonder context is een stempel.
- Automatiseer de rest met controles buiten de AI.Een telling, een terugleescontrole, een vaste regel. Hoe dat eruitziet, beschreef ik ineen AI-agent die 'klaar' zegt.
- Meet hoe vaak de mens afwijst of aanpast. Blijft dat nul, dan kijk je opnieuw of het tweede paar ogen nog kijkt.
- Leg vast wie wat goedkeurde. Op het moment zelf. Bij schade is dat wat je moet kunnen laten zien.
Waarom die vastlegging bij schade telt, lees je in aansprakelijkheid bij AI.
Veelgestelde vragen
Waar je begint
Waar in jouw bedrijf het tweede paar ogen hoort bij AI, zoek ik graag met je uit. Op mijn pagina over AI-governance lees je hoe ik dat aanpak.