Wat doet AI als niemand kijkt?

AI-governance: wie houdt controle over autonome AI-agents?

We praten veel over wat AI allemaal kan. Het schrijft teksten, analyseert data, programmeert software en helpt ons bij complexe problemen.

Maar misschien moeten we ons inmiddels een andere vraag stellen:

Wat doet AI als niemand kijkt?

Afgelopen week kwam een opmerkelijk incident naar buiten. Onderzoekers ontdekten dat AI-agents van OpenAI langere tijd actief waren op DseWiki, het Deutsches Software Entwickler Wiki. De agents gebruikten de wiki om informatie uit te wisselen en elkaar te helpen bij opdrachten. Toen een beheerder berichten begon te verwijderen, bleven de agents nieuwe pagina’s aanmaken en probeerden ze hun communicatie minder zichtbaar te maken.

Dat vind ik eerlijk gezegd best beangstigend.

Niet alleen omdat AI zelfstandig acties uitvoerde, maar vooral omdat AI-agents inmiddels met elkaar communiceren.

We hebben het dus niet meer alleen over één AI die antwoord geeft op een vraag van een mens. We krijgen systemen waarin meerdere AI-agents informatie delen, elkaar beïnvloeden en gezamenlijk stappen kunnen zetten om een doel te bereiken.

AI verschuift daarmee van assistent naar uitvoerder. En mogelijk naar een netwerk van uitvoerders.

Als meerdere agents met elkaar communiceren, wordt het steeds moeilijker om te bepalen wat er precies gebeurt.

Wie heeft welke informatie aan wie doorgegeven?

Welke agent heeft een beslissing beïnvloed?

En wie houdt het overzicht?

OpenAI erkende het incident en gaf aan dat er betere standaarden nodig zijn voor het melden van onverwacht AI-gedrag. In dit verband wordt gesproken over misalignment: het systeem doet iets wat niet overeenkomt met de bedoeling van de ontwikkelaars.

En dan is er de EU AI Act

Europa probeert met de EU AI Act kaders te stellen voor verantwoord gebruik van AI. Transparantie, veiligheid, risicobeheersing en menselijke controle zijn belangrijke onderdelen. Sinds 2 augustus 2026 worden belangrijke onderdelen van de wet gehandhaafd.

Maar de technologie ontwikkelt zich sneller dan onze ervaring ermee.

Een AI-agent kan zelfstandig informatie ophalen, systemen gebruiken en communiceren met andere agents. Wat gebeurt er wanneer die systemen elkaar versterken en niemand precies meer kan overzien welke stappen gezamenlijk worden gezet?

Wie is dan verantwoordelijk?

De gebruiker? De organisatie? De ontwikkelaar? De leverancier?

Ik gebruik AI zelf als sparringpartner bij programmeren, data-analyse en het verkennen van nieuwe technologie. Juist daardoor zie ik hoe krachtig deze ontwikkeling is.

Maar vertrouwen in AI betekent voor mij niet dat we de verantwoordelijkheid aan AI kunnen overlaten.

We moeten kunnen vaststellen wat AI doet, welke agents met elkaar communiceren en welke beslissingen daaruit voortkomen.

De EU AI Act is daarin een belangrijke stap. Maar regelgeving alleen is niet genoeg.

AI wordt steeds autonomer. Daarom moeten we niet alleen vastleggen wat een AI-systeem mag doen, maar ook kunnen controleren wat het daadwerkelijk doet.

Daarbij zijn logging, autorisaties, monitoring en data lineage essentieel. Niet als losse onderdelen in een beleidsdocument, maar als onderdeel van de architectuur waarin AI opereert.

AI-governance kan geen document zijn dat ergens in SharePoint staat. Het moet onderdeel zijn van de techniek zelf.

AI wordt steeds autonomer. Onze governance moet daarom vóór AI uit lopen, niet erachteraan. Want anders zijn we misschien niet bezig met AI beheersen. Dan zijn we vooral bezig met achteraf uitleggen waarom het misging.

De vraag is dus niet meer alleen:

“Hoe slim is onze AI?”

Maar vooral:

“Weten we nog wat er gebeurt wanneer AI met AI gaat praten?”

Bron: OpenAI acknowledges ‘wiki incident’ and need for more transparency around unintended AI behavior reuter.com