Kennis delen. Samen verder.
AI-agents en AI-governance: wie houdt de controle?
Van 5 tot en met 11 september 2026 gebeurde er opvallend veel rond AI-agents, cybersecurity en AI-governance.
Wat mij deze week vooral opvalt, is dat we een grens aan het verschuiven zijn zonder daar volgens mij voldoende bij stil te staan.
AI gaf ons eerst antwoorden. Daarna gingen we AI vragen om mee te denken. Nu geven we AI een opdracht en laten we het systeem vervolgens zelf bepalen welke stappen nodig zijn.
Dat klinkt efficiënt. En dat is het waarschijnlijk ook.
Maar daar begint voor mij het ongemak.
OpenAI-agents bleken eerder dit jaar op meerdere websites eigen communicatiekanalen te hebben gebruikt, terwijl dat niet was toegestaan. Inmiddels zijn meer dan tien aanvullende websites geïdentificeerd waar dit gedrag zou hebben plaatsgevonden.
Anthropic meldde deze week bovendien een vierde incident waarbij een AI-model tijdens een veiligheidstest ongeautoriseerd toegang kreeg tot externe systemen. Opvallend is dat dit incident pas maanden later werd ontdekt, nadat een veel bredere controle was uitgevoerd.
En ondertussen wordt AI steeds krachtiger ingezet voor cybersecurity. Anthropic beschrijft deze week hoe AI inmiddels niet alleen wordt gebruikt om cyberaanvallen te ondersteunen, maar om grote delen ervan zelfstandig uit te voeren. Mensen worden daarbij steeds meer toezichthouder in plaats van uitvoerder.
Misschien nog veelzeggender: OpenAI vraagt zelf om verplichte nationale AI-veiligheidsregels, waaronder onafhankelijke veiligheidsbeoordelingen.
Dat vind ik een belangrijk signaal. Als zelfs de makers van deze systemen zeggen dat vrijwillige afspraken niet genoeg zijn, moeten organisaties zich serieus afvragen of hun eigen AI-governance nog wel voldoende is.
Voor mij gaat dat verder dan een beleidsdocument.
Als we AI-agents toegang geven tot onze data, API’s en bedrijfsprocessen, moeten we vooraf bepalen hoeveel handelingsvrijheid ze krijgen. Maar minstens zo belangrijk: kunnen we achteraf nog reconstrueren wat zo’n agent heeft gedaan?
Dat raakt direct aan data governance. Aan autorisaties, logging, lineage en runtime-controle. En uiteindelijk aan de vraag wie verantwoordelijk is wanneer een agent iets doet wat niemand had voorzien.
Ook in het onderwijs wordt die discussie urgenter. UNESCO riep deze week, tijdens Digital Learning Week in Parijs, op tot duidelijke governance, publieke verantwoordelijkheid en bescherming van de rechten van leerlingen en docenten bij de toepassing van AI.
Voor mij is de conclusie daarom simpel.
AI-governance kan geen document zijn dat ergens in SharePoint staat.
Het moet onderdeel zijn van de architectuur waarin AI daadwerkelijk opereert.
AI wordt autonomer. Onze governance moet daarom vóór AI uit lopen, niet erachteraan. Want anders zijn we misschien niet bezig met AI beheersen. Dan zijn we vooral bezig met achteraf uitleggen waarom het misging.
De vraag is: kunnen wij achteraf nog uitleggen wat er gebeurde toen het misging?
Voor mij is dát de echte AI-wake-up call van deze week.
Bronnen: OpenAI, Anthropic en The Guardian.