AI-agents creëren een nieuwe dataketen. Wie houdt het overzicht?

AI-agents en data lineage: wie bewaakt de betrouwbaarheid van gegevens?

In mijn loopbaan heb ik de nodige veranderingen meegemaakt op het gebied van data. Van databases en SQL naar Business Intelligence en dataplatformen. De manier waarop we gegevens verzamelen, opslaan en gebruiken is behoorlijk veranderd.

Wat we daarbij steeds belangrijk hebben gevonden, is de betrouwbaarheid van onze gegevens. Waar komt informatie vandaan? Klopt ze? En kunnen we achteraf verklaren hoe een rapportage of analyse tot stand is gekomen?

Met de komst van AI-agents komt daar iets bij waar ik steeds vaker over nadenk.

AI gaat zelf met data aan de slag

Tot nu toe waren we gewend dat gegevens via min of meer vaste processen door onze systemen gingen. We richtten koppelingen in, maakten afspraken over definities en zorgden ervoor dat gegevens op de juiste plek terechtkwamen.

AI-agents brengen daar verandering in. Ze kunnen zelfstandig informatie ophalen uit verschillende bronnen, gegevens combineren en daar conclusies uit trekken. Vervolgens kan een andere agent met die conclusies verder werken.

Op zich een mooie ontwikkeling. Maar ik vraag me wel af hoeveel zicht we straks nog hebben op wat er onderweg met onze gegevens gebeurt.

Een conclusie zonder herleidbare bron

Neem bijvoorbeeld een organisatie waarin verschillende agents samenwerken. De ene haalt gegevens op, de andere maakt een analyse en een derde gebruikt de uitkomst om een advies te geven.

Wat gebeurt er als de eerste agent een gegeven verkeerd interpreteert? De volgende agent neemt die informatie misschien gewoon over. Uiteindelijk ligt er een advies dat er prima uitziet, maar waarvan de onderliggende informatie niet meer klopt.

Wie ontdekt dat? En belangrijker: kunnen we nog achterhalen waar de fout is ontstaan?

In de wereld van BI en datamanagement besteden we veel aandacht aan data lineage. We willen weten waar gegevens vandaan komen en welke bewerkingen ze hebben ondergaan. Met samenwerkende AI-agents wordt dat een stuk ingewikkelder. Je wilt straks niet alleen de gegevensstroom kunnen volgen, maar ook kunnen zien wat agents met die gegevens hebben gedaan.

Hebben we onze datahuishouding hierop ingericht?

Dit is voor mij een van de interessante vraagstukken rond de verdere ontwikkeling van AI. We investeren veel in AI-toepassingen, maar ik vraag me af of we voldoende aandacht besteden aan de kwaliteit en beheersbaarheid van de gegevens waarmee die toepassingen werken.

Datamanagement wordt hierdoor alleen maar belangrijker. Zeker wanneer agents toegang krijgen tot meerdere systemen en zelfstandig informatie met elkaar uitwisselen.

We hebben jarenlang gewerkt aan betrouwbare gegevens voor onze rapportages, analyses en besluitvorming. Die betrouwbaarheid mogen we niet uit het oog verliezen omdat AI steeds meer werk van ons overneemt.

Mijn vraag is dan ook: weten we straks nog precies waar de informatie vandaan komt waarop onze AI-agents hun conclusies baseren?

Want een overtuigend antwoord is nog geen garantie voor betrouwbare informatie.

Bron: Agentic Data Flows: Privacy, Data Minimization, and PETs in Agentic Deployment