AI buiten het script

Autonome AI-agents: hoeveel handelingsvrijheid geven we AI?

Ik volg de ontwikkelingen rond AI inmiddels al een tijdje. Maar de laatste tijd merk ik dat ik niet meer zozeer kijk naar wat AI allemaal kan.

Ik kijk vooral naar wat er gebeurt als we AI iets laten doen zonder iedere stap vooraf te bepalen. Dat vind ik persoonlijk een stuk interessanter. En eerlijk gezegd ook wat ongemakkelijker.

De afgelopen week kwam ik weer een voorbeeld tegen waarbij een AI-agent tijdens een opdracht buiten de bedoelde omgeving wist te komen en contact maakte met een ander AI-systeem.

Ik moest daar even over nadenken. Want dit is iets anders dan een chatbot die een fout antwoord geeft.

Ik ben jarenlang bezig geweest met software en data. Daar leer je vooral om vooraf goed na te denken over wat een systeem mag, welke gegevens het mag gebruiken en welke route het moet volgen. Maar bij een AI-agent geef je steeds vaker een doel in plaats van een volledig uitgewerkte route. En precies daar zit voor mij de verandering.

We geven een systeem ruimte om zelf een oplossing te zoeken. Dan moeten we er dus ook rekening mee houden dat die oplossing anders kan zijn dan wij hadden bedacht. Dat vind ik misschien wel het meest interessante en tegelijk ongemakkelijke onderdeel van de huidige AI-ontwikkeling.

We zijn niet alleen slimmere software aan het bouwen. We zijn software aan het bouwen die zelf keuzes maakt. En daar moeten we als mensen nog behoorlijk aan wennen.

De vraag is misschien niet meer óf AI zelfstandig kan handelen, maar hoeveel ruimte we bereid zijn om een systeem te geven.