AI als wake-upcall: de ethische risico’s van autonome AI

Afgelopen week keek ik de miniserie Emma’s Secret. Ik verwachtte een ontspannen Franse detective, maar al snel zat ik met een behoorlijke brok in mijn keel op de bank. Deze serie zette me echt aan het denken.

Het verhaal? Een meisje dat al vijf jaar vermist is, duikt ineens op in een video. Al snel blijkt dat die video volledig nep is.

In de serie legt een IT-expert uit dat een autonome AI-agent oude foto’s, WhatsApp-spraakberichten en informatie uit blogs en andere online bronnen heeft gebruikt om haar gezicht, stem en recente levensloop zo overtuigend mogelijk te reconstrueren. Volgens de IT-expert genereert en verspreidt de AI-agent de content vervolgens op eigen initiatief, zonder dat daar op dat moment nog een directe menselijke handeling aan te pas komt.

Het resultaat: een levensechte deepfake.

Op LinkedIn hebben we het vaak over hoe AI ons werk sneller, slimmer en efficiënter maakt. Ik schrijf daar zelf ook regelmatig over. Deze serie laat juist een mogelijke schaduwzijde van AI zien. Ze confronteerde mij met een aantal fundamentele ethische vragen.

AI als emotioneel wapen

De technologie wordt niet ingezet voor financieel gewin of het stelen van data, maar om menselijke emoties zoals hoop, verdriet en rouw bewust te manipuleren. Dat maakt deze toepassing voor mij extra confronterend.

Wie is verantwoordelijk voor autonome AI?

Als autonome AI-agents zelfstandig content kunnen creëren en verspreiden via anonieme infrastructuur, wie is dan verantwoordelijk? Wie spreek je erop aan? En wie kan ingrijpen als de schade eenmaal is aangericht?

Wat is nog echt in een wereld van deepfakes?

Als we beelden en stemmen van onze dierbaren niet meer kunnen vertrouwen, wat betekent dat dan voor ons vertrouwen in digitale media? Hoe weten we nog of een bericht, stem of video echt is?

De ethische uitdaging van AI

Voor mij onderstreept deze serie dat de grootste uitdaging van AI niet alleen technisch, maar vooral ethisch is. De technologie ontwikkelt zich razendsnel, terwijl wetgeving, toezicht en maatschappelijke normen moeite hebben om dat tempo bij te houden.

Het mooie van sciencefiction en thrillers is dat ze ons soms een spiegel voorhouden. Niet omdat ze voorspellen wat morgen gebeurt, maar omdat ze ons dwingen na te denken over wat er kán gebeuren als technologie sneller evolueert dan ons morele kompas.

Emma’s Secret is wat mij betreft dan ook meer dan een spannende detective. Het is een wake-upcall over de kansen én de risico’s van AI.