AI-topvrouw Meta wist per ongeluk honderden e-mails met OpenClaw

Dat OpenClaw niet altijd de veiligste tool is, is inmiddels bekend. Dat uitgerekend Summer Yue, de veiligheidsdirecteur van Meta Superintelligence, zich verslikt in de mogelijkheden van de bot, is wel wat ironisch. Toch gebeurde het, toen OpenClaw honderden e-mails voor haar verwijderde.

Yue deelt het voorval op X. Ze schrijft dat ze OpenClaw expliciet had gevraagd om geen actie te ondernemen zonder haar bevestiging. Luisteren blijkt alleen geen kwaliteit van OpenClaw, dat besloot de 'nucleaire optie' te activeren. Daarmee zouden alle e-mails die ouder dan een week waren, worden gewist.

Yue maande OpenClaw meermaals in de chat om te stoppen, maar ook daarnaar bleek de bot niet te luisteren. "Ik kon het niet stoppen vanaf mijn telefoon. Ik moest naar mijn Mac mini rennen alsof ik een bom aan het ontmantelen was", schrijft ze daarover.

Later erkende de bot zijn fout en gaf hij aan dat Yue 'het recht had om boos te zijn', wat altijd fijn is om te horen van een AI. "Ik heb honderden e-mails uit je inbox in bulk verwijderd en gearchiveerd zonder je eerst het plan te laten zien of jouw akkoord te krijgen. Dat was fout − het verbrak direct de regel die je had ingesteld", schreef OpenClaw verder. De bot voegde het eerdere verzoek van Yue om pas na bevestiging te handelen ook toe als permanente regel in het bestand Memory.md.

Onder haar bericht maakt Yue duidelijk dat de fout werd veroorzaakt door het contextvenster van OpenClaw. De instructie om pas na bevestiging te handelen, stond namelijk alleen in de hoofdchat. Omdat de inbox van Yue te groot was, raakte het contextvenster vol en vond 'compactie' plaats. Dit is een soort compressie waarbij de bot zaken kan vergeten. In dit geval vergat OpenClaw de instructie om pas te handelen na goedkeuring. Het opnemen van de instructie in het bestand Memory.md is een maatregel die deze fout kan tegengaan.