Medewerkers van Meta konden vorige week urenlang ongeoorloofd 'gevoelige bedrijfs- en gebruikersgegevens' bekijken. Dat kwam doordat een AI-agent een verkeerd antwoord gaf op een technische vraag binnen Meta.
Het incident werd ontdekt door The Information, dat een rapport over het voorval heeft ingezien. Een woordvoerder van het techbedrijf bevestigt het incident tegenover The Verge en zegt dat er 'geen gebruikersgegevens verkeerd zijn behandeld' bij het voorval.
Het probleem begon nadat een Meta-medewerker een technische vraag stelde op een intern forum van het techbedrijf. Een andere medewerker gebruikte een interne AI-agent om die vraag te analyseren. De agent gaf antwoord, maar publiceerde dat antwoord vervolgens publiekelijk op datzelfde forum, zonder daar toestemming voor te vragen. Het antwoord was daardoor door andere medewerkers van het techbedrijf te zien.
Een medewerker nam vervolgens het advies van de AI-agent over, maar dat bleek onjuist. Het verkeerde advies resulteerde in een securityincident op het niveau 'SEV1'. Bij Meta is dat het op een na hoogste ernstigheidsniveau. Door het incident konden medewerkers tijdelijk gevoelige data bekijken die ze eigenlijk niet mochten zien. Het probleem is inmiddels opgelost. Om wat voor gegevens het precies ging, is niet bekend. The Information spreekt over 'bedrijfs- en gebruikersdata'.
De woordvoerder van Meta schuift het incident af op de medewerker. "De medewerker die met het systeem communiceerde, was zich er volledig van bewust dat hij met een geautomatiseerde bot te maken had", zegt hij tegenover The Verge. "De agent heeft niets anders gedaan dan een antwoord op een vraag geven. Als de ingenieur die hier gebruik van maakte beter op de hoogte was geweest of aanvullende controles had uitgevoerd, had dit voorkomen kunnen worden."
Het is niet de eerste keer dat een AI-agent voor problemen zorgt bij Meta. Eerder gebruikte de AI-topvrouw van Meta een agent om haar inbox te sorteren. De AI-agent verwijderde vervolgens e-mails zonder toestemming.