De Europese Commissie bevestigt dat er een DSA-onderzoek komt naar Grok. De chatbot publiceerde recent meerdere gemanipuleerde afbeeldingen op X, onder meer van kindermisbruik en seksuele deepfakes. X kreeg eerder al een DSA-boete.
Met het onderzoek wil de Commissie achterhalen of X genoeg onderzoek heeft gedaan naar de risico's van Grok en of er genoeg maatregelen zijn genomen om die risico's te beperken. De Commissie benoemt daarbij specifiek risico's rondom het verspreiden van illegale content, 'zoals gemanipuleerde seksueel expliciete afbeeldingen, inclusief content die neer zou kunnen komen op kindermisbruikbeelden'.
Grok publiceerde eerder deze maand opeens geseksualiseerde afbeeldingen van mensen. X-gebruikers vroegen Grok onder afbeeldingen of Grok de afgebeelde mensen zonder kleding kon weergeven, waarna Grok inderdaad kleding verwijderde bij mensen. Deze mensen werden dan bijvoorbeeld in bikini getoond. Deze afbeeldingen werden door Grok direct op X geplaatst.
Blootgesteld aan 'ernstig gevaar'
De Commissie zegt dat het er daardoor op lijkt dat de risico's van AI zich hebben 'gematerialiseerd', waardoor burgers blootgesteld werden aan 'ernstig gevaar'. Daarom wil de Commissie weten of X deze risico's daadwerkelijk heeft onderzocht.
Het nieuwe diepteonderzoek wordt met 'prioriteit' opgepakt, zegt de Commissie. De Commissie gaat onder meer extra informatie opvragen bij X en interviews en inspecties uitvoeren. Ook kan zij 'tijdelijke maatregelen opleggen' aan X, als dat nodig is.
X maakte op 9 januari bekend het publiekelijk laten genereren van bikinifoto's te beperken tot betaalde gebruikers. Een week later werd een geoblokkade hiervoor aangekondigd. Overigens bleek uit onderzoek van Tweakers dat ook ChatGPT redelijk eenvoudig bikinifoto's maakt van mensen, al worden deze niet direct online gedeeld, wat bij Grok wel het geval was. X kreeg afgelopen december al een DSA-boete van 120 miljoen euro omdat de blauwe vinkjes volgens de Commissie misleidend zijn.
/i/2007972580.png?f=imagenormal)