Als het aan de Europese Commissie ligt, worden online platforms verplicht om meer maatregelen te nemen tegen grooming en afbeeldingen van kindermisbruik. Als ze niet genoeg doen, kunnen organisaties volgens het voorstel worden verplicht om te scannen naar grooming of afbeeldingen.
Onder het nieuwe wetsvoorstel van de Europese Commissie worden hostingproviders en 'communicatiedienstverleners' als sociale media en chatdiensten verplicht om in kaart te brengen welke risico's kinderen lopen op hun platforms. Daarbij gaat het specifiek om het delen van afbeeldingen van kindermisbruik en het online benaderen van kinderen, oftewel grooming. Platforms worden daarbij verplicht om maatregelen voor te stellen die deze risico's kunnen verminderen.
Lidstaten worden onder het wetsvoorstel verplicht om autoriteiten in te stellen die deze risicobeoordelingen van platforms bekijken. Mocht een autoriteit vinden dat er alsnog te veel risico's aan een platform zitten, dan kan ze een rechter 'of een onafhankelijke, nationale autoriteit' vragen een detectionorder in te stellen.
Die detectionorders zijn dwangbevelen waarmee een platform wordt verplicht om te scannen naar bekende of nieuwe afbeeldingen van kindermisbruik, of naar grooming. Deze orders zijn beperkt in tijd, contenttype en dienst, stelt de EC.
Voor het scannen naar bekende afbeeldingen van kindermisbruik moet er volgens het voorstel een nieuw EU Centrum voor Seksueel Misbruik van Kinderen worden opgericht. Dit EU Centrum moet platforms onder meer voorzien van 'betrouwbare informatie van geïdentificeerd materiaal'. Na het krijgen van een kindermisbruikdetectionorder moeten platforms met de informatie van het EU Centrum scannen. "Platforms moeten technieken gebruiken die het minst inbreuk maken op de privacy, in overeenstemming met het nieuwste van het nieuwste in de sector", schrijft de Europese Commissie.
Versleuteling
Ook platforms die versleuteling gebruiken, zullen onder het voorstel vallen, benadrukt de Europese Commissie. "Versleuteling is een belangrijke tool voor het beschermen van de cybersecurity en de vertrouwelijkheid van communicatie. Tegelijkertijd kan de functie als een beschermd kanaal misbruikt worden door criminelen." Als versleutelde diensten buiten het voorstel zouden vallen, dan zouden de consequenties voor kinderen groot zijn, schrijft de Commissie.
De Commissie zegt aan de andere kant het belang van versleuteling in te zien, zeker bij kinderen. Daarom ondersteunt de Commissie naar eigen zeggen samen met bedrijven, organisaties en wetenschappers onderzoek naar technische oplossingen die het scannen naar afbeeldingen van kindermisbruik in versleutelde diensten mogelijk maakt, 'met volledig respect voor fundamentele rechten'.
Automatisch teksten scannen
Wordt een platform onder een detectionorder verplicht om te scannen naar grooming, dan zal dit platform 'automatisch teksten moeten scannen', schrijft de Commissie in het wetsvoorstel. "Vaak is automatisch scannen de enige manier om grooming te detecteren. De gebruikte technologie 'begrijpt' de content van de berichten niet, maar zoekt naar bekende, vooraf geïdentificeerde patronen die wijzen op potentiële grooming." Naast scanningsalgoritmen zijn ook menselijk toezicht en menselijke beoordeling nodig, stelt de Commissie.
De Europese Commissie erkent dat het geautomatiseerd scannen naar grooming 'ingrijpender' is dan het scannen naar afbeeldingen van kindermisbruik. Daarom zouden er voor groomingdetectionorders strengere voorwaarden moeten gelden dan voor kindermisbruikdetectionorders. Ook zouden deze groomingdetectionorders minder lang moeten duren dan de kindermisbruikdetectionorders.
Volgens de Commissie zijn er twee redenen waarom er Europese regels voor grooming en afbeeldingen van kindermisbruik moeten komen. Ten eerste zou het huidige, vrijwillige systeem niet effectief zijn. In de afgelopen jaren kwam 95 procent van alle meldingen van Facebook, terwijl er volgens de Commissie geen indicaties zijn dat andere platforms minder afbeeldingen van kindermisbruik hebben.
De tweede reden is dat sommige lidstaten nu eigen maatregelen zouden nemen tegen grooming en afbeeldingen van kindermisbruik, waardoor bedrijven in verschillende landen met andere regels rekening moeten houden. Dit is volgens de Commissie een onwenselijke situatie in één Europese markt. Vandaar dat de Commissie de regels nu voorstelt. Het Europees Parlement en de lidstaten moeten nog met de verordening akkoord gaan voordat deze in werking treedt.