De Nederlandse digitale burgerrechtenorganisatie Bits of Freedom won donderdag een belangrijke rechtszaak tegen Meta. De stichting vond het onrechtmatig dat de interfaces van Instagram en Facebook automatisch op een algoritmische sortering staan. De rechtbank van Amsterdam ging daarin mee: die vond die vorm van weergave in strijd met de Digital Services Act. De rechtszaak kan grote gevolgen hebben, omdat Meta niet het enige bedrijf is dat dergelijke strategieën hanteert.
Bits of Freedom viert de uitspraak als een overwinning. "Voor veel mensen, en vooral voor jongeren, vormen socialemediaplatforms een belangrijke bron van nieuws en informatie. Het is daarom cruciaal dat gebruikers zelf kunnen bepalen welke inhoud hen wordt voorgeschoteld op hun tijdlijn. Zonder die keuzevrijheid wordt de deelname aan het publieke debat ernstig belemmerd", stelt de organisatie in een persbericht.
Grote uitspraak
De uitspraak is niet alleen vanwege de conclusie opvallend. Het is ook een van de eerste grote uitspraken over de interpretatie van de Digital Services Act (DSA). Die Europese verordening is relatief nieuw en, belangrijker, is net als de AVG technologieneutraal geschreven. Er staat niet specifiek in de wet hoe bepaalde normen moeten worden uitgelegd en dat betekent dat de wet de komende jaren geïnterpreteerd zal worden door rechters overal in Europa. Deze uitspraak vormt mogelijk een belangrijke interpretatie voor artikel 27 van die Europese verordening. Daarin staat dat platforms die verschillende aanbevelingssystemen gebruiken, gebruikers in staat moeten stellen om hun voorkeur voor een bepaald systeem te allen tijde te selecteren en te wijzigen.
:strip_exif()/i/2007817600.jpeg?f=imagenormal)
Meta gaf gebruikers al de optie om hun tijdlijn op chronologische volgorde te bekijken in plaats van op basis van de aanbevelingen van het algoritme. Door die optie aan te zetten, werden bepaalde functies, zoals direct messages, niet meer direct toegankelijk. Daarnaast sloeg Meta de voorkeur van de gebruikers niet op: als zij de app of de website van Facebook of Instagram afsloten en opnieuw openden, moesten zij opnieuw instellen dat hun tijdlijn op chronologische volgorde gesorteerd werd. Dat is volgens de interpretatie van de rechter in strijd met de DSA, die zou beogen dat de keuze van de gebruiker 'duurzaam' is, oftewel ook tussen sessies behouden blijft.
Deze interpretatie van de DSA zou best eens een groot probleem kunnen worden voor andere grote internetplatforms, want Facebook en Instagram zijn zeker niet de enige diensten die zo opereren. Een van de meest voor de hand liggende voorbeelden is Reddit. 'People who sort by new' was lange tijd een meme op het platform, omdat deze mensen de 'zware last' zouden dragen om het algoritme alvast de juiste kant op te sturen voor de mensen die zich meer lieten sturen door dat algoritme.
De sorteerwijze van posts is op de website van Reddit in te stellen in een dropdownmenu waar onder andere de optie 'nieuwste' tussen staat. Wie de website echter afsluit en opnieuw opstart, komt altijd standaard uit bij een sortering op de 'beste' posts. Daarmee voldoet Reddit mogelijk niet aan de DSA-interpretatie van de rechter, los van of de optie duidelijk genoeg gecommuniceerd wordt aan gebruikers.
Reels en YouTube
Ook de Reels-sectie op Instagram en Facebook voldoet niet aan de interpretatie van de DSA die de rechter in de Bits of Freedom-zaak hanteert. De Reels-secties bieden namelijk überhaupt geen aanbevelingssysteem dat niet gebaseerd is op profilering, terwijl dat volgens artikel 38 van de DSA wel verplicht is voor 'zeer grote online platforms'.
Daarbij zullen de ogen al snel gericht zijn op YouTube. Dat is al langer bezig om gebruikers meer richting de gepersonaliseerde aanbevelingen te sturen. In juli stopte het bedrijf nog met de Trending-pagina, waar gebruikers video's konden zien die in hun regio populair waren. YouTube zei destijds dat het de bedoeling was dat YouTube Charts de Trending-sectie zou vervangen. Bijna drie maanden later wordt daar echter nog steeds alleen muziek getoond, terwijl daar ook andere categorieën toegevoegd moesten worden.
In YouTube kunnen gebruikers hun kijkgeschiedenis uitzetten, maar wie daarvoor kiest, krijgt geen enkele aanbeveling meer te zien. De Shorts-functie werkt helemaal niet meer. Dat systeem lijkt ook niet te voldoen aan het eerdergenoemde artikel 38, waarin duidelijk staat dat very large online platforms (VLOPs), wat YouTube is, ten minste één optie moeten aanbieden die niet gebaseerd is op profilering. Content van makers op wie gebruikers geabonneerd zijn, is overigens nog wel te zien via het abonnemententabblad. Gebruikers komen echter standaard uit op de homepagina, waar YouTube aanbevelingen op basis van het algoritme toont.
/i/2007818616.png?f=imagenormal)
Een logische gedachte is dat YouTube nog steeds bruikbaar is zonder kijkgeschiedenis, omdat mensen nog steeds kunnen zoeken naar video's. Dat argument voerde Meta ook aan: via het tabblad Overzichten kan worden gezocht op Reels, waarna een overzicht van video's verschijnt op basis van de zoekterm. De rechter ging in dat verweer echter niet mee, omdat een zoekfunctie aanbieden simpelweg anders is dan een niet-geprofileerd aanbevelingssysteem.
En nu?
Het is niet met zekerheid te zeggen of en hoe deze platforms zullen moeten veranderen door de uitspraak. Elk platform kent immers weer zijn eigen nuances. Is bijvoorbeeld de Reddit-pagina met populaire content een afdoende manier om gebruikers aanbevelingen te serveren zonder profilering of moet het ook mogelijk zijn om de content waarop zij zich hebben geabonneerd te bekijken zonder inmenging van een algoritme? En wanneer is een optie goed zichtbaar en wanneer niet? Bovendien gaat Meta in hoger beroep, waardoor de interpretatie van de DSA binnenkort ook door het gerechtshof zal moeten worden beoordeeld. Duidelijk is echter dat er meerdere grote platforms dezelfde praktijken hanteren die zojuist door een rechter hard zijn afgestraft. Diens interpretatie van de DSA kan meerdere grote techbedrijven tot wijzigingen dwingen, zoals het kunnen gebruiken van YouTube Shorts zonder aanbevelingen of misschien zelfs de terugkeer van de sorteeropties in de Reddit-app. De tijd en de ongetwijfeld nog vele rechtszaken die nu volgen zullen het leren.