Je gaat causatie nooit kunnen aantonen in dit soort zaken. In jouw variatie (kijken vanuit een profiel in plaats vanuit de advertentie) ga je ook niet kunnen vaststellen of geslacht de reden was dat je bepaalde vacatures zag, of dat er een reeks proxies worden gebruikt die tot hetzelfde gevolg leiden.
Belangrijker is dat waar het gaat om non-discriminatierecht causatie maar een beperkte rol speelt. Ik kan het besluit van Défenseur de Droits niet zo snel vinden, maar wat hier zal zijn aangevoerd is dat sprake is van indirecte discriminatie. In Nederland wordt dat als volgt gedefinieerd (en dat zal, nu dit op EU niveau is geharmoniseerd, in Frankrijk niet anders zijn):
indirect onderscheid: indien een ogenschijnlijk neutrale bepaling, maatstaf of handelwijze personen met een bepaalde godsdienst, levensovertuiging, politieke gezindheid, ras, geslacht, nationaliteit, hetero- of homoseksuele gerichtheid of burgerlijke staat in vergelijking met andere personen bijzonder treft.
Het enige wat je dus met het onderzoek hoeft te doen, is precies wat hier is vastgesteld: advertentie A (klassiek mannelijk beroep) wordt aan voornamelijk mannen getoond, advertentie B (klassiek vrouwelijk beroep) aan voornamelijk vrouwen. Het algoritme kan best ‘neutraal’ zijn (geslacht is geen factor), maar de uitkomst is dat niet.
Daarnaast geldt in het non-discriminatierecht een verlichte bewijslast, die er kort gezegd op neerkomt het voldoende is dat je feiten aanvoert die
kunnen doen vermoeden dat sprake is van directe of indirecte discriminatie. Dan mag de tegenpartij bewijzen (Meta dus) dat geslacht er niets mee te maken heeft.
Overigens hebben we in Nederland deze zaak ook gehad (
https://oordelen.mensenrechten.nl/oordeel/2025-17/), dat op tweakers ook al is besproken:
nieuws: Meta discrimineert op geslacht, zegt Nederlands mensenrechteninstituut
Vervolgens is de vraag, wat moet je met deze conclusie? Er zijn bedrijven die wel degelijk proberen voor dit soort uitkomsten te corrigeren:
https://oordelen.mensenrechten.nl/oordeel/2023-82/ . Uit de samenvatting:
‘Het algoritme is zelflerend. Breeze weet niet precies hoe het algoritme werkt. De ondernemers weten wel wat erin gaat: alle informatie die de gebruikers zelf op hun profiel invullen, en het ‘like’‑gedrag van alle gebruikers. Dat samen is de input voor het algoritme. Hoe het algoritme met deze gegevens de matchingskans precies berekent is voor Breeze onduidelijk. Zij weet bijvoorbeeld niet wat de exacte invloed is van het like-gedrag op de matchingskans. Zij weet wel dat het algoritme de voorkeuren of het like-gedrag van de gebruikers versterkt bij het berekenen van de matchingskans.
Breeze heeft het vermoeden dat haar algoritme door dit mechanisme voor gebruikers met een donkere huidskleur of niet-Nederlandse afkomst gemiddeld een lagere matchingskans berekent. Daardoor worden deze gebruikers minder vaak voorgesteld aan andere gebruikers. Zij krijgen zo minder matches, waardoor ze de app al snel niet meer gebruiken. Hoewel Breeze juist streeft naar diversiteit van de gebruikers, blijft hierdoor het gebruikersbestand homogeen, met vooral gebruikers met een lichte huidskleur en Nederlandse afkomst.
Breeze heeft als vraag aan het College voorgelegd, of zij volgens het gelijkebehandelingsrecht maatregelen mag nemen in haar algoritme, die de matchingskans van gebruikers met een donkere huidskleur of niet-Nederlandse afkomst verbetert. Ook wil zij weten of zij voorkeursbeleid mag voeren voor deze groep, zodat zij worden bevoordeeld ten opzichte van anderen.’
Ten overvloede:
Hieronder (een andere reactie dan de jouwe) wordt ook geschreven dat vanuit effectiviteit je een en ander graag zo hebt – je wil het juiste publiek bereiken. Enerzijds is dat een valse tegenstelling – het feit dat je de vacature voor monteur getoond krijgt maakt nog niet dat je niet óók de vacature voor leraar basisschool getoond kan worden. Het probleem is dat er groepen zijn die de vacature gewoon niet onder ogen krijgen. Anderzijds is het de vraag wat je belangrijker vindt. Bij autoverzekeringen zou je kunnen stellen dat mannen meer zouden moeten betalen, want maken nu eenmaal gemiddeld gezien meer brokken. Daarvan hebben we als samenleving gezegd: nee, je moet dat uitmiddelen over alle geslachten. Vrouwen betalen dus strikt genomen te veel, mannen te weinig. Dat is een keuze die je maakt. Andersom hebben vrouwen, omdat ze langer leven, relatief meer voordeel van allerlei ouderdomsvoorzieningen (al wordt dat weer deels teniet gedaan omdat ze vaker minder verdienen). En ga zo maar door.
(Edit: wat kleine taalfoutjes eruit gehaald)
[Reactie gewijzigd door Huuruun op 5 november 2025 09:47]