Het onafhankelijke mensenrechteninstituut van Nederland oordeelt dat het advertentie-algoritme van Meta Ierland Ltd. (Meta), dat verantwoordelijk is voor het aanbieden van Facebook advertenties in Europa, een verboden onderscheid maakt op grond van geslacht.
Het oordeel van het College volgt na een klacht die is ingediend door onze lidorganisatie Bureau Clara Wichmann in samenwerking met de onderzoeks- en campagneorganisatie Global Witness.
Onderzoek in 2022 en 2023 bracht een duidelijke genderbias in Meta’s advertentie-algoritme aan het licht. Dit algoritme bepaalt aan wie advertenties worden getoond. Bepaalde vacatures, zoals elektricien, kapper, monteur, receptionist en leerkracht basisschool werden in Nederland vrijwel uitsluitend aan of mannen of vrouwen getoond. Zo werd de vacature voor de functie van receptionist voor 96% (2022) en 97% (2023) aan vrouwelijke Facebookgebruikers getoond. De vacature van monteur werd voor 96% (2022 en 2023) aan mannelijke Facebookgebruikers getoond. Hierdoor worden bestaande ongelijkheden en stereotypen versterkt en in stand gehouden.
Berty Bannor, medewerker bij Bureau Clara Wichmann, verklaart: “Vandaag is een belangrijke dag voor Nederlandse Facebook-gebruikers. Zij hebben nu een toegankelijk mechanisme om Big Tech-bedrijven als Facebook ter verantwoording te roepen en te zorgen dat de rechten die zij offline genieten, ook in de digitale wereld worden gewaarborgd.”
Rosie Sharpe, Senior Campaigner on Digital Threats bij Global Witness: “Wij verwelkomen het besluit van het College om onze klacht tegen Meta gegrond te verklaren. Deze uitspraak is een belangrijke stap in het verantwoordelijk houden van Big Tech voor de manier waarop zij hun diensten ontwerpen en de discriminerende effecten die hun algoritme op mensen kunnen hebben. Wij hopen dat dit oordeel als springplank kan dienen voor verdere actie, in Europa en daarbuiten.”
Thomas van der Sommen, advocaat bij Prakken d’Oliveira en juridisch vertegenwoordiger van de organisaties, voegt toe: “Meta heeft het College niet kunnen overtuigen dat zijn advertentie-algoritme niet discrimineert op basis van geslacht. De algoritmes benadelen vrouwen in het bijzonder en dat moet stoppen. Dit oordeel schept een helder en overtuigend precedent voor de manier waarop algoritmes moeten worden gereguleerd onder de anti-discriminatiewetgeving.”
Algoritme maakt zich schuldig aan verboden indirecte discriminatie op grond van geslacht
Dit is waarschijnlijk de eerste keer dat een officieel Europees mensenrechtenorgaan vaststelt dat het algoritme van een social media platform discrimineert op basis van geslacht. Het oordeel komt kort nadat Meta aankondigde zijn interne programma voor Diversiteit, Gelijkheid en Inclusie te beëindigen en de drempel voor wat als haat zaaien en discriminatie op het platform wordt beschouwd te verlagen – waaronder uitingen met betrekking tot gender. Het oordeel van het College volgt na een eerdere zaak in de VS, waar Meta akkoord ging met het veranderen van de wijze waarop hun algoritmes werken. Samen met Fondation des Femmes diende Global Witness een soortgelijke klacht in bij de Franse toezichthouder op gelijkheid.
Volgens Nederlandse en EU anti-discriminatiewetgeving is het verboden om onderscheid te maken op basis van geslacht bij het tonen van vacature-advertenties, om zo genderongelijkheid en discriminatie op de arbeidsmarkt te voorkomen.
Het College oordeelt dat Meta een zorgplicht heeft om de mate waarin het algoritme stereotypen in stand houdt te monitoren, en om maatregelen te nemen om dit effect te neutraliseren. Meta heeft niet aangetoond dat het aan deze zorgplicht voldoet. Om verdere discriminatie te voorkomen, dient Meta aanvullende maatregelen te nemen om ervoor te zorgen dat zijn advertentie-algoritme geen discriminerende uitkomsten meer genereert.
Bureau Clara Wichmann en Global Witness overwegen mogelijke vervolgstappen. Zij staan ook open voor een constructieve dialoog met Meta over het ontwikkelen van een beter en eerlijker systeem.
