AI-systemen en digitale platforms hebben een aanzienlijke invloed op hoe informatie wordt verspreid en hoe mensen online worden behandeld. Echter, deze technologieën kunnen ook bijdragen aan genderongelijkheid en online haat zaaien. De workshop van Rajae Azaroual en Berty Bannor biedt een overzicht van de juridische en beleidsmatige kaders die relevant zijn voor het aanpakken van deze kwesties, met een focus op AI, genderdiscriminatie en online hate speech.
AI kan onbedoeld genderongelijkheid versterken door bijvoorbeeld sociale mediaplatforms te beïnvloeden. De algoritmen die deze platforms aandrijven, kunnen haatdragende inhoud tegen vrouwen bevorderen en hun zichtbaarheid en invloed in het publieke domein verminderen. Daarnaast kunnen AI-systemen in de gezondheidszorg ongelijke uitkomsten creëren door onjuiste of niet-gelijkmatige trainingsdata. Dit heeft invloed op diagnostiek en behandeling, vooral van aandoeningen die vaker bij vrouwen voorkomen. Ook kan de inzet van AI in surveillance systemen disproportioneel impact hebben op vrouwen, vooral in repressieve regimes, wat hun privacy en vrijheid kan beperken.
In Nederland zijn er juridische kaders die gericht zijn op het bestrijden van online gendered hate speech. Het Wetboek van Strafrecht biedt artikelen zoals 137c en 266, die belediging en discriminatie strafbaar stellen, en artikel 274a van de Wet Computercriminaliteit III, dat ongeautoriseerde verspreiding van kwetsende informatie via computersystemen strafbaar stelt. Naast strafrechtelijke maatregelen kunnen slachtoffers via het civiele recht schadevergoeding of rectificatie vorderen.
Online platforms hebben specifieke verplichtingen onder de Digital Services Act (2023). Deze wet verplicht platforms om een notice and action-mechanisme te voorzien, een intern klachtafhandelingssysteem te hanteren, prioriteit te geven aan meldingen van betrouwbare flaggers, vermoedens van strafbare feiten te melden, en gebruikers die frequent illegale inhoud plaatsen te schorsen.
Toezichthoudende autoriteiten zoals de Autoriteit Persoonsgegevens, de Autoriteit Consument & Markt, en de Europese Commissie spelen een cruciale rol in het toezicht op de naleving van privacy en consumentenrechten en het bevorderen van eerlijke concurrentie.
De Nederlandse overheid heeft ook verplichtingen ten aanzien van AI en mensenrechten. AI-systemen moeten voldoen aan de Algemene Verordening Gegevensbescherming (AVG), wat inhoudt dat er strikte regels zijn voor gegevensverwerking en transparantie over hoe algoritmes functioneren. De overheid moet ervoor zorgen dat AI-systemen eerlijk en transparant zijn en burgers bewust maken van hun rechten in een steeds meer door AI gedreven samenleving. Dit omvat het bevorderen van gelijke behandeling en het ondersteunen van educatieve programma’s en publieke debatten over de ethische en juridische implicaties van AI.
Internationaal zijn er verschillende effectieve maatregelen tegen online gendered hate speech die Nederland kan overnemen. In Duitsland verplicht de NetzDG wet sociale mediaplatforms om haatzaaiende content binnen 24 uur te verwijderen en streng te rapporteren. Het Verenigd Koninkrijk’s Online Safety Bill legt striktere verantwoordelijkheden op platforms met sancties voor niet-naleving. Australië’s Enhancing Online Safety Act biedt mechanismen voor slachtoffers om klachten in te dienen en platforms te dwingen schadelijke content te verwijderen. Frankrijk’s Loi Avia verplicht platforms om haatzaaiende inhoud binnen 24 uur te verwijderen en bevordert samenwerking tussen de overheid en platforms.
Nederland kan deze internationale voorbeelden gebruiken om de aanpak van online gendered hate speech te versterken. Dit kan door verscherpte eisen te stellen aan contentmoderatie, wetgeving te ontwikkelen die platforms verplicht om tegen online haatzaaiing op te treden, en mechanismen voor slachtofferbescherming te verbeteren. Samenwerking met platforms kan worden vergroot om effectievere richtlijnen voor contentmoderatie te ontwikkelen en de handhaving van bestaande wetgeving te verbeteren.
Deze maatregelen en aanbevelingen zijn gericht op het creëren van een eerlijker en veiliger digitaal landschap, waarin genderdiscriminatie en online haat zaaien effectief worden aangepakt
