Tijdens de workshop Versterk Responsible AI voor Beginners belichtte Maaike Harbers de cruciale overwegingen bij het ontwerpen en toepassen van AI-systemen. Het onderwerp besloeg een breed scala aan aspecten, van data tot gebruikersinterface en ecologische impact.
Belangrijke Overwegingen bij AI-ontwerp
- Data: De keuze van data speelt een centrale rol. Bijvoorbeeld, gezichtsherkenningsalgoritmes die voornamelijk zijn getraind met witte, mannelijke gezichten kunnen problemen vertonen bij het herkennen van mensen met een andere huidskleur. Dit benadrukt de noodzaak voor diversiteit in de trainingsdata.
- Doel van het Algoritme: Het is belangrijk te overwegen welk doel het algoritme dient en hoe dit de uitkomsten beïnvloedt.
- Interface: De presentatie van AI-systemen kan verwachtingen scheppen. Bijvoorbeeld, de interface van ChatGPT die zichzelf in de ik-vorm uitdrukt, kan een menselijker beeld oproepen dan daadwerkelijk het geval is.
- Ecologische Voetafdruk: De ontwikkeling van AI vereist aanzienlijke hoeveelheden energie en water, wat een hoge ecologische voetafdruk met zich meebrengt.
Huidige Perspectieven in AI-ontwerp
AI-systemen worden vaak ontworpen vanuit de volgende perspectieven:
- Technisch: Ontwikkeld door technici, vaak zonder rekening te houden met andere noodzakelijke kennis. Dit perspectief is overwegend mannelijk.
- Geprivilegieerd: Ontwerpers zijn vaak hoogopgeleid en wit, wat kan leiden tot een beperkte blik op de behoeften van diverse gebruikers.
- Commercieel: De focus ligt vaak op commerciële belangen, terwijl AI-systemen ook voor publieke doeleinden worden ingezet.
Aanbevolen Betere Perspectieven
- Socio-technisch
- Inclusief
- Verantwoord
Belangrijke Tips voor Gebruikers
- Kritisch Denken: Realiseer je dat er keuzes zijn gemaakt bij het ontwerp en gebruik van AI-systemen en neem niet alles voor vanzelfsprekend aan.
- Organisatorische Controle: Richt binnen grotere organisaties een commissie of werkgroep op die kritisch toezicht houdt op het gebruik van AI-systemen en vooroordelen identificeert.
- Onderwijs: Leer kinderen over de werking van AI.
- Ecologische Overwegingen: Wees bewust van de energie- en waterconsumptie bij AI-ontwikkeling.
- Diversiteit in Ontwerp: Vrouwen blijken een bredere kijk te hebben op ontwerp en toepassing van AI-systemen. Zorg voor diversiteit in ontwerpteams.
- Transparantie: Wees transparant over wie AI-systemen heeft ontworpen en welke belangen er spelen. Let op de representatie in beelden en de boodschap die ze overbrengen.
Conclusie
Het is van groot belang om transparantie te waarborgen bij het ontwerp en gebruik van AI-systemen. De betrokkenheid van diverse perspectieven kan bijdragen aan meer verantwoordelijke en inclusieve AI-toepassingen. Door aandacht te besteden aan deze aspecten kunnen we een meer rechtvaardige en effectieve inzet van AI bevorderen.
