Lector Maaike Harbers: ‘AI is te belangrijk om aan een klein, homogeen groepje over te laten’
Gepubliceerd: 7 March 2025 • Leestijd: 3 minuten en 32 seconden • Nieuws Dit artikel is meer dan een jaar oud.Maaike Harbers, lector AI en Society, doet onderzoek naar de ethische en maatschappelijke aspecten van artificial intelligence – AI. Ze ziet nogal wat ruimte voor verbetering als het gaat om diversiteit en inclusie in AI. ‘Er heerst in tech-bedrijven vaak een masculiene cultuur, waarin het bijvoorbeeld cool is om je niet aan regels te houden.’
In de wereld van artificial intelligence zitten vooral witte mannen aan de knoppen, dat is een bekend gegeven. Vrouwen lijken juist meer alert op de ethische vraagstukken die de nieuwe technologie meebrengt, blijkt uit het onderzoek van Harbers naar de rol van gender in de ontwikkeling van verantwoorde AI. Het onderzoeksrapport verscheen vorig jaar. ‘We hebben vrouwen uit de sector geïnterviewd en gevraagd naar hun ervaringen en naar wat zij denken dat hun rol is. Vrouwen, evenals als mensen van kleur, blijken vaker aandacht te besteden aan ethiek.’ Die grotere interesse heeft waarschijnlijk te maken met het feit dat ze zelf eerder “slachtoffer” worden van de bias in AI’, legt Harbers uit.
Die bias in AI-systemen ontstaat doordat die systemen worden getraind met data waarin die bias ook al aanwezig is. ‘Dat is bekend’, zegt Harbers, ‘de vraag is dan hoeveel moeite je doet om die bias te corrigeren.’ De onevenwichtigheid in trainingsdata zorgt er namelijk voor dat AI-systemen niet voor iedereen even goed werken. Zo werkt gezichtsherkenning beter voor witte mannen dan voor vrouwen van kleur. Een student die thuis een toets moest maken in coronatijd ondervond daar de vervelende gevolgen van: de proctoring software herkende haar niet, en ze kon dus niet aan de toets deelnemen. Ook in zelfrijdende auto’s bestaat het probleem. ‘Je herkent die problemen eerder als je zelf niet wit bent, of geen man, of een beperking hebt’, zegt Harbers, ‘en je bent dan vaak meer gemotiveerd er iets aan te doen.’
Blootleggen welke vragen er zijn
Harbers en het onderzoeksteam van haar lectoraat onderzoeken – meestal met partners uit de publieke sector of het bedrijfsleven – hoe je AI verantwoord kunt inzetten. ‘Om een voorbeeld te geven: De Gemeente Rotterdam wil AI inzetten om haar taalgebruik te versimpelen. Een mooi streven, maar je kunt dat niet zomaar doen met AI. Je moet nadenken met welk bedrijf je je content deelt, hoe je zorgt dat het juridisch kloppend blijft. Ik probeer dan bloot te leggen wat de vragen zijn en welke mogelijke oplossingen ervoor zijn. Die oplossingen zitten lang niet altijd in de technologie zelf.’
Daarnaast wil ze in haar onderzoek kritisch kijken naar AI. Zo verdiept ze zich met senior onderzoeker Roland van Dierendonck in metaforen die voor de nieuwe technologie gebruikt worden. ‘We noemen het nu “intelligentie”, maar dat heeft een ander gevoel dan “assistent” of “dief”.’ Op die manier kun je het denken van mensen over AI een duwtje geven.
‘In mijn eentje kan ik natuurlijk niet veel beginnen tegen big tech, maar dat is voor mijn geen reden om dan maar niets te doen.’
Hoewel het soms een beetje voelt als vechten tegen de bierkaai gaat ze er hoopvol tegenaan: ‘In mijn eentje kan ik natuurlijk niet veel beginnen tegen big tech, maar dat is voor mijn geen reden om dan maar niets te doen. In opleidingen speelt ethiek een steeds grotere rol en ook in onze nieuwe master AI Translator gaat het een grote plek krijgen. De bedrijven en organisaties waarmee ik werk willen en moeten het ook netjes doen en die hebben met hun inkoopbeleid ook weer invloed op AI-leveranciers.’
Dat big tech (te) machtig is, is de laatste weken duidelijker dan ooit geworden. ‘Er is vanuit de VS bijvoorbeeld ook veel druk rond de Europese AI Act’, zegt Harbers. ‘‘Bij tech-bedrijven heerst vaak een masculiene cultuur. Bepaalde dingen worden cool gevonden, bijvoorbeeld je niet aan de regels houden. ‘Onderzoek naar de ethische en sociale vraagstukken kost tijd en geld en de commerciële belangen zijn groot’, stelt Harbers. ‘Maar ook bij niet-commerciële projecten roepen mensen al snel “het houdt innovatie tegen”. Er worden veel beloftes over AI gedaan die niet worden waargemaakt, omdat er natuurlijk ook vreselijk veel investeringsgeld is op te halen.’
Zoveel mogelijk perspectieven meenemen
Vanavond is Maaike Harbers een van de sprekers op de Annie Romein Verschoor-lezing (die live wordt gestreamd) die de Universiteit Leiden organiseert in het kader van internationale vrouwendag. Ze wil haar publiek meegeven dat AI veel te belangrijk is om aan een klein, homogeen groepje over te laten. ‘De mensen die aan de knoppen zitten zijn vooral mensen uit een kleine, homogene en geprivilegieerde groep’, zegt ze. ‘We moeten juist zoveel mogelijk perspectieven meenemen: man, vrouw, oud, jong, wit, gekleurd. We moeten niet alleen het technische maar ook het sociale perspectief meenemen. Daar heeft iedereen een rol in. Ook de media: welk verhaal vertel je over AI en wie laat je aan het woord? Net als mediageletterdheid is er AI-geletterdheid nodig. Ik hoop dat de hype van de overdreven verwachtingen snel over is, en we met elkaar zinvolle discussies kunnen voeren over AI.’
De lezing van Maaike Harbers op de Universiteit Leiden is hier terug te kijken.
Tekst: Edith van Gameren
Foto: Sjoerd Joosen
Schrijf je in voor onze wekelijkse nieuwsbrief!
Profielen is ook actief op LinkedIn. Volg ons, blijf op de hoogte en praat mee over actuele onderwerpen.
Pff… Gaan we weer met de ‘white men bad’ narratief. Dat donkerder gekleurde mensen niet (goed) worden herkent is helemaal geen probleem van vooroordelen in trainingsdata.. het is een probleem met opvang van licht, om het maar simpel te zeggen.
En natuurlijk weer de zogenaamde privileges,.. ga toch eens weg.. Dit is waar op bezuinigd kan worden!
Pff… Gaan we weer met het ‘Jasper voelt zich aangesproken dus het kan niet waar zijn ongeacht hoeveel onderzoek je doet’ narratief.
De aangegeven problematiek zit hem niet alleen in de functionaliteit van herkennen zelf maar in de bereidheid om er een oplossing voor te bieden. Even het artikel goed lezen voor je getriggerd reageert, Jasper.
Het is ook niet alsof er een duidelijk voorbeeld van het probleem in het artikel staat, wanneer een student niet herkend werd door proctoring software.
Het is ook niet
https://news.uchicago.edu/story/ai-biased-against-speakers-african-american-english-study-finds
alsof je
https://www.forbes.com/sites/ariannajohnson/2023/05/25/racism-and-ai-heres-how-its-been-criticized-for-amplifying-bias/
niet allerlei
https://ucalgary.ca/news/law-professor-explores-racial-bias-implications-facial-recognition-technology
artikelen kan
https://blog.mozilla.org/en/mozilla/ai/artificial-intelligence-dangers-black-people-african-americans/
vinden die dit
https://www.aclu.org/news/privacy-technology/how-artificial-intelligence-can-deepen-racial-and-economic-inequities
probleem onderschrijven.
https://news.mit.edu/2018/study-finds-gender-skin-type-bias-artificial-intelligence-systems-0212
Laten we maar stoppen met dingen te onderzoeken, gewoon even vragen hoe Jasper zich voelt en dan weten we precies wat we moeten doen :D.
Jasper, soms vraag ik me op basis van je reacties af of je een HR student of medewerker bent. In beide gevallen ben ik benieuwd vanuit welk kennisgebied je beredeneert. Ik hoop dat je student bent, want voor een docent zou ik dit soort opmerkingen ronduit gênant vinden. Kunnen we wellicht op jouw bezuinigen?
Wat maakt het dat je, zonder enige wetenschappelijke onderbouwing, zo comfortabel bent om iemand te bekritiseren? Dit terwijl diegene notabene zelf uitgebreid haar argumenten uiteenzet, ondersteund met een gedegen onderzoeksrapport? Iemand met een bewezen expertise op dit vlak?
Wat maakt jouw een autoriteit op het gebied van deze materie? Geef je er les in? Of geef je les in een aanverwant discipline? Je hebt overal een mening over maar zelden tot nooit is het een bijdrage die opbouwend is voor een (wetenschappelijke) discussie over het onderwerp en blijft het hangen op het niveau van X of Facebook.
Student of docent, je maakt deel uit van een instelling in het hoger onderwijs dus gedraag je daar dan ook eens naar. Als je kritiek hebt, prima. Maar kom dan met gedegen argumenten en onderbouw die, net als Maaike, met wetenschappelijke bronnen. Dan zet je jezelf niet zo grandioos voor schut iedere keer.
Het doet me goed om te zien dat de HR energie steekt in het analyseren van ethische vraagstukken die voor mijn gevoel vaak onderbelicht blijven binnen technische studies.
En een strijdbare Internationale Vrouwendag gewenst aan eenieder die zich ervoor inzet! 🙂
@Beau, we hebben natuurlijk ook een hoop ander ondersteunend personeel in dienst naast docenten. Aan de hand van eerdere opmerkingen vermoed ik dat onze Jasper een van de huismeesters is.
Nu probeer ik altijd autoriteits-denken te vermijden, soms kunnen mensen zonder formele opleiding vanuit persoonlijke interesse zeer goed ingelezen zijn in de materie van een bepaalde discipline. Zoals je aangeeft, moet iemand wel met degelijke argumenten en bronnen komen. Helaas ontbreekt het daar keer op keer aan.
@scrumptiouslyf34f7f8e82
Haha, dom. misschien moet je mij dan een uitleggen dat huidskleur zich uit in een homogeen denk en ervaringspatroon. En mag je mij laten zien dat dit (bewuste) programmering is en niet een probleem in lichttechnieken die verbeterd dienen te worden en gewoon niet is ontdekt bij implementatie.
Als je het maar kan verdraaien 😉
@Beau
Ik ben een medewerker, en jawel, je zou op mij kunnen bezuinigen. wordt ik dan ontslagen op basis van politieke redenen? Waarom kritiek heb? omdat er op basis van uitkomsten een conclusie wordt gedaan die niet klopt. Er is geen bewijs dat dit soort fouten ligt aan huidskleur of zogenaamde homogeen gegeven van onverantwoordelijke eigenschappen van ontwikkelaars o.i.d. wat hier wel beweerd, i.i.g. suggereert wordt. Waar zie jij daar enige bewijs voor in dit wetenschappelijk onderzoek? Dit is een MENING van de onderzoekster, dat is niet erg, maar geen wetenschappelijk feit.
Rapport: Gezichtsherkenning herkent donkere huidskleur minder goed. Een onderzoek van het Amerikaanse National Institute of Standards and Technology (NIST), In veel van deze rapportages staat ook dat het niet door homogene groep gaat zoals met huidskleur of geslacht, maar puur een technische fout die niet is opgevallen en niet is goed getest. Dit heeft niets met racisme te maken of met de homogenie van een groep ontwikkelaars.
@S.Heikamp
Nee, ik ben geen huismeester. Suggereer je nu dat Huismeester te dom zijn om dit allemaal te snappen? Heel elitair, dat zeg heel veel. Ik kom wel vaker met bronnen die beweringen van jullie onderuit haalt. Dan is het opeens niet wetenschappelijk, extreem rechts of dom.. Zo is het nooit goed. Ik kwam zelfs een keer met bewijs voor onderdrukking van Palestijnen door Hamas,.. geen reactie, alleen dat het niet waar was.. terwijl het van Amnasty kwam. Je denkt maar een end weg met je snobisme en veroordelingen op basis van niets.
P.S. Het lijkt er vooral op dat Gender studies standaard de conclusie trekken dat bij gedegen wetenschappelijk onderzoek de fouten voortkomen aan een identiteit ‘probleem’. Terwijl we hier praten over een technische ‘fout’ die donkere kleuren minder goed kan beoordelen en structureren.. dat zegt dus helemaal niets over de identiteit van de maker(s) of test-subjecten. Er is, volgens mij, nergens een uitleg of wetenschappelijk bewijs in het rapport dat bewijs levert voor deze conclusie.
Maarja, je zal ook niet kritisch kijken als de conclusie binnen je denkwijze en politieke overtuiging valt. Volgens mij is het erg belangrijk om objectief te blijven 😉
@Jasper Misschien moet je het, als gedachten-experiment, omdraaien: hoe goed zou de gezichtsherkenning werken als de techniek zou zijn ontwikkeld door en voor zwarte personen?
@s.heikamp, De huismeesters die ik ken zijn super genuanceerd in hun opmerkingen en uitingen, dus ik herken dit helemaal niet.
@ Jos van Nierop.
Dat is een zeer kortzichtige visie i.m.o.
Het ontwikkelen door 1 specifieke groep wil niet zeggen dat er specifieke blinde vlekken zijn. Daarnaast is AI niet voor een specifieke groep ontwikkeld. Het is veel ingewikkelder dan dit. Bij genoemd voorbeeld (niet/minder herkennen door AI van vrouwen en/of mensen van kleur) kan dit soort ‘fouten’ (lees: kinderziektes) erin sluipen, ook bij mensen van kleur of vrouwen. Dit heeft meer te maken met onvolledig testen dan met de ontwikkelaar zijn/haar huidskleur, geslacht of zelfs ervaringen.
@S.Heikamp
Terechte kritiek. Ik ging voorbij aan het feit dat er meer is als enkel student en docent bij ons op de HR. En zoals je al aangeeft, het beargumenteren van je punten is daarmee niet ineens overbodig geworden. Zeker niet gezien dat elk van de punten die Jasper aanstipt benoemd worden in het onderzoeksrapport met ondersteunende bronnen.
@Jasper
Of we dan mensen om hun politieke opvattingen moeten wegbezuinigen? Wat mij betreft zeker niet, maar die opmerking was bedoeld als spiegel voor jouw eigen insinuatie dat dat voor Maaike het geval moest zijn. Dat vond ik opvallend omdat je met enige regelmaat rept over een vermeende ‘cancel-cultuur’. Ben je het er niet mee eens? Prima, maar beargumenteer dan waarom en roep niet op om dit soort (in mijn ogen belangrijk) onderzoek en de daarvoor benodigde medewerkers weg te bezuinigen.
Dit is precies wat Maaike zegt toch: een technisch probleem, maar het valt niemand op óf men ziet het niet als problematisch, omdat in de groep ontwikkelaars niemand zit uit de groep die last heeft van dit probleem. Identiteit of racisme noemt zij niet en komen in het stuk niet voor, alleen het voordeel/de noodzaak van het meenemen van zoveel mogelijk perspectieven als je AI-toepassingen ontwikkelt.
@Jasper
“Het ontwikkelen door 1 specifieke groep wil niet zeggen dat er specifieke blinde vlekken zijn.”
Met deze ene zin zeg je al alles over hoe geprivilegieerd je bent.
Want alle mensen met een beperking – doof, blind, in een rolstoel, etc. – kunnen je honderden voorbeelden geven van hoe ontoegankelijke dingen en processen zijn, omdat degenen die ze bedacht hebben, een homogene groep mensen waren die nooit stilstonden bij hoe het leven is voor anderen die anders zijn dan zij. Inclusief jijzelf.
@Jasper, die post van “scrumptiouslyf34f7f8e82” was ook van mij, ik had even ruzie met WordPress over mijn identiteit.
Bedankt voor deze hilariteit, ik ben bijna letterlijk van mijn stoel gerold van het lachen. Het idee dat jij anderen op hun objectiviteit wijst en de implicatie dat jij objectief bent heeft me de hele dag vermaakt.
Allereerst is objectief zijn logisch onmogelijk. Om objectief te zijn moet je alle informatie van de realiteit tot je beschikking hebben zodat het onmogelijk is om een beperkt en daarmee subjectief perspectief te hebben. Dit is onhaalbaar voor ieder mens. Gezien je niet kan weten wat je niet weet, kan je jezelf onmogelijk als objectief beoordelen. Jezelf als objectief bestempelen, impliciet of expliciet, is niet mogelijk.
Het idee dat jij geen subjectief beeld zou hebben wordt verder weergegeven doordat je continu aangeeft een rechts beeld te hebben. Een positie op het politiek spectrum is per definitie een subjectief gegeven.
Laten we verder even je recente bijdrages gaan fileren om duidelijk te maken hoe totaal niet objectief je bent. Dit gaat ook inhoudelijk op je opmerkingen in dus veel leesplezier.
1) “Pff… Gaan we weer met de ‘white men bad’ narratief.”
Het enige wat dit betekent is dat jij niet wilt weten dat discriminatie nog steeds voorkomt. Elke keer werp je de witte man op als het slachtoffer, ongeacht wat er daadwerkelijk gebeurt. Als je een groep onmiddelijk verdedigt zonder naar de kritiek te willen kijken ben je niet objectief.
2) “Dat donkerder gekleurde mensen niet (goed) worden herkent is helemaal geen probleem van vooroordelen in trainingsdata.. het is een probleem met opvang van licht, om het maar simpel te zeggen.”
In plaats van te lezen wat er daadwerkelijk gebeurt verwerp je elk onderzoek zodra de conclusies je niet bevallen. Dat die artikelen die ik je heb gegeven legio voorbeelden bevatten van hoe AI door middel van trainingsdata vooroordelen heeft in de resultaten, welke niets te maken hebben met ‘opvang van licht’, maar bewijs wat tegen jouw conclusies ingaat verwerp je onmiddelijk en zonder reden. Dat is geenszins objectief.
3) “Haha, dom.”
Dit is een persoonlijke aanval en geen inhoudelijk argument. Het zegt iets over hoe jij subjectief naar een ander kijkt, en niets over de intelligentie van een persoon. Het enige wat je hiermee hebt gezegd is, ‘Ik ben het er niet mee eens dus ik noem het dom.’ Je negeert hier de mogelijkheid dat je er zelf naast kan zitten wat geenszins objectief is.
4) “misschien moet je mij dan een uitleggen dat huidskleur zich uit in een homogeen denk en ervaringspatroon.”
Dit is geen argument wat iemand hier gemaakt heeft, dit breng jij als enige op. Het probleem waarnaar verwezen is is dat AI door data getraind wordt die vooroordelen bevat en dat degenen die hiermee bezig zijn onvoldoende over deze mogelijkheid nadenken. Je leest dus niet wat mensen zeggen maar vervangt deze door je eigen subjectieve idee van wat ze beweren, om maar ergens tegenaan te kunnen schoppen.
5) “En mag je mij laten zien dat dit (bewuste) programmering is en niet een probleem in lichttechnieken die verbeterd dienen te worden en gewoon niet is ontdekt bij implementatie.”
In verscheidene artikelen die ik hier gelinkt heb staan voorbeelden. Overigens heeft niemand hier beweerd dat dit “(bewust”) gebeurt, dat maak jij er weer van want je moet en zal jouw subjectieve beeld hierop forceren. Je hebt klaarblijkelijk ook niet naar de artikelen gekeken, anders had je geweten dat hier voorbeelden in staan. Dit is wederom duidelijk een situatie waar je niet objectief naar informatie kijkt die je geleverd krijgt maar het negeert of verwerpt omdat het niet in jouw subjectieve beeld past.
6) “Ik ben een medewerker, en jawel, je zou op mij kunnen bezuinigen. wordt ik dan ontslagen op basis van politieke redenen?”
Zoals Beau aangeeft protesteer je hier tegen hetgene waarvan je zelf betoogde dat het zou moeten gebeuren met dit onderzoek. Dat noemt men ‘met twee maten meten’ en is geenszins objectief.
7) “Suggereer je nu dat Huismeester te dom zijn om dit allemaal te snappen? Heel elitair, dat zeg heel veel.”
en
8) “Je denkt maar een end weg met je snobisme en veroordelingen op basis van niets.”
Dit is een heerlijk voorbeeld van hoe je niet alleen op een verkeerde wijze door je subjectieve lens naar een opmerking kijkt maar een prachtig staaltje ironie. Natuurlijk is dit ook weer een aanval op de persoon en geenszins een inhoudelijke bijdrage maar dat hoeft niet te verbazen. Mensen woorden in de mond leggen is geenszins objectief.
Als je objectief had willen zijn, had je kunnen vragen waarom ik vermoedde dat je een huismeester bent en had ik je kunnen verwijzen naar een artikel over de sluiting van panden waarin jij aangaf dat jouw werk alleen op locatie gedaan kan worden. Ik heb ook geen totaalbeeld van alle functies binnen de HR maar van degenen die ik ken is ‘huismeester’ eentje die bij uitstek alleen op locatie uitgevoerd kan worden, dus ik gokte op die functie. Het vermoeden is kennelijk onjuist en dat is prima, maar jij bent hier degene die het nodig vond om mij te veroordelen op basis van niets. In plaats daarvan koos je ervoor om me ‘elitair’ en een ‘snob’ te noemen, omdat dat past in jouw subjectieve beleving.
9) “Ik kom wel vaker met bronnen die beweringen van jullie onderuit haalt. Dan is het opeens niet wetenschappelijk, extreem rechts of dom.. Zo is het nooit goed. Ik kwam zelfs een keer met bewijs voor onderdrukking van Palestijnen door Hamas,.. geen reactie, alleen dat het niet waar was.. terwijl het van Amnasty kwam.”
Je komt heel vaak met opmerkingen, niet met bronnen. Link gerust eens drie artikelen door waar jij met een bronvermelding kwam. Conversaties met jou gaan meestal zoals hier: https://profielen.hr.nl/2025/blog-menno-welk-platform-past-bij-mij/
Ik heb je daar letterlijk om bronnen gevraagd, maar je kan de krekels weer eens horen.
10) “Het ontwikkelen door 1 specifieke groep wil niet zeggen dat er specifieke blinde vlekken zijn.”
Dit klopt, maar daar gaat het hier niet om. Er zijn specifieke blinde vlekken blootgelegd door onderzoek en jij wilt er niet aan dat dat kan komen doordat het ontwikkeld is doordat data met bepaalde vooroordelen is gebruikt. Je wilt niet aan de mogelijkheid dat die selectie kan komen doordat bepaalde perspectieven oververtegenwoordigd zijn. Je maakt hier een klassieke denkfout door de stelling om te draaien maar jij hebt deze stelling verzonnen, omdat dat past bij je politieke voorkeur. Niets objectiefs aan.
11) “Het lijkt er vooral op dat Gender studies standaard de conclusie trekken dat bij gedegen wetenschappelijk onderzoek de fouten voortkomen aan een identiteit ‘probleem’. ”
Dit is geen gender studie, dit is een AI studie. Gender is onderdeel van de studie, wat jij vervolgens uit context trekt en generaliseert. Beide zijn drogredenen en wederom, niet objectief.
12) “Maarja, je zal ook niet kritisch kijken als de conclusie binnen je denkwijze en politieke overtuiging valt.”
Kennelijk zal je in ieder geval niet kritisch kijken als de conclusie *buiten* je denkwijze en politieke overtuiging valt. Wederom met twee maten aan het meten en niet objectief.
13) “Volgens mij is het erg belangrijk om objectief te blijven”
Mee eens, dus wanneer ga je daar eens mee beginnen? Of zullen we er maar gewoon van uitgaan dat het patroon in stand blijft en de volgende keer wanneer iets in de buurt van ‘woke’, ‘gender’, ‘discriminatie’ of dergelijke termen voorbij komt, waarbij kritiek op bewuste en onbewuste vooroordelen van de traditioneel oververtegenwoordigde groepen gegeven wordt, je weer op exact dezelfde manier de slachtofferkaart speelt?
Nog bedankt wel, ik had een stressvolle dag, 30 minuutjes om dit te schrijven en ik ben weer in een goede bui :D.
@Tanja, fijn dat je zulke goede mensen om je heen hebt, maar er volgt niets uit je stelling. Ik ga er van uit dat iedere groep mensen bevat van verschillende perspectieven, die verschillende kennis hebben, en zich over bepaalde onderwerpen meer en minder genuanceerd uit zullen drukken. Dat geldt voor studenten, docenten, huismeesters, en alle andere functies binnen de HR.
Zie verder de opmerking hierover tegen Jasper (7 en 8), betreffende wat ik daadwerkelijk heb gezegd, waarbij ik niets over huismeesters zei.