| 
|
De rubriek Ingezonden biedt ruimte aan verschillende geluiden binnen de Hogeschool Rotterdam. De opinies in de ingezonden brieven reflecteren niet noodzakelijkerwijs de mening van de redactie.
In een wereld waarin algoritmen steeds belangrijker zijn in het maken van beslissingen, is ethiek een essentieel onderdeel van goed onderwijs, schrijft Hassan Alaoui, docent en onderzoeker aan de Hogeschool Rotterdam, in een ingezonden brief. In zijn onderwijs in onder andere data science en machine learning wil hij ethische reflectie stimuleren.
Tijdens een recente les over machine learning stelde ik mijn studenten een vraag die bewust geen technisch antwoord kende: ‘Stel, je werkt bij de Belastingdienst. Je ontdekt dat een algoritme burgers discrimineert. Niet hypothetisch, maar concreet — zoals tijdens de toeslagenaffaire. Je manager zegt dat het werk af moet. Het systeem draait al. Wat doe je?’
De antwoorden liepen uiteen.
Sommige studenten zouden het probleem aankaarten, ook als dat spanning oplevert. Anderen gaven aan een andere baan te zoeken als er niets verandert. Er waren ook studenten die twijfelden, of geen duidelijk standpunt innamen.
Wat me raakte, was niet welk antwoord werd gegeven, maar hoe verschillend het morele kompas bleek te zijn, zelfs binnen één klas.
In een samenleving waarin algoritmen steeds vaker beslissingen beïnvloeden over werk, zorg, financiën en veiligheid, is ethiek geen bijzaak meer. Toch leren we studenten vaak vooral hoe modellen werken, niet wat de gevolgen kunnen zijn van het gebruik ervan.
De filosoof Hannah Arendt schreef ooit over ‘de banaliteit van het kwaad’: het idee dat grote schade niet altijd ontstaat door kwade intenties, maar door gedachteloos volgen van systemen en instructies. Juist daarom is het vermogen om stil te staan, te twijfelen en vragen te stellen zo belangrijk.
Als docent binnen het domein van data science en machine learning zie ik het als mijn verantwoordelijkheid om ruimte te maken voor dit soort gesprekken. Juist in vakken waarin algoritmen en modellen worden ontwikkeld die directe gevolgen kunnen hebben voor mensen, is het belangrijk om niet alleen technische vaardigheden te onderwijzen, maar ook ethische reflectie te stimuleren. Niet om studenten een ‘juist’ antwoord te geven, maar om een veilig leerklimaat te creëren waarin verschillende perspectieven naast elkaar mogen bestaan.
Tegelijkertijd zijn deze gesprekken voor mij ook een leermoment. Ze geven inzicht in hoe een nieuwe generatie kijkt naar verantwoordelijkheid, werk, loyaliteit en rechtvaardigheid. Of er een verschuiving plaatsvindt in het morele kompas van onze samenleving weet ik niet, maar dat die gesprekken nodig zijn, staat voor mij buiten kijf.
Als algoritmen een steeds grotere rol spelen in ons dagelijks leven, dan moeten we studenten niet alleen leren hoe ze die systemen bouwen, maar ook wanneer ze moeten ingrijpen, en waarom.
Ethiek is daarmee geen extra hoofdstuk in het curriculum, maar een essentieel onderdeel van goed onderwijs in een datagedreven samenleving.
Hassan Alaoui is docent en onderzoeker aan de Hogeschool Rotterdam. Zijn onderzoek bij het Kenniscentrum Business Innovation speelt zich af op het snijvlak van data, onderwijs en maatschappelijke impact. Hij geeft les aan de opleiding business IT & management onderwijs in onder andere Data Science en machine learning.
Illustratie: Demian Janssen
Profielen is ook actief op LinkedIn. Volg ons, blijf op de hoogte en praat mee over actuele onderwerpen.
De redactie waardeert het als je onder je eigen naam reageert.
Lees hier alle details over onze spelregels.
Zo mee eens! Daarom is ‘Responsible AI’ in het curriculum van de opleiding ADS&AI de rode draad en een aparte competentie. Dit zorgt ervoor dat het altijd bij beoordeling wordt meegewogen of er goed naar ethische afwegingen, gevolgen voor mens, maatschappij en omgeving zijn beschouwd. En, dat in de verdere ontwikkeling van deze nieuwe bachelor het niet makkelijk is om deze kant van het vak buiten beschouwing te laten, ten gunste van meer tijd voor de technische vaardigheden. Essentieel denken wij …
Bedankt voor deze ingezonden brief Hassan. Helemaal eens met wat jij schrijft.
Het concrete voorbeeld van het algoritme dat door de belastingdienst werd gebruikt en een van de oorzaken was van die vreselijke toeslagencrisis, gebruik ik steeds in mijn lessen over AI. Hopelijk hebben we samen uit dit drama zoveel geleerd dat voortaan vooral zelf nadenken en controleren wat een systeem doet, voordat dit tot verkeerde uitkomsten leidt.
En inderdaad: Ethiek is in dat opzicht geen apart hoofdstuk – maar de leidraad!
Dank voor het delen van je ervaring Hassan! je verhaal is denk ik een mooi voorbeeld van hoe complex de beroepspraktijk is geworden (of misschien was die altijd al zo complex, maar zijn we door de toegenomen transparantie daar bewuster van geworden).
Docenten moeten, naast dat ze studenten soms iets moeten leren wat ze zelf ook nog aan het leren zijn, ook in toenemende rekening houden met “hoe” die kennis of technologie gebruikt wordt. Waar ethiek vroeger een vak was wat opvulling was voor een curriculum is het nu verweven in bijna elke beroepstoepassing.
Het roept ook vragen over hoe we als Hogeschool in deze ontwikkeling staan. Want via ons leren studenten met technologie omgaan (en als we het helemaal negeren leren ze het wel ergens anders). Hoe houden we zelf (een waardegedreven) koers?
Ga ook eens kijken naar de fantastische ontwikkelingen op dit gebied in ons CMI-Datalab. Collega’s Rachid de Graaff (inmiddels bij RBS), Alexander en Steven Slaa en beheerder Rick ter Wal hebben allerlei tools, met guardrails (hulpmiddelen om te zorgen dat je AI binnen vooraf gestelde grenzen beweegt) voor en met AI gemaakt op een ‘responsible’ manier. In huis, in een besloten omgeving, waar je, zonder dat big tech over je schouder meekijkt, waardevolle ervaring met AI kunt opdoen. Zij kunnen het zelf veel beter uitleggen, maar ik vind dat ze best wel in het zonnetje mogen staan hiervoor. Ook voor de enorme toewijding (en vrije tijd) die ze hierin hebben gestoken laat vakmanschap en toewijding aan hun vak zien.
Waardoor het nu ook op grote schaal in de dagelijkse praktijk in de klas kan worden ingezet. 3,5 jaar geleden gestart, en dit is pas het begin…
Dank voor alle mooie en inhoudelijke reacties. Wat mij hierin raakt, is het gedeelde besef dat ethiek geen apart hoofdstuk meer is, maar een leidraad in hoe we studenten voorbereiden op een steeds complexere beroepspraktijk.
De voorbeelden uit het onderwijs, Responsible AI, de toeslagenaffaire en de initiatieven binnen het CMI-Datalab laten zien dat dit gesprek op veel plekken leeft. Voor mij begint het vooral in het klaslokaal: door ruimte te maken voor dialoog, twijfel en verantwoordelijkheid, en studenten te laten ervaren dat professioneel handelen ook moreel handelen is.
Mooi om te zien hoe dit breed wordt gedragen. Laten we dit gesprek blijven voeren en elkaar daarin versterken.