| 
|
De rubriek Ingezonden biedt ruimte aan verschillende geluiden binnen de Hogeschool Rotterdam. De opinies in de ingezonden brieven reflecteren niet noodzakelijkerwijs de mening van de redactie.
In dit essay of ‘academische blog’ beargumenteert docent en onderzoeker Felix van Hoften (RBS) dat AI schadelijk is voor de planeet, de samenleving en het onderwijs. Hij is kritisch op de deterministische houding over AI – ‘het is er nu eenmaal, we kunnen er niet omheen’- binnen de Hogeschool Rotterdam. Hij pleit ervoor een stap terug te doen en eerst kritisch na te denken hoe we genAI willen inzetten.
Felix van Hoften (RBS) roept in zijn essay de Hogeschool Rotterdam op om kritischer te kijken naar generatieve kunstmatige intelligentie (genAI). Hij beargumenteert dat door een groot aantal nadelen van genAI uiteen te zetten.
Hij haalt Aldous Huxley aan, de schrijver van Brave New World. Huxley voorspelde in zijn boek uit 1932 hoe technologie kan leiden tot verslaving, verlies van kritisch denkvermogen en afhankelijkheid van een kleine elite. Van Hoften ziet deze ontwikkeling terug in de manier waarop genAI wordt omarmd: deterministisch en weinig terughoudend, ‘het kan niet anders’.
GenAI wordt vaak gepresenteerd als een oplossing voor grote problemen (zoals klimaatverandering, economische groei en ongelijkheid); Van Hoften plaatst hier kanttekeningen bij en wijst bijvoorbeeld op onderzoek dat aantoont dat AI werk juist intensiveert en mensen geestelijk uitput.
Van Hoften gaat ook kritisch in op de ecologische impact van genAI, met de bijbehorende datacenters, energieverbruik, watergebruik en grondstoffenwinning. Deze groei legt extra druk op het milieu en kan de energietransitie ondermijnen.
GenAI levert daarnaast onderbetaalde arbeid op zoals content-moderatie in lage-inkomenslanden die neokoloniale verhoudingen versterkt.
De winst van AI komt ondertussen vooral terecht grote techbedrijven, wat ongelijkheid kan vergroten en afhankelijkheid versterkt. Daarbij is de ideologie van een aantal techbazen verontrustend, bijvoorbeeld antidemocratisch.
Van Hoften betoogt dat genAI schadelijk kan zijn voor kritisch denken en daarmee voor het onderwijs. Onderzoek suggereert dat intensief gebruik van genAI leidt tot minder cognitieve ontwikkeling, oppervlakkig leren en uiteindelijk afhankelijkheid van technologie. Studenten verliezen mogelijk het vermogen om zelfstandig te denken, diep te lezen en complexe problemen te begrijpen. De gezamenlijke kennisbasis neemt af, en het vermogen problemen op te lossen dreigt af te nemen.
Dit staat haaks op de kerntaken van onderwijsinstellingen, zoals het bevorderen van kritisch denken, autonomie en burgerschap. Het staat ook haaks op de visie van de Hogeschool Rotterdam die naar eigen zeggen een kritische, onderzoekende houding bij studenten en docenten wil stimuleren.
De auteur pleit om genAI op de HR kritisch te benaderen en niet vanuit de visie: ‘het is er nu eenmaal’. Van Hoften betoogt dat innovatie in dienst moet staan van samenleving, moet passen binnen planetaire grenzen en aandacht moet hebben voor welzijn, rechtvaardigheid en democratie. Zolang genAI daar niet aantoonbaar aan bijdraagt, moet de samenleving, en zeker het onderwijs, terughoudend en kritisch blijven.
In 1932 publiceerde Aldous Huxley zijn befaamde boek A brave new world. Deze dystopische toekomstroman beschrijft hoe het denkvermogen van mensen is platgelegd door de volledige omarming van en verslaving aan technologie. Huxley’s werk wordt de laatste tijd vaker aangehaald om onze tijd te duiden. Zo weeft Paul Schenderling in zijn nieuwe boek Continent van de kwaliteit zijn werk als leidraad voor een nieuw economisch paradigma. Ander werk van Huxley, De Tijd van oligarchen, heeft ook weer aandacht gekregen. Sterker nog, het is opnieuw uitgebracht door meesterverteller Bas Heijne.
Dit is geen toeval. De combinatie van deze twee profetische werken zijn een spiegel voor onze tijd. Huxley voorzag (90 jaar geleden!) de combinatie van entertainment, desinformatie, verslaving en het verlies van kritisch denkvermogen, met als gevolg een afhankelijkheid van een kleine groep ‘ondernemers’, als voorbode van het eroderen van het autonome en goede leven.
Is de laatste telg van de technofamilie: generatieve kunstmatige intelligentie, kortweg genAI, de samenloop van innovatie die Huxley voorzag? Dit essay bekijkt, door de lens van Huxley, hoe genAI onze wereld gaat beïnvloeden en specifieker ons onderwijs. Want is er een wereld mogelijk, waarin kritisch denken, autonomie, welzijn, verantwoordelijkheid en rechtvaardigheid bestaat én waarin AI is doorgedrongen tot elk haarvat van onze samenleving? Ik betwijfel het.
Als we the Economist, het Financieele Dagblad en allerlei tech-optimisten mogen geloven, is genAI dé messiaanse technologie: klimaatproblematiek wordt opgelost, de economie gaat groeien en, volgens musicus en tech-ondernemer Will.I.Am, gaat AI zelfs ongelijkheid oplossen. GenAI verhoogt arbeidsproductiviteit, we kunnen saai werk uitbesteden en ons concentreren op taken die leuk zijn. We moeten we er allemaal aan, want dit is dé toekomst voor iedereen. De positiviteit rondom AI groeit hand in hand met zijn alomtegenwoordigheid.
Dit debat verloopt vergelijkbaar als andere technologiedebatten. Nadat eerst Big Tech-ondernemers euforie roepen en gezaghebbende bladen en opiniemakers hun plasje hebben gedaan, staan nieuwbakken AI-consultants en andere ‘experts’ te springen om hun verhaal te doen. Vaak zijn dit deterministen: ‘’De technologie is er nu eenmaal, dus je moet maar gewoon mee.’’ Een Thatcheriaans there-is-no-alternative opvatting. Dat dit een invalide argument is, beschreven Rob van der Rijt en ik in het academische blad Real-world Economic Review, want dan zouden we alles wat bedrijven ontwikkelen maar moeten accepteren? Gelukkig zijn we niet zo naïef geweest met asbest, röntgenstraling, en de duizenden chemische stoffen die inmiddels zijn verboden in de EU, en hebben we er paal en perk aan gesteld.
Dit argument negeert daarnaast een veel belangrijkere vraag: wat is het doel van technologie en innovatie? Innovatie-onderzoeker Mario Pansera vraagt dit ook in zijn boek Post-growth innovations af en komt tot drie doelen: een probleem oplossen, welzijn bevorderen of het aanpakken van vormen van ongelijkheid en onrechtvaardigheid. Gaat genAI één van deze doelen bereiken?
Laten we de belofte van verhoogde arbeidsproductiviteit bekijken. Een andere groep technoverdedigers, de productivisme-optimisten, stelt dat we arbeidsproductiever worden en zo minder hoeven te werken, of saaie klussen kunnen uitbesteden aan het algoritme. Onderzoekers van Harvard hebben gekeken naar deze claim, en stellen ondubbelzinnig: AI Doesn’t Reduce Work, It Intensifies It. Mensen nemen meer taken op zich, doen werk waarvoor ze niet zijn getraind en werken vaker buiten werktijden. Het gevolg: cognitive fatigue, burnouts en lagere kwaliteit werk. Ander onderzoek bevestigt dit: e-mailtijd verdubbelt, chatgebruik stijgt met 145% en diepe focus op werk verminderde. Sommige onderzoekers zien zelfs een vorm van, wat zij noemen, Brain fry[1]. Werknemers ervaren grote vermoeidheid door te veel genAI gebruik omdat onze cognitieve capaciteit wordt overschreden. We werken meer en raken nóg vermoeider. Niet verstandig in een samenleving die al hypernerveus is.
Maar er is ook iets anders aan de hand. En om dat te duiden moeten we theorie lenen uit de ecologische economie. Deze toename van werk komt door een fenomeen dat we de Jevons Paradox noemen. Jevons, econoom, beschreef in 1865 dat efficiënter gebruik van middelen – wat een kostenbesparing oplevert – zal leiden tot een groter gebruik van dat middel, omdat het goedkoper wordt. Dit fenomeen zien we overal in onze economie: vliegen, koelen, verlichting, energiegebruik, en ook in de (digitale) diensten. De introductie van digitale tools om efficiënter te werken, heeft het tegenovergestelde effect: in plaats van de werklast te verminderen, wordt die juist meer. We zien dit ook bijvoorbeeld in gezondheidszorg. GenAI bevrijdt ons niet van taken, het frituurt ons brein, omdat de agenda te vol zit, te vol om te herstellen.
Er is nog een domein waar herstel cruciaal is. Onze leefomgeving. De productivisme-optimisten zijn ook op dit terrein zelfverzekerd. Zij stellen, dat genAI onze economie duurzamer gaat maken. Zakenbladen zoals Forbes en Bloomberg zien de toekomst zonnig tegemoet. Om dit beter te begrijpen moeten we ook hier een systemische bril uit de ecologische economie opzetten: het principe van sociaal metabolisme.
GenAI is niet alleen het appje op je telefoon of de chatbot in je browser, maar álle stromen van energie, grondstoffen en arbeid die verwerkt zitten in de totale supply chain. GenAI is niet alleen software, maar een infrastructuur. De laptops, smartphones waarop we genAI gebruiken draaien op computerchips die gefabriceerd worden via een extreem complex en wereldwijd verspreid productieproces. Daarbij komen honderden ketens samen waarin zeldzame metalen worden gewonnen, componenten worden geproduceerd en systemen worden geassembleerd. Op de achtergrond draaien gigantische datacenters in enorme, vaak anonieme gebouwen volgestouwd met servers in stalen racks. Die datacenters draaien niet ‘in de cloud’, maar op fysieke energie-, water- en arbeidssystemen. Uiteindelijk loopt die hele keten door tot in ons huis: door glasvezel- en koperen kabels onder de grond, via wifi-signalen tot aan het scherm in je hand. Het voelt als een lichtgewicht digitale interactie, maar is in werkelijkheid het eindpunt van een intensief wereldwijd metabolisch systeem.
Onderzoeker Ed Conway ziet geen cloud, hij ziet een groeiend netwerk van mijnbouw van kritische grondstoffen, logistiek, energie, arbeid en kapitaal. En dit systeem blijft groeien. Zo bouwen we in Nederland aan zeven megadatacentra; wereldwijd zien we eenzelfde ontwikkeling. Omdat deze datacenters enorm veel energie gebruiken, zal (een deel van) onze energietransitie worden opgeslokt om genAI te faciliteren.
Daarnaast is het jaarlijkse waterverbruik van genAI nu al even groot als de hoeveelheid die per jaar in flessen wordt verkocht. Big Tech-bedrijven, ooit voorlopers in emissiereductie, hebben stilletjes hun CO2 doelen op pauze gezet of zelfs stopgezet.
Ook deze technologie gaat leiden tot achteruitgang in onze leefomgeving, bijvoorbeeld het verlies van plant- en diersoorten die nooit meer terugkomen. Mijnbouwgroei is nu al één van de redenen waarom we grote stukken oerbos aan het slopen zijn. Een van de bekendste AI-onderzoekers ter wereld, Kate Crawford, is bang dat de groeiende AI-slop onze ‘toekomst opvreet’. Waar willen we energie en grondstoffen eigenlijk voor gebruiken: AI-troep of algemeen welzijn?
Het metabolistische perspectief opent ook andere denkdeuren. Er is namelijk veel arbeid nodig om onze genAI systemen aan de praat te houden. Zo moet toch iemand content en context controleren en modereren. Medemensen in Oost-Afrika beoordelen expliciet gewelddadige, of erger, content, met als gevolg psychisch trauma. En dit gebeurt, weer, onderbetaald[2]. Onderzoekers in een snel groeiend onderzoeksveld noemen dit AI-kolonialisme; een onrechtvaardigheid waar mensen nauwelijks van op de hoogte zijn.
Ook op macroniveau versterkt genAI neokolonialisme. Zo reproduceren AI-modellen WEIRD (Western, educated, industrialized, rich and democratic) standpunten, zelfs als ze expliciet worden geïnstrueerd dat niet te doen. De werking van het sociaal metabolisme vergroot de druk op goedkope rare earth metals die tegen veel te lage kosten worden gemijnd, en waardoor neokoloniale relaties blijven bestaan en zelfs worden versterkt.
Kolonialisme vindt niet alleen in de fysieke wereld plaats, maar ook in onze meta-fysieke. In Huxley’s Brave new world krijgen baby’s elektrische shocks als ze een boek zien. Zo worden ze geconditioneerd om bang te zijn voor kennis.
GenAI is ons denken en onze autonomie aan het beïnvloeden met niet te negeren consequenties voor het hoger onderwijs. Als hoger onderwijs en onderzoeksinstelling zou je zeggen dat wij hiervan tot in detail van op de hoogte zijn, dat we genAI kritisch bekijken en niet naïef normaliseren of zelfs actief verkopen aan de jonge leiders van de toekomst. Want, wat zijn wij als onderwijsinstelling? Waar leiden we voor op? Onze net gepubliceerde Impact Agenda: talent voor transitie zet onder meer ‘toekomstbestendigheid’, ‘duurzaamheid’ en ‘rechtvaardigheid’ centraal. Als we dit serieus nemen, moeten we minimaal het bovenstaande ecologische en neokolonialistische perspectief verwerken in onze curricula. De Strategische Agenda stelt: ‘We ontwikkelen een kritische, onderzoekende houding bij studenten en docenten, die vraagstukken vanuit meerdere perspectieven benaderen’ (p.14). Top, een instelling die kritisch denken op een voetstuk plaatst. Maar hoe is de onderzoekende, kritische houding te vergoelijken met de argeloze explosie van genAI in onze curricula?
Want dat laatste is misschien wel de grootste crux van dit verhaal. We weten uit onderzoek van Massachusetts Institute of Technology dat studenten die regelmatig genAI inzetten, minder breinverbindingen aanmaken en dat het lees- en analytisch vermogen negatief beïnvloedt. Er is kritiek op dat onderzoek, zo is er bijvoorbeeld een zeer kleine onderzoekspopulatie gebruikt. Maar het is zeker niet het enige onderzoek dat verontrustende resultaten laat zien. Als AI-normalisatie in het onderwijs doorzet, kunnen studenten steeds minder zelf denken, zich authentiek uitdrukken en andere perspectieven zien.
De overtreffende trap van de gefrituurd brein hypothese is, cognitive surrender, breinovergave of AI-onderwerping, zoals onderzoekers in deze paper het noemen. Zij claimen dat er langzaam een derde manier van denken aan het ontstaan is naast Kahnemans systeem 1, snel en automatisch denken, en systeem 2, diep en bewust denken. Systeem 3: niet meer denken. Hoogleraar Erik Scherder concludeert dit ook in zijn boek Liever moe: ‘AI staat voor afnemende intelligentie. Heel simpel gezegd: generatieve AI leidt ertoe dat je je hersenen minder gaat gebruiken’.
Hoogleraar van Baalen stelt dat inspanning, twijfel en mentale herstructurering noodzakelijk zijn voor duurzame kennisopbouw. De momenten waarop studenten moeten worstelen met de stof zijn essentieel. ‘No pain, no gain.’ Roxanne van Iperen beschrijft skim reading: We lezen tekst vluchtig zonder het op te nemen. We raken het vermogen tot deepreading kwijt en daarmee het diep begrip van complexe ideeën. Studenten hebben wellicht een oppervlakkig antwoord op de vraag van een docent, maar ze zijn niet in staat die kennis ergens anders te gebruiken.
Zelfs techoptimisten van de blog MT/Sprout beginnen zich te roeren. Door genAI begin je namelijk steeds meer op je collega en medestudent te lijken. Hoe zit dat? Wat CHATGPT voor jou bedenkt, bedenkt hij voor iedereen. ‘Als elk denkpatroon uit een robot komt, wie ben jij dan nog?’, schrijft Laura Borghols in een artikel in Trouw. Van Iperen pakt het nog een stapje verder. Zij vergelijkt de mens met een fruitvlieg die instinctief van vrucht naar vrucht hopt. Als we niet meer hoeven te denken, wat is de mens dan nog?
Daarnaast hebben we als instelling ook een pedagogische rol. Jonge mensen groeien op in onze klas, naar een hopelijk nieuwsgierige en geïnformeerde burger. Een duidelijke doelstelling van de RBS betekeniseconomie, gebouwd op de basis van Gert Biesta. Ook hier moeten we alert zijn. Veel genAI gebruik kan leiden tot emotionele groei-achterstand, door een consequentie die wordt aangeduid als social offloading. Het uitbesteden van ongemak en onzekerheid aan een chatbot, die wél weet hoe je moet reageren, als je ruzie hebt met je vriendin, collega, of medestudent. Dit kan gevoelens van eenzaamheid en isolatie versterken en zal ‘veerkracht’ zeker niet doen toenemen. Het naar de mond praten, ‘Wat een goede vraag Felix, zo had ik het zelf nog niet bekeken’, door AI-chatbots kan leiden tot psychoses, overmatige zelfbevestiging en een afname aan cognitieve flexibiliteit.
Dat we de deterministen (’het is nu eenmaal zo’) pedagogisch niet serieus moeten nemen verwoordt Ilyaz Nasrullah goed in Trouw: ‘Vervang de term “AI gebruiken” door “sigaretten roken” en het wordt direct duidelijk hoe onzinnig het argument …. is: “Scholieren roken toch wel sigaretten, het is daarom beter om ze te leren die op de juiste manier te roken.” Dat jongeren “toch wel” AI gebruiken, betekent natuurlijk niet dat dat ook goed voor hun ontwikkeling is.’
Als je sinds je middelbare school al je denkwerk hebt uitbesteed aan een genAI en op de hogeschool ook, dan verlies je het vermogen om kritisch te kunnen denken, je probleemoplossend vermogen en databegrip. Dan zullen doelen uit de strategische agenda onder druk komen te staan. ‘Veerkracht’, één van de doelen uit de agenda is namelijk verbonden met autonomie door agency. Het gevoel hebben dat je de wereld begrijpt en invloed kan hebben.
Want een minimaal begrip van de wereld is belangrijk in de interpetatie van diezelfde wereld. Nobelprijswinnaar Daron Acemoglu theoretiseert en berekent dat genAI-gebruik op macro-schaal een bizar sneeuwbaleffect kan veroorzaken: een knowledge collapse. Als individuen meer op AI vertrouwen, dan is er een kans dat het leerprikkels, experimentatie en cognitieve kwaliteiten beïnvloedt. Omdat kennisvorming vaak een bijproduct is van deep learning en het experimentele leerproces, kunnen we die kennis inzetten om problemen op te lossen. Door genAI zijn we steeds minder aan het experimenteren, en komt er geen kennis meer bij als bijproduct én snappen we het probleem steeds minder, waardoor we eerder geneigd zijn om genAI weer in te zetten om het te begrijpen. Met als gevolg….Een positieve feedback loop uit de system sciences.
Dat kan leiden tot een knowledge collapse, waar we uiteindelijk de simpelste processen niet meer begrijpen, omdat we die uitbesteed hebben. Filosoof Lisanne Bainbridge noemt dit de ironie van automatisering. Hoe beter een technologie menselijke taken overneemt, hoe minder goed we de basis van technologie begrijpen en minder goed problemen kunnen oplossen. Als het dan misgaat, gaat het ook goed mis. Siri Berends en Lisa Doeland beschrijven dit in de Groene Amsterdammer: ‘Doordat ik de makkelijke delen van het werk niet meer beoefende, werd ik ook minder goed in de lastigere delen van het werk’. En misschien gaat Lisa nog een stapje verder. Deze filosoof vreest ook doordat we steeds minder zelf iets maken, we ook vertrouwen verliezen in onszelf.
In Nederland wordt AI in het onderwijs onkritisch genormaliseerd en ingevoerd. Dit is de titel van een open brief van 1700 wetenschappers en bezorgde burgers aan universiteiten en hogescholen. Ook zie ik dit – met enkele uitzonderingen – op onze hogeschool. AI-trainingen worden aangeboden aan medewerkers zonder dat het genoeg kritisch wordt ingelijst. Ook aan de andere kant van de plas zie je dezelfde normalisering en daaropvolgende reacties: universiteiten adopteren de technologie onkritisch en weinig transparant.
De normalisering van AI in onderwijsinstellingen leidt tot een curieuze paradox. De heilige graal van onderwijs, plagiaat, wordt langzaam onze achilleshiel. Want genAI is de grootste plagiaatmachine die de mens ooit heeft verzonnen. Vrijwel alle genAI apps worden getraind door het plunderen van archieven, teksten en afbeeldingen, gemaakt door artiesten, tekenaars, ontwerpers, fotografen, schrijvers en onderzoekers, zonder toestemming, zonder verwijzing en zonder compensatie. Dat is geen innovatie, maar extractie.
AI is de toekomst dus. Als een technologie ons leven diep gaat beheersen dan is het cruciaal te analyseren wie er baat bij heeft. In de betekeniseconomie duiden we dit met de term cui bono geleend van onderzoeker/schrijver Sjors Roeters. Want in de kern is dit ook een politiek-economisch vraagstuk.
De bekendste econoom van de 20e eeuw, John Maynard Keynes, voorspelde in de jaren 1930 dat door arbeidsproductiviteitsverhoging mensen in de 21e eeuw nog maar 14 uur per week zouden werken. Dit is niet gebeurd, onder andere omdat we de baten van ons economische proces niet ten behoeve van de arbeiders- en middenklasse zijn gaan inzetten, maar ten behoeve van een kleine bovenlaag Zeker in de laatste veertig jaar hebben we de neoliberalistische ideologie in Nederland stevig omarmd. Gaat AI Keynesiaans functioneren, of zal zoals Huxley voorspelt de ongelijkheid nóg verder doen toenemen?
Relax, zegt de derde groep AI-verdedigers, de naïeve productivisten, er komen banen bij, net als toen de auto op de markt kwam, of de pc. Het lijkt mij echter naïef om de stortvloed aan rapporten te negeren die stellen dat AI de middenklasse gaat slopen, zoals dit rapport, of dit, of dit. We zien al dat bedrijven mensen ontslaan omdat genAI goedkoper is en er zijn vooral zorgen over kantoorbanen op bachelor afstudeerniveau.
Werk kan ook minder betekenisvol worden. Mijn buurman, een programmeur, vertelde me dat de magie van zijn werk is verdwenen. De creatieve taken heeft genAI overgenomen en hij controleert alleen nog maar. Tekstschrijvers, communicatiemedewerkers, ontwerpers en filmmakers geven hetzelfde aan.
De genAI levert inmiddels ook echte foute ‘innovaties’. Met Meta glasses en Grok kun je van iedereen een foto nemen, uitkleden en alles mee doen zonder toestemming. Barbie gaat bijna haar genAI doll lanceren. In plaats van buiten te spelen gaan kinderen spelen met poppen waar de beste vriend een statistisch algoritme wordt in een plastic omhulsel met een te kleine taille. De next frontier in oorlogsvoering is natuurlijk ook genAI,
De Big Tech-ondernemers zien AI natuurlijk als onvermijdelijk en nodig. Onderzoeker Daniel Mügge van de UvA draait er in zijn net gepubliceerde boek de AI matrix niet omheen. Het is een misvatting dat technologie een neutrale tool is die mensen op een ‘goede’ of ‘verkeerde’ manier kunnen gebruiken. Dit schrijft ook Thomas Dekeyser in het boek Techno-negative. Elke technologie heeft inherente eigenschappen die, los van hoe je het gebruikt, problematisch kunnen zijn voor mens, natuur en samenleving.
Mügge ziet bij de vormgevers van genAI een ideologie met vier hoofdingrediënten: onkritisch techno-solutionisme waar sociale problemen kunnen worden opgelost met een app, morele superioriteit (tech-ondernemers weten wat goed is voor iedereen), een diep wantrouwen van overheidsactiviteiten en tot slot een anti-mens mindset waar geld verdienen menselijk lijden kan legitimeren.
Sommige Big Tech-ondernemers zoals Peter Thiel vinden de democratie een achterhaald concept. Dekeyser vraagt zich daarom af: in een wereld waar Big Tech steeds meer verweven is met autoritarisme, moeten we ons de vraag stellen, waar leidt technologie eigenlijk toe? En dan komen we weer terug bij de onderzoeker Mario Pansera. Hij stelt dat technologie een middel kan zijn om macht en middelen te concentreren bij een kleine groep.
We accepteren deze technologie geluidloos, maar beseffen we dat het ons economisch afhankelijk gaat maken van een kleine groep mensen aan de andere kant van de plas? Piketty liet in 2014 al zien dat ongelijkheid het belangrijkste probleem van onze tijd is. Deze ontwikkeling zal dit alleen maar versterken. Want we gaan afhankelijk worden van diegene die deze technologie bezit. En afhankelijkheid is de vijand van autonomie, de onafhankelijkheid om ons leven vorm te geven.
Zou onderwijs niet een krachtig tegengeluid moeten laten horen, zoals Paulo Freire al beschreef in zijn Pedogagie van de onderdrukten? Ook onderwijs is nooit neutraal. Het is een instrument om macht in stand te houden of om mensen te bevrijden.
Het eerder genoemde Harvard-onderzoek stelt dat we minimaal moeten inzetten op minder genAI, meer pauzes en actiever met mensen connectie maken. Bizar dat dat we dat op papier moeten gaan zetten. Connectie maken is wat ons mens maakt.
Daarnaast kunnen we in mijn optiek minimaal transparanter en completer gaan communiceren richting onze collega’s en studenten over de complicaties van genAI. Misschien kunnen we een genAI disclaimer toevoegen aan onderwijsactiviteiten, of aan de edu-genAI versie die we wellicht als hogeschool gaan gebruiken?
Leidende instituten maken een pedagische en didactische draai. Ze worden weer old school. Print, minimaal laptopgebruik en directe instructie met docenten. Kinderen van tech-ondernemers gaan naar deze scholen. Als we niet opletten wordt denken voor een heel klein groepje mensen, aldus Lubach over het onderwerp. Zit de échte toegevoegde waarde van het onderwijs niet in jonge mensen leren denken? En is dit niet een betere manier om ons als instituut te onderscheiden?
En sure, sommige onderzoekers zien dit anders. Ik zie ook wel dat in de gezondheidszorg genAI echt waarde kan toevoegen. Maar dan moet dit wel gericht gebeuren, binnen duidelijk kaders. Toen de röntgenstraling in 1895 werd ontdekt, richtte men het werkelijk op alles. Totdat het gevaar duidelijk werd. Nu gebruiken we het alleen voor toepassingen die er toe doen en met mate. Zitten we nu op het equivalent van 1885, we richten AI maar op alles, en negeren de nadelen?
Innovatie moet uiteindelijk met Huxley’s woorden, in dienst van de samenleving staan en niet alleen in dienst van de zakken van een paar ondernemers. Dat schrijven Rob en ik ook in Real-World Economist Review. Wij hebben vier pilaren omschreven waar algemene innovatie aan zou moeten voldoen:
1 – Het moet passen binnen planetaire grenzen.
2 – Het moet welzijnsverhogend zijn.
3 – Het moet rechtvaardigheid versterken.
4 – Het moet bijdragen aan de kwaliteit van de democratie.
Als genAI hieraan gaat bijdragen dan wil ik mee. Maar laat me eerst bewijs zien, voordat we dit in alle lagen gaan normaliseren. En dan blijft nog steeds: ik vind zelf denken zo leuk!
Het is geen defaitistisch, deterministisch gegeven. Wij hebben invloed op deze technologie. Als maatschappij, als onderzoeks- en onderwijsinstelling, en als individu. We kunnen beslissen dat we mens zijn en onderdeel van de samenleving. En dan moeten we ons veel vaker de vraag stellen: wat is het doel van technologie en innovatie? En gaat het ons leven verbeteren? Hopelijk kunnen we de lessen van Huxley gebruiken om genAI te weerstaan en ons simpele mensbrein te beschermen tegen naïef techno-optimisme, kritisch denkvermogenverlies en autonomie-inperking.
Als iedereen vol gaat op AI, moeten wij, de HR, dan niet het tegenovergestelde doen? Op deze hogeschool kun je wel écht leren, een eigen stem ontwikkelen, kritisch nadenken en betekenisvol ondernemen voor een betere toekomst. Gaan we, zoals Bas Heijne stelt in de heruitgave van Huxley, onze onderwerping hartstochtelijk omarmen? Of gaan we kritisch inkaderen hoe ons onderwijs eruit moet zien? Een speciale HR-taskforce zou dit eerst moeten gaan onderzoeken.
Bedankt voor het lezen.
Felix van Hoften, onderzoeker-docent HRO en Universiteit van Amsterdam
Naschrift
Dit waarschuwingsdocument is niet hyperbolisch. Het is een verzameling van bekende kennis. Daarnaast is het old school. Onderzocht, opgeschreven en geredigeerd door een mens (met een hart). Meer info? Check Against AI, Pause AI en The Algorithmic Justice Lead
De redactie waardeert het als je onder je eigen naam reageert.
Lees hier alle details over onze spelregels.
Fantastisch essay. Een eyeopener pur sang. Dank u wel voor het delen.
Bedankt voor het schrijven van dit stuk, Felix. Ik heb het met veel interesse gelezen.
Ik ben het in grote lijnen met je eens. Zelf gebruik ik helemaal geen GenAI (niet bewust, althans). Ik mis het totaal niet en ik heb ook niet het idee dat ik achterloop op anderen. Maar ik voel wel de druk om ook mee te gaan doen. En soms slaat de angst om mijn hart: wat nou als ik straks alleen nog mee kan doen aan het maatschappelijke verkeer als ik AI gebruik?
We zouden veel kritischer moeten zijn. AI is niet neutraal. Niet in de politiek-economische constellatie waarin we nu zitten, waarin anderen dicteren hoe de wereldorde eruit moet komen te zien en wij toch nog steeds blijven geloven – zo lijkt het althans – dat onze individuele keuzes bepalen of iets goed is voor ons of niet.
Ik ben toch bang dat het net als met het klimaat gaat: we weten eigenlijk prima hoe het zit. We hebben genoeg kennis en tóch blijven we gewoon doen wat we doen.
He Corstin, thanks voor je reactie, fijn.
Ik ben het denk ik met je laatste eens. Maar binnen de Hogeschool kunnen we hier natuurlijk wel iets aan doen. In gesprek met studenten en docenten over minimaal de ecologische en neokolonialistische voetafdruk en wat het doet met ons kritische brein.
Dank je wel Felix, fijn dat je dit hebt ingestuurd. Ik hoop dat het veel gelezen wordt en dat we het met elkaar hierover hebben in de hogeschool, binnen alle lagen, diepgaand en structureel.
Wat een goed stuk, Felix! Dank en met veel interesse gelezen. Ik maak mij hier nl. ook grote zorgen over als ik naar mijn studenten van de techniche opleidingen hier kijk. Als docent Engels is Brave New World van Aldous Huxley mij niet onbekend en heb ik ook al langer visioenen (of eigenlijk nachtmerries) dat we naar een wereld toe gaan zoals daarin beschreven, met de macht bij de Tech Bros. Hopelijk komen we toch tot inkeer…
Zeer intersant essay Felix! Fijn dat er steeds meer kritische geluiden t.a.v. AI worden geschreven. Vorig jaar heb ik samen met een collega onderzoek gedaan naar het AI gebruik van studenten binnen de RBS en de eerste resultaten liegen er niet om; onze studenten gebruiken genAI voor het uitbesteden van het denkwerk. Even wat letterlijke quotes:
“Voor mijn eerste fotoshoot had ik geen idee wat ik moest doen, wat ik moest voorbereiden, wat ik nodig had. Dus vroeg ik aan ChatGPT: hoe organieer ik een fotoshoot?” ~Aldus een student met een eigen bedrijf.
“Met ChapGPT, kun je gewooon je situatie of opdracht uitleggen en dan, bijvoorbeeld, vragen wat zou Elon Musk doen? Op die manier krijg je advies van verschillende ondernemers.” ~ Aldus een student uit jaar 3
“Soms vraag ik ChatGPT naar trends in …. sector, en dan weet ik wat er speelt. Dat geeft me zo veel nieuwe inzichten.” ~ Aldus een student uit jaar 3
“Ik upload mijn notulen in ChatGPT en vraag dan om een shortlist van alles wat mijn klant van mij wil. Het produceert dan een complete lijst, welke ik weer snel scan om te checken of alles wat we hebben besproken er wel op staat.” ~Aldus een student met een eigen bedrijf.
In totaal hebben mijn collega en ik twaalf Common Use Cases gevonden, twaalf manieren waarop onze studenten AI gebruiken (en het gaat veel verder dan “herschrijf deze tekst”). En hoewel zeker niet alle studenten hun denkwerk ‘uitbesteden’, zien we wel een duidelijk patroon waarin studenten niet vertrouwen op hun eigen cognitieve vermogen, maar liever op dat van AI.
De effecten daarvan zie ik zelf nu vooral bij het afstuderen…
Dit artikel zet mij wederom aan het denken over de vragen: hoe zorgen we voor kwalitatief hoogwaardig onderwijs, hoe helpen we onze studenten zich te ontwikkelen tot kritische denkers en hoe gaan we om met de technologische ontwikkelingen waarvan we ook de schaduwzijde ervaren als we eerlijk zijn. Het is zo belangrijk dat we ons niet blind staren op de zogenaamde voordelen van technologie, maar kritisch blijven kijken naar de betekenis op korte en zeker ook voor de lange termijn. Of je nou voorstander bent, kritisch bent of worstelt met dit vraagstuk, laten we ruimte creëren voor het eerlijke gesprek en breng de verschillende inzichten samen voor sterk onderwijs voor de toekomstmakers. Dank wederom voor je scherpe inzichten Felix!
Goed stuk Felix, mooi op een rij gezet waarom we kritische kaders nodig hebben. Ook ik maak me er zorgen over…vooral ook omdat studenten bij de RBS nog maar zo weinig naar de lessen komen.
Spot on! Pijnlijk, maar goed om hier kritisch op te reflecteren.
Ik sla aan op de kanttekening van Jill hier: “vooral ook omdat studenten bij de RBS nog maar zo weinig naar de lessen komen.”
Dit beeld herken ik als docent aan de RBS ook, en ik vermoed ten zeerste dat genAI hier in ieder geval voor een deel verantwoordelijk voor is. Er zijn verschillende ontwikkelingen die zich parallel aan elkaar voltrekken door genAI, waarvan er twee als belangrijkste katalysatoren uit springen:
1. Studenten zijn in de veronderstelling dat genAI hun opdrachten kan maken (zelfs als dit niet het geval is). Hierdoor stellen ze meer uit dan ze vroeger deden, want er is altijd nog genAI als back-upplan voor de laatste dag. Als dat niet al het originele plan was.
2. Studenten zijn in de veronderstelling dat genAI ze on-demand aan de juiste kennis kan helpen, dus dat kennisontwikkeling via de lessen niet meer zo noodzakelijk is als voorheen.
Ik ben het ermee eens dat we met studenten het gesprek aan moeten gaan over de gevolgen en risico’s die genAI met zich meebrengt, maar je kunt je wel afvragen hoe realistisch dat gesprek is. Er bestaat vaak ook het idee dat wij als docenten juist niet kunnen inschatten hoe “nuttig” genAI is, en dat de studenten dat zelf beter weten.
Mooi stuk Felix! Pleidooi om hier diepgaand en kritisch met elkaar over in gesprek te gaan. Niet omarmen omdat het kan, of omdat het er nu eenmaal is, of omdat we er niet omheen kunnen. We hebben altijd een keuze: wanneer en waarom wel, en wanneer en waarom niet.
Wat een goed stuk zeg!
Misschien zou HR een werkgroep moeten starten die zich bezig houdt met de vraag: hoe houden we AI zo lang mogelijk verantwoord buiten de deur?
De vragen die nu worden gesteld zijn volgens mij vaak in de trant hoe leren we studenten verantwoord met AI omgaan?Zoals ook bij alcohol als reden gegeven werd om drankgebruik vanaf zestien toe te staan, wat uiteraard niet bleek te werken. Als er zo’n werkgroep komt stel ik voor dat Felix daar in komt!
Je punten over dat we AI niet moeten normaliseren kan ik volgen, toch beweeg ik ook mee, het zorgt er juist voor dat ik andere vormen in de les zoek met studenten. Klakkeloos overnemen van AI is geen optie dat is voor mij ook duidelijk. Dat we daar als hogeschool te weinig mee doen vind ik nog te weinig onderbouwd. Ik hoorde juist op het Smart & Social Fest andere geluiden en ook voorbeelden die jij ook in je stuk benoemd. Juist het bevragen en een goedgesprek erover hielp mij verder. Met de studenten ben ik in gesprek juist over AI, door het wel toe te staan, maar verantwoording te vragen, HOE ze het hebben gebruikt en WELKE prompts ze hebben gebruikt. Het inzichtelijk maken van gebruik zorgt ervoor dat je het gesprek kan voeren over het gebruik en het kritisch bevragen in plaats dat ik te maken heb met een black box van het gebruik terwijl AI ook een black box is. Nu kan ik wel openlijk met hen het gesprek voeren over AI gebruik in plaats van de AI mag niet agent uithangen. Dat leert de student ook weer om onderscheid te maken wanneer het wel of niet in te zetten. Je oproep over de punten 1-4 begrijp ik, wel zie ik metname het gevaar in mogelijke catastrofale gevolgen die een blackbox zoals Gen AI oplevert. Bijvoorbeeld als het binnen de planetaire grenzen moet zijn en je zou dit mogelijk overlaten aan AI, zou AI dan beredeneren dat de mensheid uitgeschakeld moet worden?
Bedankt voor de tip! Brave New World gaat op de leeslijst 🙂
Mooi overzicht van belangrijke pijnpunten en aandachtspunten rondom AI! Binnen CMI zijn er momenteel twee keuzevakken die hier uitgebreid aandacht aan besteden: Gevolgen van de Digitale Revolutie en Baas van de Toekomst. Helaas heb ik begrepen dat de hogeschoolbrede keuzevakken binnenkort gaan stoppen en instituutsgebonden worden. Maar mocht iemand hierover willen sparren of meer informatie willen, neem gerust contact op!
Goed stuk!
Dank voor deze knuppel! Benieuwd wat er verder is het hoenderhok gaat gebeuren. Ben zelf niet al te optimistisch: eerdere voorbeelden rondom de smartphone en social media hebben al laten zien dat mensen zeer bereid zijn van alles (op) te geven voor de illusie van comfort, gemak en hip, trendy en ‘bij de tijd te zijn’.
En eenmaal op het punt van een zekere spijt, is het leed vaak al geschied. Nog los van de enorm sterke lobby van de (tech)partijen die hier garen bij spinnen. Misschien gaat de vergelijking niet helemaal op: er was een tijd dat ook de rekenmachine als een grote bedreiging werd gezien. En ongelijk bleek men niet te hebben als het over het hedendaagse vermogen tot (hoofs)rekenen gaat.