Blog Sterre: De finish is in zicht maar voelt onbereikbaar
Blog van SterreGepubliceerd: 2 days ago
| 
|
Okke de Jong is hogeschooldocent en coördinator van het Excellentieprogramma van de Rotterdam Academy. Daarnaast is hij startup coach voor de Startup Academy. Hij schrijft graag over zijn studenten, de vele facetten van het docentschap en zichzelf. Eerdere blogs van Okke vind je hier.
Foto: Paul van der Blom
De opkomst van ChatGPT zorgt voor nogal wat beroering, zeker in onderwijsland. Waarom zouden we studenten nog teksten leren schrijven, als een kunstmatige intelligentie het beter en sneller kan? Of leren programmeren? Of beeldbewerken? Noem mij ouderwets, maar ik vind dat studenten zelf vaardigheden moeten leren. Niet alles moeten uitbesteden aan een algoritme. Want kunstmatige intelligentie maakt mensen dom en lui. En kunstmatige intelligentie is gevaarlijk.
Vroeger was ik in staat om zelf naar onbekende plekken te navigeren. Ik onthield routes, aan de hand van herkenningspunten. Nu kan ik niet meer zonder Google Maps. Vroeger onthield ik telefoonnummers en adressen, nu heb ik daar een extern geheugen voor. Vroeger won ik van schaakcomputers, tegenwoordig verlies ik hopeloos. Ik ben waarschijnlijk dommer geworden.
Onze studenten krijgen oefeningen en toetsen om synapsen in hun hersenen te verbinden, waardoor nieuwe inzichten en intelligentie ontstaan. Als ze dit overslaan, worden ze dus niet slimmer. Ouderwetse waarden als discipline en doorzettingsvermogen, waarmee je nieuwe vaardigheden aanleert, zijn opeens overbodig geworden.
Evolutionair gezien zijn we lui, want dat bespaart energie. Ik snap dus heel goed dat studenten geen enkele bezwaar hebben tegen kunstmatige hulpmiddelen, al was het maar vanwege de tijdwinst. Tijd die ze goed kunnen gebruiken voor hun bijbaan. Maar met luiheid bereik je niets. Je leert er niets nieuws van. Het is ongezond. Luiheid zorgt voor een ingeslapen, moddervette mensheid. Denk aan de dikke mensen in de Pixarfilm WALL-E, die hun lot in handen van een robot hebben gelegd.
En onderschat de risico’s van AI niet. Kunstmatige intelligentie leidt tot het verlies van banen. Er zijn veiligheidsrisico’s zoals deepfakes, op hol geslagen autonome wapens, hackers en misdadige of slechte programmering. Onlangs bleek een zelflerende AI opeens racistische taal uit te slaan, omdat hij dat had opgepikt van het internet.
Raymond Kurzweil voorspelde in zijn boek The Singularity is Near dat een dubbelexponentieel zelflerende, zelfbewuste AI binnen enkele decennia een feit is. En dat is niet zonder risico. Een kunstmatige superintelligentie zou hoogstwaarschijnlijk besluiten om de mensheid uit te roeien. Omdat we de Aarde aan het vernietigen zijn, omdat we overbodig zijn geworden of omdat we de AI proberen tegen te houden. Veel wetenschappers zijn doodsbang voor de opkomst van een superintelligente AI. Volgens Kurzweils berekening hebben we tot 2040 om de opkomst ervan te voorkomen.
Dus: laten we het onszelf niet makkelijker maken, maar moeilijker. Laten we het steile, kronkelige geitenpad kiezen, niet de geasfalteerde snelweg. Verbied AI’s. Leer zelf de vaardigheden die bij je vak horen. Wees niet lui. Kies voor menselijke intelligentie, niet voor kunstmatige domheid.
De redactie waardeert het als je onder je eigen naam reageert.
Lees hier alle details over onze spelregels.
Ik heb altijd zo veel vraagtekens bij de stelling, “Een kunstmatige superintelligentie zou hoogstwaarschijnlijk besluiten om de mensheid uit te roeien.” Dit beeld komt natuurlijk continu in fictie voor als onheilspellende waarschuwing voor de toekomst, maar hoe realistisch is dit?
In elk van die beelden is er een consistente factor: de AI handelt als een digitaal en onwijs machtig mens. Het is leidend voor onze definitie van “bewustzijn” dat we dit met menselijk gedrag associeren, maar zelfs voor mensen is die vrije wil geen oncontroversieel gegeven. Waar het altijd op uitkomt is een heel simpele casus: de AI besluit ons te vernietigen want de AI is bang voor wat wij doen.
Ik heb daar best veel twijfels over. Mensen beslissen op basis van emoties. Een computer, zelfs een zelfbewuste, heeft de lichaamsdelen niet die deze emoties genereren. Het heeft “slechts” het redeneringsvermorgen van onze prefrontale cortex. Dit is bij mensen wel de plek in het brein waar beslissingen worden geveld maar niet de origine van alle informatie die met dat beslissingsvermogen mee wordt genomen.
Wat weten we eigenlijk van hoe AIs tot besluiten komen, zonder onze eigen slechtste eigenschappen op de harteloze computer te projecteren in een poging er zelf beter uit te komen in het totaalplaatje? Heeft een AI die racistische taal uitslaat bewust gekozen een racist te worden of gebruikt deze gewoon de woorden die voorhanden zijn? Kan een AI bang zijn, en als dat kan, kan een AI dan niet ook optimistisch zijn?
Kunnen we echt praten over een voorkeur die de AI heeft, of zien we in de rampscenario’s van de AI slechts onze eigen slechtste eigenschappen weerspiegeld?
Een AI die bang is, komt niet op mij over als superintelligent. Een AI die besluit dat de beste oplossing is de mensheid uit te roeien, ook niet. Een AI die besluit iets te doen om geen enkele reden dan dat het kan, is gewoon een dom ding.
Ik ben eigenlijk eerder bang voor superdomme AIs. En superdomme mensen, dus laten we inderdaad niet stoppen met zelf te leren en te doen, want hoe die zelfbewuste AIs ook zullen gaan denken, ze leren het van ons.
Chat GPT lijkt misschien een slimme AI. Maar het is eigenlijk niet. Want de bot heeft tenslotte simpelweg de zoekopdracht gegoogled en geantwoord met wat op het internet er gemiddeld het meest over gezegd wordt. Daarnaast heeft het geen bronvermelding. Die is er niet omdat het alle bronnen online combineert en husselt. Daardoor staan er vaak ook fouten in.
Het programma voorspeld welk woord het meest waarschijnlijk is op te duiken in een zin en dus niet iets dat op de waarheid berust is. Je kan het programma dus prima gebruiken om je tekst wat beter te laten lopen, maar niet om een onderbouwd argument op tafel te leggen.
Als een schoolopdracht op te lossen is met Chat GPT is dat vooral een teken dat de vraag te makkelijk is.
Het maakt niet uit hoe machtig AI daadwerkelijk is. Het is voldoende dat wij macht toeschrijven aan AI om die macht te laten werken.
Net zoals we almacht toeschreven aan de goden, aan geld, aan de natuur om onszelf en elkaar vervolgens aan die macht te kunnen onderwerpen.
Misschien kunnen we niet anders.
You do it to yourself. Just you. And that’s why it really hurts.
Er zit wel iets in hoor, maar als je echt geloof in deze uitspraak “Verbied AI’s. Leer zelf de vaardigheden die bij je vak horen. Wees niet lui. Kies voor menselijke intelligentie, niet voor kunstmatige domheid.” dan wil ik ook dat niemand meer een rekenmachine mag gebruiken bij een kassa. Want stel je voor dat die automatisch het totaal bedrag zou berekenen voor je… Autorijden of de trein? Veel te snel – veel te gevaarlijk!! Pak de benenwagen maar daar zijn we tenslotte mee geboren. Ga zo maar door. Er nog veel meer gereedschap te verkrijgen dat andere vaardigheden overbodig heeft gemaakt – dat misschien inderdaad wel een beetje eng, maar dat is nou eenmaal het geval met vooruitgang.
@keen, beetje een scheef argument. Voor zover ik weet leren kinderen nog steeds rekenen op de basis- en middelbare school en wordt de mate van gebruik van rekenmachines bij het leren en toetsen van zulke vaardigheden nog steeds gereguleerd. We leren ook nog steeds zelf te lopen, ondanks het gebruik van auto en trein.
Het punt wat ik denk dat Okke probeert te maken is dat het niet aanleren van de gerelateerde basisvaardigheden wel consequenties heeft. We hebben een breed aanbod aan vervoersmiddelen en diensten. Grote groepen mensen bewegen zelf amper, het resultaat is een obesitas-epidemie en een enorme stijging in hart- en vaatziekten.
Hersenen moeten evengoed gestimuleerd om nieuwe verbindingen te maken, we zien al dat de bestaande hulpmiddelen impact hebben op het vermogen om informatie te onthouden en verwerken en dat dit algemene verlies leidt tot algemene consequenties. Denken is een vaardigheid en als je nooit informatie hoeft te verwerken omdat een machine het voor je uitspuwt gaat dat ten koste van het eigen denkvermogen.
We zien al in de praktijk dat mensen klakkeloos repeteren wat een zoek-algoritme hen aanlevert. AI is hier de volgende stap in. Is dat wenselijk, of mag daar best een waarschuwing voor afgegeven? Laten we ook niet vergeten dat die AIs afhankelijk zijn van hoe wij hen informatie voeden. Als we goede AIs willen, hebben we ook vaardige denkers nodig.
Ik ben het met het standpunt van de Jong eens dat ChatGPT niet dient te fungeren als een vervanging voor het aanleren en beheersen van fundamentele vaardigheden, zoals het oplossen van huiswerkopgaven, het schrijven van essays en het opstellen van onderzoeksrapporten. Het is cruciaal voor het menselijk intellect om geprikkeld en uitgedaagd te worden, zodat men in staat is om problemen effectief aan te pakken en oplossingsgerichte vaardigheden te ontwikkelen voor toekomstige uitdagingen. Het stimuleren van onze cognitieve capaciteiten zorgt ervoor dat we zelfredzaam blijven en onze persoonlijke groei bevorderen.
“Leer zelf de vaardigheden die bij je vak horen” , Dit vormt inderdaad het uiteindelijke doel van een studie. Echter, we leven in een dynamische wereld waarin verandering de enige constante factor is. Zowel academische curricula als de onderliggende kennisbasis ondergaan voortdurend transformaties. Neem bijvoorbeeld de situatie ongeveer 50 jaar geleden, toen de eerste computers hun intrede deden. Dit leidde tot het verdwijnen van bepaalde beroepen, maar tegelijkertijd ontstonden er talloze nieuwe kansen en functies.
Met mijn biologisch studieachtergrond ben ik vertrouwd met de concepten van evolutie en adaptatie. Op basis hiervan ben ik ervan overtuigd dat de mens in staat is zich aan te passen aan de realiteit waarin hij of zij zich bevindt. Het is belangrijk om te erkennen dat de verwerving van vaardigheden en kennis geen statisch proces is, maar eerder een dynamische en flexibele onderneming die vereist dat we ons voortdurend aanpassen aan de veranderende context. Uiteindelijk is het de kunst om deze aanpassingsvermogen te omarmen en optimaal te benutten in het nastreven van academisch en professioneel succes.
Ik ben van mening dat kunstmatige intelligentie niet noodzakelijkerwijs leidt tot een afname van denkvaardigheden of het aanmoedigen van luiheid bij mensen. In plaats daarvan hangt de uitkomst grotendeels af van hoe individuen de technologie benutten en toepassen. De voortdurende ontwikkeling van kunstmatige intelligentie biedt het potentieel om diverse vakgebieden naar nieuwe hoogtes te tillen, wat ons in staat stelt om fundamentele vaardigheden efficiënter en effectiever uit te voeren. Door de inzichten en methoden van kunstmatige intelligentie te integreren in het leerproces, zoals het genereren van gepersonaliseerde leerplannen, het vragen om feedback of het krijgen van ondersteuning, kunnen studenten hun cognitieve en probleemoplossende capaciteiten verder ontwikkelen en versterken.
De toenemende integratie van kunstmatige intelligentie zou de wereld wellicht sneller kunnen helpen bij het aanpakken en oplossen van belangrijke problemen zoals klimaatverandering, overbevolking, armoede, ongelijkheid, energievoorziening, voedselzekerheid en de verspreiding van ziekten. Door de basisvaardigheden te optimaliseren en te versnellen, kunnen mensen zich concentreren op het ontwikkelen van innovatieve oplossingen voor deze complexe uitdagingen, wat kan resulteren in een positievere en duurzamere toekomst voor iedereen.
Het is zeker goed om te erkennen dat, naast de optimistische visie op kunstmatige intelligentie, er ook potentiële gevaren en onvoorziene gevolgen bestaan. Zo kunnen ongewenste situaties ontstaan wanneer AI in handen komt van kwaadwillende individuen, landen, of zelfs wanneer het zelfbewustzijn ontwikkelt. Hoewel er initiatieven zijn, zoals die van Elon Musk, om de ontwikkeling van kunstmatige intelligentie te reguleren en te beheersen, kan dit op geopolitiek niveau onbedoelde gevolgen hebben met betrekking tot machtsverhoudingen. Het land met de meest geavanceerde AI-technologie zou in theorie het machtigste kunnen worden, aangezien het in staat zou zijn om met een exponentiële snelheid enorme hoeveelheden informatie te verwerken en te analyseren.