Universiteiten en hogescholen leunen te veel op commerciële techbedrijven, waarschuwt De Jonge Akademie. Daardoor lopen de kernwaarden van de wetenschap gevaar. In een manifest roept ze op tot een radicale koerswijziging.

Technologie is niet meer weg te denken uit het hoger onderwijs: studenten, onderzoekers en administratief personeel maken steeds meer gebruik van digitale platforms. Maar de digitale infrastructuur van hogescholen en universiteiten wordt vaak uitbesteed aan bedrijven. Dit brengt de nodige risico’s met zich mee, waarschuwt De Jonge Akademie. Dit genootschap van relatief jonge topwetenschappers pleit daarom voor een ‘fundamentele koerswijziging’.

Deze techbedrijven verzamelen persoonsgegevens en andere data en het is lang niet altijd duidelijk waar die precies terechtkomen. Ook studenten moeten geregeld hun persoonsgegevens delen als ze gebruikmaken van onderwijs- en examensoftware.

Grip verliezen

Doordat instellingen de ontwikkeling en het beheer van digitale systemen vaak uitbesteden, dreigen ze de grip te verliezen. Ze hebben zelf te weinig technologische kennis in huis en kunnen daardoor ook niet ingrijpen wanneer er iets misgaat. Dit maakt hen kwetsbaar voor een zogenaamde vendor lock-in: het overstappen naar een andere leverancier wordt vrijwel onmogelijk.

Dit gaat in tegen de kernwaarden van de wetenschap, zoals autonomie, verantwoordelijkheid, en academische vrijheid, vindt De Jonge Akademie. Onderwijsinstellingen hebben volgens haar een zorgplicht ‘om een veilig digitaal ecosysteem voor hun medewerkers en studenten te borgen’.

Ethisch

De Jonge Akademie raadt onderwijsinstellingen daarom aan om bij het kiezen van ict-toepassingen minder op kosten en gebruiksgemak te letten, maar vooral te kijken naar de ethische consequenties. ‘Individuele vrijheid, het recht op privacy en de duurzame autonomie van wetenschappelijke instellingen’ dienen centraal te staan. Instellingen moeten meer samenwerken en transparant zijn bij belangrijke beslissingen.

Het manifest waarschuwt ook voor het gebruik en de ontwikkeling van AI-technologieën. Bij het trainen van AI-modellen is het vaak niet duidelijk welke gegevens worden gebruikt om het model te voeden en evenmin hoe dat in zijn werk gaat. Daarom vraagt De Jonge Akademie om heldere regels.

Open brief

De Jonge Akademie is niet de enige die zich zorgen maakt om de opkomst van AI: vorige week verscheen er een open brief waarin het hoger onderwijs wordt opgeroepen om kritisch te zijn met het invoeren van AI-technologieën. Er staan inmiddels zo’n 500 handtekeningen onder, van onder anderen docenten, onderzoekers en hoogleraren.

Ze maken zich zorgen om het kritisch denkvermogen van studenten, maar ook om ‘de waarden van ecologische duurzaamheid, menselijke waardigheid, pedagogische waarborging, data-privacy, wetenschappelijke integriteit, en democratie’.

Tekst: HOP, Naomi Bergshoeff
Illustratie: Demian Janssen