Afgelopen week was het dominant nieuws: verschillende AI-bazen riepen op om gas terug te nemen op de ontwikkeling van AI, na incidenten. Er zijn zorgen over de veiligheid en sommige geluiden zijn ronduit alarmerend. Hoe moeten we deze oproep interpreteren?

We vroegen het verschillende AI-kenners binnen de Hogeschool Rotterdam in een ‘voxprof’ (als variant op de ‘voxpop’ waarin we willekeurige HR-mensen iets vragen over een alledaags onderwerp). Wat vinden de collega’s die in het veld van AI opereren van de verontrustende en soms verwarrende berichten?

Maaike Harbers – Lector Artificial Intelligence & Society

‘Wat ik belangrijk vind om te benoemen is dat dit niet de eerste keer is dat er vanuit big tech wordt opgeroepen tot vertragen. In de “open letter” van maart 2023 werd bijvoorbeeld ook al gesteld dat we een pauze moeten inlassen in de ontwikkeling van AI; iemand als Elon Musk was daar toen ook helemaal voor. Vervolgens zijn diezelfde mensen doorgegaan met ontwikkelen. Dat komt wat hypocriet over. 

Het is goed om te kijken naar de belangen van de mensen die nu oproepen tot vertragen, bijvoorbeeld de belangen van Dario Amodei van Anthropic. Hij wil binnenkort met zijn bedrijf naar de beurs. Met zijn oproep positioneert hij Anthropic als de ‘ethische speler’ van de sector. Dat is goeie PR die kan helpen bij zijn beursgang. Alle media-aandacht komt hem niet slecht uit. 

‘De bedrijven roepen nu om regulering, maar tot nu toe hebben ze alle regelgeving juist tegengewerkt.’

De manier waarop big tech over de incidenten praat is heel erg ‘vermenselijkt’, alsof de AI-agents die in het Hugging Face-incident betrokken waren, een eigen wil hebben. Media nemen dit taalgebruik over. Zo schrijft de NOS bijvoorbeeld dat ‘AI ons de baas dreigt te worden’. Maar AI-agents zijn in feite softwareprogramma’s die instructies uitvoeren. Het zijn mensen die hebben besloten om de AI-agents “hun eigen gang te laten gaan”. Het is alsof je een virus uit het lab laat ontsnappen, dat zien we ook niet als virusdeeltjes met slechte intenties, dat zien we als een menselijke fout. 

Er wordt angst gecreëerd voor AI. Moeten we ons daadwerkelijk zorgen maken? In mijn optiek moeten we die zorgen vooral hebben over de macht die bij deze bedrijven ligt. De bedrijven roepen nu om regulering, maar tot nu toe hebben ze alle regelgeving juist tegengewerkt. Dus als de regels waartoe ze oproepen er komen, houden ze zich er dan aan?’

Tim Hulsen, Lector AI & Data Supported Healthcare

‘De oproep om AI te vertragen vind ik begrijpelijk, maar de vraag is wat mij betreft niet alleen of de technologie te snel ontwikkelt. Het probleem is vooral dat ons vermogen om AI verantwoord toe te passen veel langzamer groeit. Technisch kunnen we inmiddels dingen waarvoor organisaties, professionals, onderwijs, regelgeving en toezicht nog onvoldoende zijn voorbereid.

Tegelijkertijd moeten we voorzichtig zijn met de doemscenario’s van de grote AI-bedrijven zelf. De boodschap dat AI mogelijk een existentiële bedreiging vormt, is ook een boodschap dat hun technologie ongekend krachtig is. Het is een beetje opschepperij eigenlijk. Bovendien is het wat paradoxaal om over vertraging te spreken terwijl dezelfde bedrijven miljarden investeren om elkaar zo snel mogelijk voorbij te streven.

‘Het probleem is vooral dat ons vermogen om AI verantwoord toe te passen veel langzamer groeit.’

Ik zou daarom minder aandacht geven aan de vraag of we “AI moeten stoppen” en meer aan concrete checks & balances. Waar zetten we AI wel en niet voor in? Wie blijft verantwoordelijk voor beslissingen? Hoe testen we betrouwbaarheid, bias en veiligheid? Hoe voorkomen we hacks met agent swarms? En hoe zorgen we dat professionals voldoende AI-geletterd én handelingsbekwaam zijn om niet klakkeloos op een systeem te vertrouwen? Zeker in domeinen als de zorg zijn dat voor mij veel urgentere vragen dan de speculatie of superintelligentie ooit (of zelfs binnenkort) de mens zal overvleugelen.’

Peter Troxler, lector Future of working

‘Waarom is iedereen zo verbaasd over de OpenAI-HuggingFace-hack? Het gebeurde in een Silicon-Valleyklimaat van “move fast and break things“; het gebeurde in een onvoldoende geïsoleerde, onvoldoende gemonitorde labomgeving (OpenAI gaf toe dat ze wisten dat agents in wikis berichten achterlaten maar reageerden er niet op); het gebeurde in een omgeving die gebouwd is om de hackerkwaliteiten van AI-agents te toetsen (de omgeving heet “ExploitGym”); het gebeurde in een omgeving met schier oneindige resources (OpenAI doorzocht miljoenen GPU-uren om te achterhalen wat er gebeurde).

‘Net als in andere disciplines is in deze discipline iets meer discipline nodig.’

De oproep van Dario Amodei voor een moratorium hoorden we al eerder – de open brief van het Future of Life Institute van 22 maart 2023 en de aanbevelingen van maart 2023 gelden nog steeds: onafhankelijke audits voorafgaand aan het trainen van AI-systemen, evenals “het volgen van zeer geavanceerde AI-systemen en grote hoeveelheden rekenkracht” en robuuste financiering voor onderzoek naar AI-veiligheid. Dat concludeert ook het onderzoek van METR en Redwood Research naar de OAI-HF hack: introduceer onafhankelijke toezicht. Net als in andere disciplines is in deze discipline iets meer discipline nodig.’

Felix van Hoften, onderzoeker en docent, publiceerde eerder dit kritische essay over AI op Profielen

‘Ik begrijp hier niets van. Als ze willen vertragen dan doen ze dat toch? Oh, wacht zo werkt beursgenoteerd kapitalisme niet. De aandeelhouders eisen dat ze verder ontwikkelen.

Ik zie het vooral als weer een manier om relevant te blijven. Als je vooraan aan de nieuwscyclus staat kun je verwachten dat er weer een nieuwe set aan investeerders klaar staan om nog meer datacentrums te bouwen.

‘Ik begrijp hier niets van. Als ze willen vertragen dan doen ze dat toch? Oh, wacht zo werkt beursgenoteerd kapitalisme niet.’

Want dat is het nu eigenlijk aan het worden, wie het snelst de meeste datacentrums kan bouwen gaat ‘winnen’. En daar heb je heel veel kapitaal voor nodig…. Overigens verliest vrijwel iedereen in dit proces: de natuur en de mens.’

Marije Brom, programmaleider RAAIT (responsible applied AI)

‘Het is in mijn ogen discutabel dat de grote AI-bazen hier nu mee komen. Ik geloof er niet in dat zij het beste met ons voor hebben, het is vooral een actie ten bate van henzelf. Ik krijg de indruk dat ze als er dingen misgaan later willen kunnen zeggen: “Ja, we hebben hiervoor gewaarschuwd”. Ondertussen hebben ze er al te veel geld in zitten, zelf gaan ze echt niet stoppen met verder ontwikkelen van AI. De oplossing leggen ze bij individuen en de overheid.

Tegelijkertijd: je moet er wel iets mee. Betere regelgeving moet er echt komen en als deze oproep helpt dan is dat winst. De grote bedrijven hebben te veel macht, te veel controle. Gelukkig is er steeds meer wetgeving, maar nu nog de vertaling naar het toepassen en ik verwacht ook uitdagingen in hoe wetgeving gehandhaafd gaat worden. 

‘Betere regelgeving moet er echt komen en als deze oproep helpt dan is dat winst. De grote bedrijven hebben te veel macht, te veel controle.’

Deze technologie is zo disruptief dat het noodzakelijk is om te experimenteren en te leren in een veilige omgeving waardoor je leert te begrijpen hoe het werkt en hoe je het wel of juist niet kan inzetten. Ik zie ook het sentiment veranderen. We weten dat AI dehumaniseert. Met name bij jongeren verschuift het gevoel van “wauw dit is fantastisch” naar “ik wil zelf blijven nadenken”. Dat geluid zal steeds sterker worden verwacht ik.’

Rob van der Willigen, senior datawetenschapper en hoofddocent

‘Europa heeft de AI-act, deze handhaven zoals oorspronkelijk de bedoeling was is alles wat er NU acuut zou moeten gebeuren. Strikte handhaving.

Mijns inziens is de oproep een CEO-strategie van de top-tier AI-bedrijven in de VS om hun hegemonie over AI te bestendigen en zoveel mogelijk geld te verzamelen, om zo China en India de pas af te snijden in de strijd om AI-dominantie. Het gaat ze dus helemaal niet om verantwoord om te gaan met AI; ze willen doelbewust anderen de pas afsnijden zodat ze zelf “heimelijk” kunnen verder werken aan hun top-tier modellen zonder gehinderd te worden door onafhankelijk toezicht.

Eerder schreef ik er dit artikel over waarin ik zeven aanbevelingen doe voor makers van taalmodellen en AI-agents.

Mensen moeten vooraf begrenzen wat een agent mag doen, tijdens de uitvoering onafhankelijk kunnen zien wat er gebeurt en achteraf verantwoordelijkheid kunnen nemen.’

Valerie van den Eng-Brethouwer, docent lerarenopleiding

‘Waar de oproep van de AI-topmannen gaat over het afremmen van technologische ontwikkeling zelf, betekent vertragen in het onderwijs voor mij iets anders: een stap terugzetten voordat je iets nieuws een plek geeft. Wat wil je je studenten meegeven? Welke vaardigheden zijn onmisbaar, wat hoort echt thuis in het curriculum? Als dat scherp op je netvlies staat, kun je veel bewuster bepalen hoe en wanneer je generatieve AI inzet.

De nieuwste ontwikkeling achterna blijven rennen is een wedstrijd die je toch nooit wint. Je hebt een stevige basis nodig, een basis waar nieuwe elementen steeds weer in kunnen worden opgenomen.

‘Vertragen is niet stilstaan. Het is een voorwaarde om doorgedachte keuzes te maken voor jezelf en met je team.’

Dat betekent overigens niet dat we AI-ontwikkelingen moeten laten liggen. Vertragen is niet stilstaan. Het is een voorwaarde om doorgedachte keuzes te maken voor jezelf en met je team. Ik vind het juist belangrijk dat we onszelf en onze studenten AI-geletterdheid meegeven. Pas als je weet wat AI kan en waar je het wel en niet voor wil gebruiken, kun je er verantwoord mee omgaan en bewuste keuzes maken in plaats van er klakkeloos in mee te gaan of het juist helemaal te negeren.’

Vincent de Beer, docent en data scientist bij EAS

‘De oproep om sommige aspecten van AI ontwikkeling te vertragen is in mijn ogen begrijpelijk, maar niet nieuw (zie ook boeken als: If Anyone Builds It, Everyone Dies). Dat de boodschap op dit specifieke moment, van de leiders van de top Amerikaanse AI-bedrijven komt, doet vermoeden dat hier andere belangen spelen. In de huidige globale AI-race krijgt zo’n boodschap vanzelf een geopolitieke en economische lading. Daarom gaat het niet alleen om tempo, maar om macht: wie bepaalt de regels, wie profiteert, en wie controleert of systemen veilig en verantwoord zijn?

‘Voor mij ligt de focus vervolgens niet op vertragen om het vertragen, maar op hoe we AI verantwoord leren inzetten in het onderwijs.’

Voor mij ligt de focus vervolgens niet op vertragen om het vertragen, maar op hoe we AI verantwoord leren inzetten in het onderwijs. Binnen de HR Datalabs kunnen studenten daar veilig mee experimenteren, met duidelijke grenzen voor privacy, betrouwbaarheid en menselijke regie, zodat innovatie en controle samen optrekken.’

Tekst: Edith van Gameren
Afbeelding: Darice de Cuba