Een student met AI-hallucinaties in zijn scriptie is deze zomer vrijgesproken van fraude. Twee andere studenten vinden echter geen genade bij de Raad van State. Wat is het verschil?

De hoogste onderwijsrechter heeft deze zomer een aantal piketpaaltjes geslagen voor AI-zaken. In drie uitgebreide vonnissen legt de Raad van State uit wanneer AI-gebruik wel en niet door de beugel kan.

Rechter googelt zelf om scriptie te checken

Voor AI-fraude, maakt de rechter duidelijk, moet goed bewijs zijn. Opvallend detail: in één zaak is de onderwijsrechter zelf gaan googelen om de scriptie van een student te checken. Dat gebeurt zelden. Normaal kijkt de rechter vooral of de regels goed zijn gevolgd.

Het gaat in deze eerste zaak om een marketingstudent van de Rijksuniversiteit Groningen, die een thesis inleverde met AI-rommel in zijn bronnenlijst. De student geeft meteen toe bij de examencommissie. Hij heeft er een verklaring voor: achteraf liet hij zijn bronnenlijst opnieuw indelen door ChatGPT. Toen zijn er fouten in geslopen.

‘Een slordigheid’

Is dit dan wel fraude? De student zegt zelf dat het om een ‘slordigheid’ gaat. Hij heeft een verbeterde bronnenlijst nagestuurd. En hij kan laten zien dat in een eerdere versie van de literatuurlijst geen hallucinaties stonden en dat hij dus niet inhoudelijk op AI heeft geleund.

De examencommissie en later het college van beroep voor de examens (CBE) zagen toch fraude. Want in de hoofdtekst van de scriptie staan drie verwijzingen naar bronnen die in de literatuurlijst ontbreken. Dat waren dus ook AI-verzinsels, was de conclusie.

De rechter wil dat zelf wel eens zien. Met de scriptie in de hand kruipt hij achter de computer om de drie bronnen op te sporen. Dat lukt. De rechter kan, schrijft hij, ‘na een eenvoudige zoekopdracht’ bij alle verwijzingen een toepasselijke wetenschappelijke bron vinden, van de genoemde auteur en uit het juiste jaar.

Plausibele verklaring

De drie verwijzingen in de hoofdtekst zijn dus geen AI-hallucinaties. De student heeft volgens de rechter daarom wel degelijk een plausibele verklaring: ChatGPT heeft een rommeltje van zijn literatuurlijst gemaakt.

Niet iedere AI-hallucinatie is fraude, oordeelt de rechter daarom in deze zaak. Soms is sprake van een fout. En dat is geen zaak voor straf van de examencommissie, maar voor een lager cijfer van de beoordelende docent, zegt de Raad van State tegen de opleiding.

Examencommissies en CBE’s zijn veel tijd kwijt aan het controleren van vermeende fraudegevallen, zo vertellen bijvoorbeeld Maastrichtse commissies aan universiteitsblad Observant. Maar in dit geval vindt de rechter dat de examencommissie en het CBE van de Rijksuniversiteit Groningen te weinig hebben gedaan. De verklaring van de student had voor hen ‘aanleiding moeten zijn’ om even te googelen.

Specifieke regels

Mocht de student überhaupt AI gebruiken voor het structureren van zijn bronnenlijst? Die vraag komt in de Groningse zaak niet aan bod. In de Rotterdamse zaak staat die vraag juist centraal. De master media & business van de Erasmus Universiteit heeft er namelijk heel specifieke regels over, blijkt uit het tweede vonnis.

Zo was het studenten hier alleen toegestaan om AI te gebruiken als ze ook een AI-verklaring meeleverden. Daarin moest staan wat studenten aan ChatGPT vroegen (de ‘prompts’) en wat daarvan in hun werk is opgenomen. Met die AI-verklaring erbij, kan de docent alsnog de kennis en vaardigheden van de studenten zelf beoordelen.

AI gebruiken uit tijdnood

De studente die de zaak aanspande had bij de eerste opdracht geen AI-verklaring ingeleverd en bij de tweede een onvolledige. Ze had wel AI gebruikt om haar bronnenlijsten op te stellen, dat was duidelijk. Daarin had Chat er behoorlijk op los gefantaseerd. Ze deed het uit tijdnood. Volgens haar klopte de hoofdtekst van haar papers wel.

En daar zit de crux: deze Rotterdamse student liet de hele literatuurlijst opstellen door AI, terwijl de Groningse student hem alleen opnieuw had laten indelen. Dat is voor de rechter een belangrijk verschil. De bronnenlijst is een “volwaardig onderdeel” van het ingeleverde studentenwerk, legt de rechter uit. Ze verliest haar zaak.

Opvallende fouten…

Een Maastrichtse studente ontkent bij de rechter dat ze überhaupt AI gebruikte. Voor haar opleiding European Law moest ze wekelijks een kleine literatuurstudie inleveren en de examencommissie claimt dat in drie van haar vier opdrachten AI heeft gebruikt. Er zaten opvallende fouten in jaartallen, titels, paginanummers en tijdschrifttitels.

Voor de rechter geeft ze een alternatieve verklaring: ze had tijdnood en haar internet was slecht, waardoor ze op haar geheugen en op incomplete aantekeningen moest terugvallen. Dat leidde tot fouten. En dan heeft ze ook nog eens problemen als dyslexie, zodat ze moeite heeft met lezen, schrijven en spellen.

Geen sluitend bewijs, ‘fraude’ is beste verklaring

Ter onderbouwing levert ze haar oude aantekeningen in, zodat de Raad van State zelf kan zien hoe de fouten in haar opdracht kwamen. Alleen ziet de rechter die fouten niet in haar aantekeningen staan. Sluitend bewijs is er niet, maar voor de rechter is ‘fraude’ simpelweg de beste verklaring. Ze krijgt dus geen gelijk.

Zo geldt voor AI hetzelfde als voor andere fraudezaken: het komt neer op bewijs wegen en eventuele alternatieve verklaringen onderzoeken. AI-fraude moet ‘buiten redelijke twijfel’ vaststaan, oordeelt de Raad van State in deze drie zaken. Dat criterium, ‘buiten redelijke twijfel’, verklaart misschien waarom tot nu toe relatief weinig AI-zaken voor de rechter kwamen.

Tekst: HOP, Olmo

Illustratie: Demian Janssen