“Ik schrik er niet van dat wij ons tussen niveau 1 en 2 bevinden. Het is immers een nieuw onderwerp."
Magazine
Een nieuw volwassenheidsmodel: nadenken over verantwoord AI-gebruik
Verantwoord omgaan met AI begint met nadenken over ethische vraagstukken. Elf onderwijsinstellingen hebben samen met SURF, EUR en EDSA getoetst hoe ver ze zijn in dit proces. Hoewel het gebruik van AI in het onderwijs en onderzoek nog in de kinderschoenen staat, er is nu al een model dat instellingen helpt om AI-ethiek te organiseren.
De AI-verordening van de Europese Unie is er en de eerste verplichtingen treden in februari 2025 in werking. Deze nieuwe wetgeving wordt gepresenteerd als ’s werelds eerste uitgebreide AI-wet. Anders dan bij de invoering van de AVG, willen instellingen nu vooruitlopen op de komende veranderingen en verplichtingen.
In een pilot hebben elf mbo’s, hogescholen en universiteiten hun volwassenheid in AI-ethiek getoetst via het AI Ethiek Volwassenheidsmodel van Joris Krijger en Tamara Thuis, beiden PhD-onderzoekers aan de Erasmus Universiteit Rotterdam (EUR).
Gezien de recente opkomst van AI is het geen verrassing dat instellingen nog aan het begin staan van hun ethische volwassenheid met betrekking tot deze disruptieve technologie. In 2022 werden we massaal geconfronteerd met de onvoorstelbare mogelijkheden van AI.
Inzicht in waar je staat
“Ik schrik er niet van dat wij ons tussen niveau 1 en 2 bevinden,” zegt Wout van Wijngaarden, CIO bij de EUR. “Het is immers een nieuw onderwerp. Dat het model inzicht geeft in waar je staat en je met tooling ondersteunt om verder te groeien, vind ik geweldig. Ik zie het AI Ethiek volwassenheidsmodel als een middel dat ons echt verder gaat helpen.”
René van den Berg (ROC van Amsterdam-Flevoland)
Ook het ROC van Amsterdam-Flevoland deed mee aan de pilot, omdat ook zij zien dat er enorm veel op het onderwijs en onderzoek af gaat komen. “Wij zijn een grote mbo -en vo-instelling”, zegt René van den Berg, directeur Onderwijs, Informatie en ICT, “maar zelfs wij kunnen het niet meer alleen.
AI heeft veel impact op de digitale transformatie voor onze medewerkers, studenten en leerlingen. Zijn we klaar om de technologie goed te gebruiken? Bewustwording moet nu op alle lagen doordringen. We moeten onszelf de vraag stellen: wat willen we wel en niet, en waar trekken we de grens?”
Bijna een jaar geleden maakte René in een oefensessie, samen met bestuurders van een mbo-college, een lesprogramma met behulp van AI, inclusief zelflerende onderwijsvormen.
“Het model geeft structuur en inspireert. Met dit raamwerk kun je onderling heel goed best practices uitwisselen.”
“Iedereen stond versteld van de mogelijkheden en de snelheid,” vertelt René. Hij is van mening dat transparantie nodig is over vraagstukken als:
wat doe je met behulp van AI met de data van studenten, leerlingen en medewerkers? Wat betekent AI voor onze examinering? Wat betekent AI voor de personalisatie van het leren?
Joris Krijger (Erasmus Universiteit Rotterdam)
Uitwisseling van ervaringen en kennis
Als maker van het volwassenheidsmodel ziet Joris Krijger dat veel mensen binnen organisaties al met het onderwerp bezig zijn. “De pilot heeft de samenwerking versterkt. Wat we zien bij alle instellingen die hebben meegedaan, is dat het model mensen bij elkaar brengt die al iets doen op dit gebied.”
Het effect is niet alleen merkbaar binnen instellingen; ook tussen instellingen helpt het AI Ethiek Volwassenheidsmodel om ervaringen en kennis uit te wisselen. “Het model geeft structuur en inspireert,” zegt Jan van den Berg, FG bij de Hogeschool van Amsterdam (HvA) en begeleider van de pilot. “Met dit raamwerk kun je onderling heel goed best practices uitwisselen.”
Wout ziet zelfs nog bredere mogelijkheden: “Het levert heel veel op dat je als sector met elkaar binnen dit raamwerk kunt werken. Het gebruik van volwassenheidsmodellen om te evalueren en verbeteren, is een goede ontwikkeling voor de onderwijssector.”
"Dit soort thema’s zijn voor individuele instellingen zulke grote ontwikkelingen, dat móet je samen doen.”
René voegt toe: “We maken met elkaar een reis. We kijken bij elkaar welke afwegingen we maken en zien hoe anderen zo’n model invullen. Dit soort thema’s zijn voor individuele instellingen zulke grote ontwikkelingen, dat móet je samen doen.”
Ethiek versus ethisch handelen
Belangrijk om te vermelden is dat het model aangeeft hoe goed je als organisatie om kunt gaan met ethische dilemma’s rond AI, niet of je ook ethisch bent en handelt.
Joris licht toe: “Het AI Ethiek Volwassenheidsmodel is het resultaat van vijftien sessies met verschillende organisaties over hoe zij omgaan met ethische dilemma’s rond AI. Daaruit zijn zes dimensies voortgekomen; organisatorische randvoorwaarden die je als organisatie op orde moet hebben om op een betekenisvolle manier met de ethiek van AI aan de slag te kunnen. Daarbinnen kun je groeien - of afzakken - tussen de niveaus 1 tot en met 5.”
De dimensies zijn allemaal aspecten van een organisatie: bewustwording en cultuur, beleid, governance, communicatie en training, ontwikkelprocessen en tooling. Op niveau 1 is alles nog gefragmenteerd en op niveau 5 is nadenken over ethische afwegingen bij de inzet van AI business as usual.
Het AI Ethiek Volwassenheidsmodel
Prioriteiten bepalen
Aan de basis van het volwassenheidsmodel ligt Joris’ fascinatie voor hoe technologie ons beïnvloedt, en hoe wij technologie beïnvloeden. “Deze dynamiek is vaak heel subtiel en onzichtbaar, maar heeft wel degelijk invloed op hoe we naar elkaar en naar de wereld kijken, en op hoe we met elkaar omgaan. Ethische vraagstukken vind ik de meest interessante vraagstukken die er zijn, omdat ze gaan over de richting die we opgaan als samenleving. Bij AI speelt mee dat we beslissingen gaan uitbesteden aan systemen, en als die niet weten wat wij belangrijk vinden, gaan die systemen daar ook niet naar handelen.”
"Als je echt wilt veranderen hoe je met AI omgaat, moet je ook nadenken over wat je als organisatie belangrijk vindt, en zorgen dat dit terugkomt in je inkoop- en ontwikkelprocessen rond AI."
“Door op een gestructureerde manier te kijken naar waar je staat als organisatie en waar je vindt dat je zou moeten staan, komen prioriteiten naar boven,” merkt Joris op. “Daar kunnen instellingen mee aan de slag. Na een half jaar of een jaar, als die prioriteiten zijn opgepakt, neem je het model er weer bij en kijk je wat dan de volgende stappen zijn om te groeien.
Als je echt wilt veranderen hoe je met AI omgaat, moet je niet alleen de technologie anders gaan gebruiken, maar moet je ook nadenken over wat je als organisatie belangrijk vindt, en zorgen dat dit terugkomt in je inkoop- en ontwikkelprocessen rond AI.”
Jan van den Berg (Hogeschool van Amsterdam)
AI-ethiek als strategische sturing
Mede om die reden heeft de HvA de deelname aan de pilot organisatiebreed aangepakt. Dat hoeft overigens niet; een snelle toets in een halve dag geeft ook al waardevolle inzichten in waar je staat.
“Maar,” gaat Jan verder, “als je wilt dat resultaten uit het volwassenheidsmodel organisatorisch betekenis krijgen, moet je de toetsing doen met betrokkenheid van het College van Bestuur.” In opdracht van het CvB organiseerde hij expertsessies. Vervolgens onderzocht hij de uitkomsten en werkte deze in een plenaire sessie verder uit. “Een plenaire sessie helpt om het organisatorische draagvlak te vergroten. Als je dit goed wilt inrichten, moet je dat professioneel in je bedrijfsvoering opnemen om te voorkomen dat je vast blijft zitten in een ad hoc-werkwijze die voor iedereen frustrerend is.”
Wout van Wijngaarden (Erasmus Universiteit Rotterdam)
Wout verduidelijkt dat het nodig is dat het CvB de opdracht geeft om een AI-strategie te ontwikkelen die aansluit op de organisatiestrategie. “Gebruik AI-ethiek niet als buitenboordmotor, maar incorporeer het in de strategische sturing.”
Waarden meegeven
“Maak het vooral ook leuk,” is het advies van Jan. “Moedig kritisch denken aan. Hans de Zwart, onderzoeker en docent aan de HvA, introduceerde tijdens een expertsessie over de AI Act het begrip morele verbeeldingskracht als manier om over de onverwachte gevolgen van technologie na te denken. Het idee is dat kracht iets is dat je kunt trainen, ontwikkelen, en inzetten bij het bepalen van je eigen positie in de omgang met AI. Dus oefen! Door vanuit ethiek te redeneren, gaat je verbeeldingskracht werken.”
Tekst: Maureen van Althuis
Download
Wil je meer lezen over de pilot? Download dan het "Reflectierapport: Pilot AI ethiek volwassenheidsmodel Inzichten in de inzet van een AI ethiek volwassenheidsmodel binnen onderwijsinstellingen"
'Een nieuw volwassenheidsmodel: nadenken over verantwoord AI-gebruik' is een artikel van SURF Magazine.
Terug naar SURF Magazine
Vragen naar aanleiding van dit artikel? Mail naar magazine@surf.nl.