Artificial Intelligence in de VS: de risico's en mogelijkheden van AI in het onderwijs nader onderzocht
De risico's en mogelijkheden van AI in het onderwijs moeten nader worden onderzocht. In Nederland kan het Ministerie van Onderwijs en Wetenschappen een leidende rol spelen bij het verstrekken van informatie en het stimuleren van betrokkenheid en het -in samenwerking met alle lagen van het onderwijssysteem-organiseren van activiteiten. Zij kan het debat aanjagen binnen en buiten het onderwijs, een routekaart ontwikkelen en gericht onderzoek financieren (o.a. naar de vraag "Werken specifieke toepassingen van AI in het onderwijs, en zo ja, voor wie en onder welke omstandigheden?"). Op deze manier kunnen er afspraken met de onderwijssector worden gemaakt en kan er beter worden geanticipeerd op de vraag of en welke nieuwe wet- en regelgeving nodig is.
Het Office of Educational Technology van het Amerikaanse ministerie van Onderwijs heeft een nieuw rapport uitgebracht waarin de risico's en mogelijkheden van AI voor onderwijs, leren, onderzoek en evaluatie worden samengevat. Het rapport erkent dat AI nieuwe vormen van interactie tussen docenten en studenten mogelijk kan maken, docenten kan helpen om te gaan met veranderingen in het leerproces en bij het ondersteunen van bijvoorbeeld feedbackmogelijkheden.
De mogelijkheden en risico’s van AI in het onderwijs zijn groot: AI kan de kwaliteit en de kwantiteit van de feedback aan studenten en docenten verhogen, en suggesties doen voor middelen om hun onderwijs en leren te bevorderen. AI kan docenten ondersteunen. Onderwijsgevenden kunnen worden betrokken bij het ontwerpen van op AI gebaseerde leermiddelen en om hen in staat te stellen hun studenten beter te betrekken en te ondersteunen. Maar AI verhoogt ook bestaande risico's en introduceert nieuwe risico's. AI verhoogt de risico's die al aanwezig zijn in onderwijstechnologie, met name de privacy van gegevens en beveiliging. AI voegt nieuwe risico's toe van algoritmische discriminatie door ongewenste patronen in bestaande gegevens en oneerlijke geautomatiseerde besluitvorming. Willen onderwijsstelsels van de mogelijkheden profiteren, dan moeten de risico's tot een minimum worden beperkt. Meer onderzoek is gewenst naar de mogelijke risico's in bepaalde AI-systemen, vooral wanneer die verder worden uitgewerkt met specifiek inzicht in de risico's die zich in onderwijsomgevingen kunnen voordoen. Ook wordt gewezen op de risico's van AI, waaronder algoritmische discriminatie, en het belang van vertrouwen, veiligheid en passende beschermingsmaatregelen.
In de handout staat een beleidsaanbevelingen die zeker ook van toepassing zijn op het Nederlandse onderwijs:
Het idee dat AI leerkrachten vervangt is verwerpelijk. Leraren en andere mensen moeten "in the loop" zijn wanneer AI wordt toegepast om patronen op te merken en onderwijsprocessen te automatiseren. Wij roepen alle kiezers op om Humans-in-the-Loop als belangrijkste criterium te hanteren.
Stem AI-modellen af op een gedeelde visie op onderwijs. Beoordeel de kwaliteit van een onderwijstechnologie niet alleen op basis van resultaten, maar ook op basis van de mate waarin de modellen (AI-instrumenten en -systemen) aansluiten bij een gedeelde visie op onderwijs en leren.
Verder gaan dan het verwerken van "big data" en data science. Toepassingen van AI moeten gebaseerd zijn op gevestigde, moderne leerprincipes, de wijsheid vanuit de onderwijspraktijk, en moeten gebruik maken van de expertise in de onderwijsbeoordelingsgemeenschap rond het opsporen van vooroordelen en het verbeteren van eerlijkheid.
Wantrouwen tegen kunstmatige intelligentie is natuurlijk. Omdat vertrouwen ontstaat als mensen elkaar ontmoeten en met elkaar omgaan, is het essentieel om te werken aan het opbouwen van vertrouwen en het vaststellen van criteria voor de betrouwbaarheid van opkomende technologieën binnen de verenigingen, bijeenkomsten, en professionele organisaties die opleiders, opvoeders, vernieuwers, onderzoekers en beleidsmakers .
Naast het ontvangen van informatie en uitleg over het gebruik van AI, moeten onderwijsleiders voorrang geven aan het informeren en betrekken van de onderwijsactoren zodat zij bereid zijn te onderzoeken hoe en wanneer AI past bij specifieke onderwijs- en leerbehoeften en welke risico's kunnen ontstaan. De privacy van gegevens is belangrijk, maar om het vertrouwen te versterken is meer nodig. Onderwijsgevenden hebben AI-systemen nodig die kunnen worden geïnspecteerd en uitgelegd, en die aangeven hoe mensen aanbevelingen die met behulp van AI zijn gedaan, terzijde kunnen schuiven.
Richt O&O op het aanpakken van de context en het vergroten van vertrouwen en veiligheid. Onderzoek dat zich richt op hoe AI-systemen zich kunnen aanpassen aan de context (diversiteit onder lerenden, verschillen inbenaderingen, verschillen in onderwijsomgeving) is essentieel voor het beantwoorden van de vraag "Werken specifieke toepassingen van AI in het onderwijs, en zo ja, voor wie en onder welke omstandigheden?" Onderzoekers en hun financiers dienen prioriteit te geven aan onderzoek naar AI en de grote variëteit aan leermogelijkheden en te zoeken naar vooruitgang in de wijze waarop AI contextuele overwegingen kan integreren zodra het patronen detecteert en aanbevelingen doet aan leerlingen en leraren. Voorts moeten onderzoekers meer aandacht besteden aan de vraag hoe het vertrouwen en de veiligheid in op AI gebaseerde onderwijssystemen kan worden vergroot.
De regelgeving inzake gegevensprivacy bestrijkt reeds onderwijstechnologie; verder is gegevensbeveiliging al een prioriteit bij onderwijstechnologie. Voor een veilige en effectieve AI in het onderwijs is betrokkenheid nodig vanuit alle gremia binnen en buiten het onderwijs-ecosysteem. Hiermee kan een reeks afspraken worden gemaakt, bijvoorbeeld met het oog op transparantie: de vrijwillige openbaarmaking of checklists voor de aanschaf van technologie) en vangnetten zoals verbeteringen van bestaande regelgeving of aanvullende eisen.