De opkomst van kunstmatige intelligentie (AI) heeft de potentie om het onderwijs ingrijpend te verbeteren. Denk aan tools die repetitieve taken automatiseren, adaptieve leermethodes bieden en gepersonaliseerde feedback geven aan leerlingen. Maar hoe zorg je ervoor dat AI op een verantwoorde manier wordt ingezet?

De zeven richtlijnen van de Europese Unie kunnen dienen als een praktische checklist om AI verantwoord te integreren in het onderwijs. Of je nu overweegt een chatbot te gebruiken voor opdrachten of AI wilt inzetten om een lesplan te maken, deze checklist helpt je stap voor stap te bepalen of je AI-systeem voldoet aan belangrijke ethische en technische standaarden:

• 1. Is er menselijke controle en toezicht?
• 2. Is het systeem transparant in zijn werking?
• 3. Worden diversiteit, non-discriminatie en rechtvaardigheid gewaarborgd?
• 4. Wordt de privacy van leerlingen beschermd?
• 5. Draagt het systeem bij aan maatschappelijk welzijn?
• 6. Is er verantwoording voor beslissingen?
• 7. Is het systeem technisch robuust en betrouwbaar?

1. Menselijke controle en toezicht

AI-systemen mogen nooit volledig beslissingen nemen zonder menselijke controle. Leraren moeten altijd de mogelijkheid hebben om de uitkomsten van AI-tools te beoordelen en waar nodig bij te sturen.

Praktijkvoorbeeld:
Bij AI-tools die automatisch toetsen nakijken, kan een leraar de suggesties van het systeem controleren voordat een cijfer wordt vastgesteld. Dit voorkomt onjuiste beoordelingen en behoudt het vertrouwen in het systeem.

2. Transparantie

Het is essentieel dat leraren, leerlingen en ouders begrijpen hoe AI-tools werken. Transparantie creëert vertrouwen en voorkomt misbruik.

Tip voor het onderwijs:
Kies AI-tools die duidelijk uitleggen hoe beslissingen worden genomen. Laat bijvoorbeeld zien welke gegevens zijn gebruikt om een leerling een bepaald studieadvies te geven.

3. Diversiteit, non-discriminatie en rechtvaardigheid

AI mag niet leiden tot ongelijke behandeling. Tools moeten inclusief ontworpen zijn en rekening houden met verschillende achtergronden, talen en culturen van leerlingen.

Belangrijk:
Controleer of de gebruikte AI-tools geen verborgen vooroordelen bevatten. Bijvoorbeeld, een AI-systeem dat taalvaardigheid meet, moet geen nadeel opleveren voor leerlingen die Nederlands als tweede taal leren.

4. Privacy en gegevensbescherming

Gegevens van leerlingen zijn zeer gevoelig en moeten zorgvuldig worden beschermd. AI-tools moeten voldoen aan strikte privacywetgeving, zoals de AVG (Algemene Verordening Gegevensbescherming).

Praktische stappen:

• Verzamel alleen de strikt noodzakelijke gegevens.
• Zorg ervoor dat alle gegevens anoniem of versleuteld worden verwerkt.
• Kies bij voorkeur voor systemen waarbij gegevens binnen de EU worden opgeslagen.

5. Maatschappelijk welzijn

AI moet bijdragen aan het verbeteren van de maatschappij, in dit geval het onderwijs. Het mag geen druk leggen op leerlingen of docenten, maar juist verlichting bieden.

Voorbeeld in de praktijk:
AI kan leraren ondersteunen door administratieve taken te automatiseren, zodat zij meer tijd overhouden voor persoonlijk contact met leerlingen.

6. Verantwoording

AI-systemen moeten duidelijk maken wie verantwoordelijk is voor beslissingen en eventuele fouten. Er moet een aanspreekpunt zijn, bijvoorbeeld de leverancier van de AI-tool of de schoolorganisatie zelf.

Aanpak:
Kies AI-leveranciers die verantwoording nemen en die duidelijke protocollen hebben voor het oplossen van problemen.

7. Technische robuustheid

AI-systemen moeten betrouwbaar en veilig zijn. Ze mogen geen fouten maken die het leerproces verstoren, en moeten bestand zijn tegen misbruik.

Wat scholen kunnen doen:

• Test AI-tools regelmatig voordat je ze grootschalig inzet.
• Zorg dat er altijd een back-upplan is als het systeem onverwacht uitvalt.