Er is veel discussie over of ChatGPT en andere LLM’s op ethische wijze kunnen worden ingezet. Zouden deze toepassingen eigenlijk wel moeten worden gebruikt in het onderwijs? Docenten en jongeren moeten zich op z’n minst bewust zijn van de volgende vijf punten.

1. Privacy

Het is onduidelijk wat er met privacygevoelige informatie gebeurt wanneer deze wordt ingevoerd in ChatGPT. De chatbot biedt de optie om je gesprek automatisch te verwijderen bij het verlaten van de website. OpenAI, de ontwikkelaar van ChatGPT, zegt deze gegevens dan niet op te slaan. Toch is het aan te raden om nooit privacygevoelige gegevens zoals namen, adresgegevens of andere persoonlijke informatie over iemand te delen met ChatGPT. Jongeren moeten hier vaak nog bewust van worden gemaakt.

2. Vooroordelen

Uit verschillende onderzoeken is gebleken dat door AI gegenereerde antwoorden vooroordelen (ook wel bias genoemd) kunnen bevatten. Omdat ze zijn ‘gevoed’ met door mensen gemaakte teksten, komen in de antwoorden van ChatGPT en andere taalmodellen de vooroordelen die onder mensen bestaan ook terug. ChatGPT kan daarom onder meer racistische en seksistische ideeën reproduceren. Daarom moet een door een taalmodel gegenereerd antwoord nooit kritiekloos worden aangenomen. Het is helaas niet mogelijk om ChatGPT simpelweg te vragen om vooroordelen te voorkomen. Het taalmodel kan geen onderscheid maken tussen objectieve kennis en bias in de datasets waarop het is getraind. Wel is ChatGPT zo ontworpen dat het op ongepaste verzoeken normaliter niet zou moeten ingaan. De chatbot weigert dus over het algemeen (mensen)rechten te schenden, discriminatie te promoten, of opzettelijk een persoon te misleiden.

3. Kansengelijkheid

Tijdens de coronapandemie is gebleken dat niet elke jongere over dezelfde technologische hulpmiddelen beschikt. Soms is hun wifi onbetrouwbaar of moeten broers en zussen thuis op dezelfde laptop werken. Dit heeft ook zijn uitwerking op het (thuis)gebruik van AI-toepassingen. Bovendien wordt het verschil tussen jongeren versterkt doordat de betaalde versies van AI tools gegevens van hogere kwaliteit genereert. Wie zich dat niet kan veroorloven, kan onderwijsopdrachten misschien minder goed uitvoeren. En dat werkt ook later nog door: sommige werkgevers zullen zoeken naar mensen met ervaring met zulke betaalde versies. Als laatste kan ook tussen klassen of werkgroepen kansenongelijkheid worden vergroot. Jongeren die toevallig een docent treffen die ChatGPT veel gebruikt in opdrachten, zullen vaardiger worden in het toepassen van AI in hun studie en werk dan groepen met een AI-schuwe docent. 

4. Duurzaamheid

De milieu-impact van generatieve AI is fors. Taalmodellen en andere toepassingen vragen veel energie en veel apparatuur. Zo staat volgens sommige schattingen het jaarlijks energieverbruik van ChatGPT gelijk aan dat van 130.000 Nederlandse huishoudens. En dit verbruik neemt toe. Ieder antwoord van ChatGPT zorgt daarom voor CO2-uitstoot, wat bijdraagt aan de klimaatcrisis. Docenten en jongeren moeten dus goed overwegen waarvoor en hoe vaak zij ChatGPT gebruiken.

5. Auteursrechten

LLM’s zoals ChatGPT zijn getraind met talloze datasets van over de hele wereld. Alle informatie die toegankelijk is op het internet kan worden gebruikt om antwoorden te genereren. Hierdoor is het onmogelijk om te achterhalen welke bronnen ten grondslag liggen aan een bepaald antwoord. Dit betekent dat gebruikers kritisch moeten reflecteren op de gegeven informatie. Gegenereerde teksten kunnen alleen voorzien worden van de juiste bronvermelding als ChatGPT wordt gevraagd de informatie rechtstreeks van het internet te halen. Deze bronnen moeten alsnog worden gecheckt. Zo heeft de New York Times in 2023 Microsoft en OpenAI aangeklaagd omdat de krant meent dat haar artikelen zijn gebruikt om de taalmodellen te trainen. Veel media vrezen schendingen van auteursrechten.