Chatbots en Generatieve AI

In Slim Zoeken gaat het steeds over informatief zoeken. Dat is ook de benadering die we hier kiezen voor generatieve AI. In chatbots en aanverwante tools is de informatieve kwaliteit per definitie wisselvallig.

Praktische training in het omgaan met bronnen (wie maakt iets en waarom?) moet echt prioriteit krijgen in het onderwijs. Samen met kennis over wat chatbots zijn en wel/niet kunnen. AI-geletterdheid begint bij een kritische grondhouding.

Chatbots zijn op talloze manieren in te zetten, maar we zijn hier niet creatief of persoonlijk bezig, we richten ons op informatieve kwaliteit. En de informatieve kwaliteit is per definitie wisselvallig in chatbots en aanverwante tools.

De links Chatbots en Een chatbot als bron? geven basisinformatie over informatief zoeken met chatbots. Ze zijn onderdeel van de leerling-informatie op basis.slimzoeken.nu

Je leest daarin ook dat wij geen voorstander zijn van de inzet van AI-chatbots op de basisschool. “Je moet heel goed kunnen lezen en zelf al veel weten om een chatbot goed te kunnen gebruiken”. Daarom verschilt dezelfde pagina Een chatbot als bron? op online.slimzoeken.nu nogal van die voor kinderen.

Chatbots en informatief zoeken

Afhankelijk van je prompts en je profiel zal een chatbot vaak met redelijk informatieve inhoud komen. Maar gebruik een chatbot nooit exclusief voor de informatie. Gebruik de antwoorden om op ideeën te komen en controleer de informatie altijd bij vertrouwde bronnen.
Houd er rekening mee dat chatbots met incomplete, telkens andere en soms onzinnige antwoorden kunnen komen. Chatbots ‘weten’ niks, maar genereren wel geloofwaardige teksten. Er zijn altijd mensen nodig om de uitkomsten op waarde te schatten.
Vraag een chatbot niet om tekst in kindertaal te genereren of een antwoord te geven als ‘uitleg voor iemand van 10 jaar’. Daar gaat de chatbot eerder kinderachtig dan begrijpelijk van schrijven. De beeldspraak die bijvoorbeeld zo vrij standaard opduikt, lijkt op het eerste gezicht misschien boeiend, maar veel beeldspraak schept juist verwarring, roept extra vragen op of vergt een grotere woordenschat. Een goede metafoor verzinnen vraagt inzicht in context en het kind.

Een geslaagde toevoeging aan je prompt is wel: Als tekst voor leken. Een leek is iemand die ergens nog niet veel van weet, maar de leeftijd wordt dan buiten beschouwing gelaten.*

Een voorbeeld: “Hoe leg ik een metafoor simpel uit aan een 6-jarige?”. Chatbot: “Een metafoor is een soort taaltoverkunst. Dat betekent dat je zegt dat iets ergens anders op lijkt, zonder erbij te zeggen ‘als’ of ‘zoals’. Bijvoorbeeld: als je zegt ‘mijn kamer is een zwijnenstal’, bedoel je dat het heel rommelig is, maar je kamer is natuurlijk geen echte stal met varkens erin. Het is gewoon een grappige en makkelijke manier om te zeggen dat het heel rommelig is. Zo maak je met woorden een plaatje in je hoofd.”

Lijkt simpel maar roept ook weer allerlei vragen op. Taaltoverkunst? Als, zoals? Zwijnen?

* Formuleer je prompt overigens zo precies mogelijk. Alleen een simpele vraag is vaak niet genoeg: Wat is zwaartekracht? Geef een wetenschappelijk accuraat antwoord, maar als tekst voor leken.De eerste twee alinea’s zijn een duidelijk begin. Ook beter dan alleen: “Wat is zwaartekracht? – als tekst voor leken”, want daar is het onderwerp te complex voor.

Vaardighedenkloof

We spreken in het algemeen ook van een vaardighedenkloof in de context van AI en LLM’s. Dat betekent dat in het algemeen veel mensen niet over de juiste competenties beschikken om:

Effectieve prompts te formuleren
AI-gegenereerde informatie kritisch te beoordelen
Bias en fouten in AI-antwoorden te herkennen
De betrouwbaarheid van LLM outputs te evalueren

Voor leerlingen in het basisonderwijs is dit een dubbel probleem. Hun basiskennis is zich aan het opbouwen en informatievaardigheden zijn geen dagelijks onderwerp in de klas (dat zou het in al z’n facetten wel moeten zijn). Bij antwoorden van chatbots geldt hetzelfde pijnpunt als bij zoekresultaten beoordelen: er wordt wel gezegd ‘je moet wel de betrouwbaarheid controleren’. Maar krijgt betrouwbaarheid bepalen (voor uiteenlopende situaties) wel structureel aandacht? Toch essentieel in bovenstaande competenties.

Wijs leerlingen allereerst de weg naar betrouwbare bronnen, leer ze te zoeken naar de makers en het doel van een bron. En bespreek samen de ins en outs van kwaliteit en bruikbaarheid van informatie.

Praat je over AI-geletterdheid? Dan hoort kritisch beoordelen van informatie daarbinnen met stip op 1.

Je leert het door het samen te oefenen en te bespreken. Ga-in-gesprek-over-online-ervaringen

Wissel uit

Chatbots en generatieve AI duiken op allerlei plekken in het leven van leerlingen op. En vragen soms naar iemands eigen ervaringen en wensen. Waarom zou je daar op in willen gaan? Wat is ieders beeld van het ding waar je mee praat? Zorg voor een wekelijkse uitwisseling over online ervaringen, van welke aard dan ook. Gesprekken waarin je ook ervaringen met chatbots tegen het licht houdt. Juist ook de semi-persoonlijke delen van de gesprekken.
Dat hoeft zeker niet steeds klassikaal, alleen al het feit dat er onderling kritisch gekeken wordt naar de toon en naar informatie is belangrijk. In je eentje laat je je makkelijker foppen.
Stel bijvoorbeeld een chat-redactie aan in de klas, met een wisselende samenstelling. In die redactie gaat een groepje leerlingen aan de slag met de kwaliteit van chatbot-antwoorden. Ze checken de genoemde bronnen en vergelijken die met vertrouwde betrouwbare bronnen. De uitkomsten kunnen dan in de klas besproken worden.
Onderzoek ook in je team de uitkomsten van generatieve AI en de bruikbaarheid en geloofwaardigheid voor leren, via het regelmatig bestuderen van de antwoorden. Bekijk en bespreek de voordelen en de risico’s permanent met elkaar.

Zelf of samen aan de slag met chatbots? Lees dit boek van Barend Last & Thijmen Sprakel. Volg ook Barend Last op LinkedIn. Hij tipt regelmatig goed bruikbare informatie over AI en onderwijs.

Lees ook de blogs van hoogleraar/docent (didactiek van de) informatica Felienne Hermans en van docent Engels Wouter de Jong