Onlangs werd ik gebeld door een journalist. Hij wilde mij spreken over de Kids Top 20, die tegenwoordig via social media-platformen TikTok en Instagram wordt gepresenteerd door een AI-presentatrice.

De journalist belde precies op het moment dat ik een online vergadering inliep. Sterker nog, ik dacht dat ik al met collega's verbonden was. Toen bleek dat ik een journalist aan de lijn had.

Na afloop van de vergadering las ik zijn e-mail met vragen en begon ik te werken aan een reactie. Op het moment dat ik die wilde versturen, verscheen er alweer een nieuw bericht. Een reactie was niet meer nodig; er was inmiddels een andere deskundige gevonden.

De journalist vroeg zich af of het verantwoord is dat kinderen kijken naar een presentatrice die niet bestaat, maar wel echt lijkt. En wat het met hen doet als niet direct duidelijk is dat zij naar een door kunstmatige intelligentie gegenereerde persoon kijken in plaats van naar een mens van vlees en bloed.

Het artikel kwam er zonder mijn bijdrage. Dat hoort bij de dynamiek van het nieuws. De vragen vond ik echter interessant genoeg om er in deze pedagogiekblog uitgebreider bij stil te staan.

Wat weten we al over AI-presentatoren?

Hoe ervaren kinderen een presentatrice die niet bestaat, maar wel echt lijkt? We weten nog relatief weinig over hoe kinderen AI-presentatoren beleven en welke gevolgen dat heeft voor hun ontwikkeling. Maar dat betekent niet dat we hier niets over weten. Al jaren wordt onderzoek gedaan naar zogenoemde pedagogical agents: digitale figuren die kinderen begeleiden, uitleg geven of ondersteunen bij het leren.

Daaruit blijkt dat kinderen niet alleen reageren op wat zo'n figuur zegt, maar ook op hoe het eruitziet, klinkt en zich presenteert. Kinderen schrijven eigenschappen toe aan digitale personages, ontwikkelen voorkeuren en bouwen soms zelfs een sociale relatie met hen op.

Ontwerpkeuzes zoals uiterlijk, stem en mate van menselijkheid kunnen daardoor invloed hebben op vertrouwen, betrokkenheid en motivatie. Tegelijk weten we nog opvallend weinig over wat dergelijke relaties op langere termijn betekenen voor ontwikkeling en leren.

De vraag naar echt en onecht is niet nieuw

Ook de vraag naar echt en onecht is niet nieuw. Al voor de komst van AI kregen kinderen beelden voorgeschoteld die een bepaalde versie van de werkelijkheid laten zien. Elke foto vertelt maar een deel van het verhaal.

Een beeld dat vanuit de ene hoek wordt genomen, kan een heel andere indruk wekken dan hetzelfde tafereel vanuit een andere hoek. Ook televisieprogramma's, reclames en sociale media laten nooit de volledige werkelijkheid zien, maar altijd een selectie daarvan.

Pedagogisch wordt het interessant wanneer beelden niet alleen iets laten zien, maar ook een werkelijkheid suggereren die er helemaal niet is. Denk aan influencers die een zorgvuldig geregisseerd beeld van hun leven presenteren, waardoor succes, schoonheid en geluk vanzelfsprekender lijken dan ze in werkelijkheid zijn.

Volledig door AI gecreëerd

In dat opzicht vormt de AI-presentatrice van de Kids Top 20 geen volledig nieuw vraagstuk. Zij past in een langere geschiedenis van media die de werkelijkheid selecteren, vormgeven en soms ook idealiseren. Wat AI toevoegt, is dat de persoon die kinderen zien niet langer een bewerkte weergave van een bestaand mens hoeft te zijn, maar volledig kunstmatig kan zijn gecreëerd.

De vraag hoe we moeten omgaan met een wereld waarin niet alles is wat het lijkt, beperkt zich niet tot kinderen. Zo bleek in 2021 dat zelfs politici werden misleid door een deepfake die zich voordeed als een medewerker van de inmiddels overleden Russische oppositieleider Aleksej Navalny. Pas achteraf bleek dat zij niet met de persoon zelf hadden gesproken, maar met een digitale imitatie.

Opvoeding begint met vertrouwen

Wat gebeurt er met intermenselijke interactie als vertrouwen in de authenticiteit daarvan minder vanzelfsprekend wordt? Als we bij elk beeld, elk bericht en elke ontmoeting eerst moeten nagaan of het wel echt is? Dat is niet uitsluitend een kwestie van digitale geletterdheid, het is breder en fundamenteler.

Opvoeding begint immers niet met wantrouwen, maar met vertrouwen. Vertrouwen in een ouder, een leraar, een vriend en uiteindelijk ook in de wereld om ons heen.

Dit lijkt mij uiteindelijk de grote pedagogische vraag die achter deze casus schuilgaat. Laten we voor het beantwoorden daarvan voldoende tijd nemen.

Marga Sikkema-de Jong is hoogleraar Onderwijs en Opvoeding in een Digitale Wereld aan de Universiteit Leiden. Zij onderzoekt hoe digitale technologieën – van interactieve prentenboeken tot sociale media en generatieve AI – het leren, de ontwikkeling en de sociale relaties van kinderen en jongeren beïnvloeden.