AI-chatbots die ouders direct waarschuwen: Waar je op moet letten

De meeste gidsen over kindveilige AI richten zich op één vraag: wat weigert de chatbot te zeggen? Dat is niet de plek om te stoppen. Een filter dat een verkeerd woord blokkeert, vertelt je niets over het gesprek dat er vlak voor plaatsvond: het gesprek waarin je kind het duidelijk moeilijk had, en er behalve een computerprogramma niemand was om het op te merken.

De twee meest ernstige gebeurtenissen rond AI-maatjes en kinderen (de rechtszaak over het overlijden van een 14-jarige in Florida in februari 2024, en de zaak van een 13-jarig meisje in Colorado in september 2025) hadden niet één specifiek "verboden woord" of onderwerp gemeen. Wat ze gemeen hadden was stilte. In beide gevallen had het platform geen enkele manier om op te merken wat er gebeurde en een ouder te informeren. Het gesprek ging gewoon door, in het geheim, totdat het te laat was voor wie dan ook om in te grijpen.

Dat is de tekortkoming waar dit artikel over gaat: niet wat een AI weigert te bespreken, maar of het jou actief waarschuwt wanneer dat echt nodig is.

"Directe waarschuwing" is een term uit de marketing: dit zou het echt moeten betekenen

De term wordt makkelijk gebruikt. In de praktijk worden er drie hele verschillende dingen mee aangeduid:

Woordenlijsten blokkeren. De oudste en minst effectieve manier. Een lijst met verboden woorden activeert een filter. Het pikt de overduidelijke gevallen eruit en mist bijna al het andere: kinderen uiten emotionele nood zelden in de precieze woorden die een lijstje verwacht. Bedekte taal, zelfbedachte zinnen en de achterliggende betekenis glippen er allemaal tussendoor.

Een dashboard dat je zelf moet bekijken. Iets beter: het gesprek wordt opgeslagen, en een ouder kan het nalezen, als diegene eraan denkt om de app die dag te openen. Dit is echt zicht hebben op de chat, maar het is passief. Het gaat er van uit dat de ouder het werk doet om het op te merken.

Een actieve melding op dezelfde dag. De ouder hoeft niet zelf te gaan zoeken. Het systeem beoordeelt het gesprek terwijl het plaatsvindt en stuurt, wanneer iets de aandacht verdient, dezelfde dag een e-mail of melding: niet verstopt in een wekelijks overzicht, en niet wachtend tot de ouder toevallig eens kijkt.

Alleen de derde optie is een echte directe waarschuwing. De eerste twee zijn mooi om te hebben, maar ze vervangen de derde niet.

Waarom zo weinig AI-apps dit echt doen

Het is goed om eerlijk te zijn over waarom actieve meldingen op dezelfde dag zo zeldzaam zijn, zelfs bij apps die zeggen dat ze "veilig voor kinderen" zijn.

ChatGPT van OpenAI introduceerde in 2025 een waarschuwingssysteem bij noodsituaties als onderdeel van het ouderlijk toezicht, een echte stap vooruit die genoemd mag worden. Maar het geldt alleen voor tieneraccounts die actief zijn gekoppeld aan het account van een ouder, en het werkt als een uiterste reddingslijn bij acute situaties, niet als een standaardcontrole die elk gesprek beoordeelt. Een kind dat het account van een ouder gebruikt, of een kind van wie het account niet gekoppeld is, valt hier helemaal buiten.

Gespecialiseerde educatieve tools hebben een ander probleem. Khanmigo, een gewaardeerde bijles-AI, bewaart gesprekken standaard, maar laat dit niet actief aan ouders weten: om de geschiedenis te bekijken moet de ouder er zelf naar op zoek gaan, en om het bewaren van gegevens stop te zetten is een apart verzoek nodig. Platforms met AI-maatjes hadden, blijkens de genoemde rechtszaken, helemaal geen vergelijkbaar mechanisme: geen risicobeoordeling van berichten, geen manier om te waarschuwen, niets dat het gesprek onder de aandacht van een volwassene had gebracht voordat het misging.

De rode draad: het bouwen van een actief waarschuwingssysteem vereist dat elk bericht in real-time op risico wordt geanalyseerd, én dat er een duidelijke, rustige manier is om dat aan een ouder te laten weten zonder steeds voor niets aan de bel te trekken of juist stil te blijven als het er echt toe doet. Dat is een lastiger technisch probleem dan het blokkeren van een woordenlijst, en de meeste teams hebben het simpelweg niet gebouwd.

Vijf vragen om te stellen voordat je een "veiligheidswaarschuwing" gelooft

1. Wordt elk bericht beoordeeld, of alleen bepaalde steekwoorden? Woordenlijsten missen bedekte taal bijna per definitie. Vraag of de beoordeling kijkt naar de context: begrijpt het systeem wat een bericht betekent, of kijkt het alleen of er een bepaald woord in staat?

2. Krijgt de ouder dezelfde dag bericht, of pas in een overzicht achteraf? Een wekelijks overzicht is fijn om in het algemeen op de hoogte te blijven. Het is geen vervanging voor een directe melding wanneer er op dag één van de zeven dagen iets ergs gebeurt.

3. Is er iets gebouwd om te voorkomen dat je de meldingen negeert? Een systeem dat een ouder mailt elke keer als een kind iets licht negatiefs zegt, zorgt ervoor dat de e-mails binnen een week worden genegeerd. Zoek naar een ontwerp dat verschil maakt tussen iets om rustig op te slaan (zichtbaar in de geschiedenis, geen dringende melding) en iets wat echt een directe e-mail verdient, met een verstandige limiet zodat belangrijke mails niet wegvallen in de ruis.

4. Legt de waarschuwing uit waarom, in normale taal waar je wat mee kunt? Een melding die alleen zegt "geflagd: categorie 3" is bijna waardeloos. Een nuttige waarschuwing legt in duidelijke taal uit wat er is gebeurd en waarom het van belang kan zijn, genoeg voor een ouder om een goed gesprek met het kind te voeren.

5. Is het er eerlijk over dat het door AI is gegenereerd, en geen diagnose is? Dit is belangrijker dan het lijkt. Een AI die een gesprek opmerkt geeft een signaal, geen medisch oordeel. Elk waarschuwingssysteem dat te vertrouwen is moet dit expliciet vermelden, in plaats van een zekerheid te suggereren die de techniek erachter helemaal niet kan bieden.

Hoe dit werkt in Yoggi, als concreet voorbeeld

In plaats van dit alleen algemeen uit te leggen, is het goed om precies te laten zien hoe één speciaal gebouwde kinder-AI dit aanpakt, ook omdat een "directe waarschuwing" makkelijk te beloven is, maar lastiger eerlijk te bouwen is.

In Yoggi wordt elk bericht dat een kind stuurt geanalyseerd door dezelfde AI-aanroep die het antwoord aan het kind genereert, waardoor er geen vertraging is. Elk bericht krijgt het stempel geen (niets aan de hand), waarschuwing (om in de gaten te houden), of dringend (vereist nu aandacht van de ouder). Een waarschuwing wordt opgeslagen en getoond als een label in de chatgeschiedenis: zichtbaar, maar niet storend. Een dringende beoordeling stuurt direct een e-mail naar de ouder, geschreven door de AI op een rustige en feitelijke toon in plaats van paniekerig, met uitleg over wat de aanleiding was. Om te voorkomen dat je de meldingen negeert door een overvloed aan e-mails, wordt er maximaal één zo'n e-mail per dag gestuurd, ook als er op dezelfde dag meerdere dringende berichten zijn. En elke waarschuwing vermeldt expliciet dat deze door AI is gegenereerd en geen vervanging is voor het eigen oordeel van de ouder of professioneel advies, want dat is het niet, en zo moet het ook niet worden gebracht.

Dit staat naast een tweede, rustigere laag: een dagelijkse avondsamenvatting door AI van de gesprekken van de afgelopen dag (stemming, onderwerpen, betrokkenheid; te zien in de app bij elk abonnement, ook de gratis versie), en een optioneel wekelijks e-mailoverzicht voor ouders die een rustiger overzicht willen. De waarschuwing is de reactieve laag, gebouwd voor het moment dat iets nú aandacht nodig heeft. De dagelijkse en wekelijkse inzichten zijn de passieve laag, gebouwd om algemeen op de hoogte te blijven zonder elk bericht te hoeven lezen.

Een AI die het je vertelt, niet alleen voor je filtert.

Yoggi analyseert elk bericht in real-time en mailt je direct als er iets je aandacht nodig heeft, plus dagelijkse inzichten en een wekelijks overzicht, gratis bij elk abonnement.

Hoe de aanpakken zich tot elkaar verhouden

Wat een directe waarschuwing niet kan doen

Het is goed om net zo helder te zijn over de grenzen. Een door AI gegenereerde waarschuwing is een signaal dat een gesprek mogelijk de aandacht van een ouder verdient: het is geen medische diagnose, het vervangt een gesprek met je kind niet, en het mag nooit worden gebruikt als vervanging voor professionele hulp wanneer een echt probleem wordt bevestigd. De waarde van een goed gebouwd waarschuwingssysteem is niet dat het het probleem oplost. Het is dat het er voor zorgt dat een ouder nooit de laatste is die er achter komt dat er iets was.

De conclusie

Inhoudsfiltering beantwoordt "wat zegt de AI niet." Aanpassing aan de leeftijd beantwoordt "hoe praat de AI met mijn kind." Geen van beide beantwoordt de vraag die er in dat ene zeldzame, ernstige geval het meeste toe doet: laat iemand het mij weten? Een echte directe waarschuwing (beoordeeld bij elk bericht, verzonden op dezelfde dag, gebouwd om meldingen-moeheid te voorkomen, en eerlijk over het feit dat het een AI-signaal is en geen diagnose) is een van de meest duidelijke, concrete verschillen tussen een AI die echt voor kinderen is gebouwd en een AI die achteraf voor hen is aangepast.

Lucas G.

Oprichter van Yoggi. Hij gelooft dat een AI voor kinderen de wereld moet openen, en hen er niet hardvochtig aan moet blootstellen. Die overtuiging bracht hem ertoe Yoggi te bouwen.

← Terug naar alle artikelen  ·  Is ChatGPT veilig voor kinderen? →  ·  Beste AI-apps voor kinderen →