Muchas guías sobre IA infantil se limitan a preguntar: ¿qué se negará a decir el chatbot? Es un enfoque incompleto. Un filtro que bloquea palabras no informa sobre la conversación previa: esa en la que el niño mostraba malestar y solo un algoritmo estaba al otro lado.
Los dos casos graves documentados sobre IA de compañía y menores (en Florida en febrero de 2024 con un menor de 14 años y en Colorado en septiembre de 2025 con una niña de 13 años) no compartían una lista de palabras prohibidas. Compartían el silencio. En ambos casos, la plataforma carecía de un sistema para detectar lo que ocurría y avisar a los padres. La conversación continuó a solas hasta que fue tarde.
Ese es el punto central: no solo lo que la IA rechaza hablar, sino si avisa activamente cuando debe hacerlo.
«Alerta en tiempo real» es una promesa habitual: qué debería significar en la práctica
El término se emplea con ligereza. En el mercado se cruzan tres conceptos diferentes bajo la misma denominación:
Bloqueo por palabras clave. El método más antiguo. Una lista de términos activa un filtro. Funciona con lo evidente pero pasa por alto lo demás: los menores rara vez expresan su malestar con los términos exactos de una lista. El lenguaje indirecto, las metáforas o el contexto quedan sin detectar.
Un panel que debes revisar tú mismo. Algo mejor: la conversación se registra y los padres pueden leerla si se acuerdan de entrar en la app. Es visibilidad, pero pasiva. Depende de que el adulto entre a mirar.
Una notificación activa en el día. El adulto no tiene que buscar. El sistema analiza la charla en el momento y, si detecta algo relevante, envía un correo o aviso el mismo día: sin esperar al resumen semanal ni a que entres a revisar.
Solo la tercera opción constituye una alerta en tiempo real. Las dos primeras son útiles, pero no la sustituyen.
Por qué pocas apps lo ofrecen realmente
Conviene ser claros sobre por qué los avisos inmediatos son poco habituales, incluso en apps que se anuncian como «seguras para niños».
ChatGPT de OpenAI incorporó un aviso de emergencia en sus controles parentales de 2025, lo cual es un paso adelante positivo. Sin embargo, solo se aplica a cuentas de adolescentes vinculadas formalmente con un adulto y actúa ante situaciones agudas, no como una revisión continua de cada mensaje. Si el menor usa la cuenta del adulto o no está vinculada, no dispone de esa función.
Las herramientas educativas presentan otra situación. Khanmigo guarda historiales pero no notifica de forma activa a los padres: consultar las charlas exige entrar a mirarlas, y desactivar el guardado de datos requiere un trámite manual. Las plataformas de IA de compañía carecían de sistemas equivalentes: sin análisis de riesgo en los mensajes ni vías de aviso para trasladar la información a un adulto.
El fondo de la cuestión: crear un sistema de alertas activo exige analizar el riesgo de cada mensaje al momento y transmitirlo de forma serena a los padres, evitando falsas alarmas continuas pero sin callar cuando importa. Es un reto técnico superior a bloquear una lista de palabras, y pocas plataformas lo han desarrollado.
Cinco preguntas antes de confiar en una «alerta de seguridad»
1. ¿Se analiza cada mensaje o solo términos concretos? Las listas de palabras no detectan el lenguaje indirecto. Averigua si el análisis comprende el contexto de la frase o solo busca términos marcados.
2. ¿Recibes el aviso el mismo día o en un informe periódico? Un resumen semanal es útil para seguimiento general. No sirve si ocurre algo relevante el primer día del periodo.
3. ¿Existen filtros para evitar el exceso de avisos? Un sistema que envía correos por cualquier comentario negativo acabará siendo ignorado por los padres. Busca una estructura que diferencie lo reseñable (visible en historial) de lo urgente (correo inmediato), con límites razonables.
4. ¿El aviso detalla el motivo con claridad? Un mensaje que diga «marcado: categoría 3» aporta poco. Un aviso útil explica de forma sencilla qué ha ocurrido y por qué importa, permitiendo hablar con el hijo con información.
5. ¿Aclara que es un análisis de IA y no un diagnóstico? Es un aspecto relevante. Un aviso de IA es una señal de atención, no una valoración clínica. El sistema debe indicarlo con transparencia sin atribuirse certezas que la tecnología no posee.
El funcionamiento en Yoggi como ejemplo concreto
En lugar de explicarlo de forma teórica, mostramos cómo lo aborda una IA pensada para niños, dado que la promesa de «alertas en tiempo real» es fácil de enunciar pero requiere desarrollo riguroso.
En Yoggi, cada mensaje del menor se analiza en la propia llamada que genera la respuesta, sin demoras. Se clasifica como ninguno (sin novedad), advertencia (conviene supervisar) u urgente (requiere atención de los padres). Las advertencias se guardan con un icono en el historial: visible pero discreto. La clasificación urgente envía un correo inmediato al adulto, redactado por la IA con un tono sereno y explicativo sobre el motivo de la atención. Para evitar la saturación de avisos, se envía como máximo un correo de este tipo por día de uso. Cada correo especifica que se trata de un análisis automatizado por IA y que no reemplaza el criterio de los padres ni el asesoramiento profesional.
Esto se complementa con un segundo nivel más tranquilo: un informe diario nocturno redactado por IA sobre la jornada previa (ánimo, temas, participación, disponible en la app en todos los planes) y un resumen semanal por correo opcional. La alerta responde al momento de urgencia; los informes diarios y semanales facilitan el seguimiento cotidiano sin necesidad de leer cada texto.
Una IA que te informa, no solo filtra.
Yoggi analiza cada mensaje en tiempo real y te envía un correo inmediato si surge algo relevante, además de ofrecer informes diarios y resúmenes semanales, gratis en todos los planes.
Comparativa de enfoques
| Criterio | IA General (ChatGPT) | IA de compañía (Character.AI, Meta AI) | IA infantil específica (ej. Yoggi) |
|---|---|---|---|
| Evalúa el riesgo de cada mensaje | Parcial: señales de comportamiento, solo adolescentes | Sin mecanismo documentado | Sí: cada mensaje, en la misma llamada de respuesta |
| Notificación a padres el mismo día | Último recurso, solo cuentas vinculadas | No | Sí: correo inmediato tras detectar urgencia |
| Prevención del exceso de avisos | No detallado / no documentado | No aplica: carece de alertas | Sí: limitado a un correo urgente por día |
| Aclara que el aviso es de IA y no diagnóstico | No especificado con claridad | No aplica | Sí: indicado de forma explícita en cada aviso |
| Disponible en el plan gratuito | Requiere vincular cuenta de adolescente | No aplica | Sí: gratis en todos los planes |
Lo que una alerta en tiempo real no puede hacer
Conviene ser claros con los límites. Un aviso generado por IA es un indicador de que una charla puede requerir la atención de los padres: no es un diagnóstico de salud mental, no sustituye la conversación con tu hijo y jamás debe reemplazar la ayuda profesional si se confirma un problema. El valor de un sistema de alertas es garantizar que los padres no sean los últimos en enterarse si algo ocurre.
Conclusión
El filtro de contenidos responde a «qué no dirá la IA». La adaptación por edad responde a «cómo le habla la IA a mi hijo». Ninguna de las dos resuelve la duda principal en un caso relevante: ¿alguien me avisará? Una alerta en tiempo real genuina (que analice cada mensaje, avise en el día, evite la saturación de correos y sea transparente sobre su naturaleza de IA) es una de las diferencias más claras entre una IA creada para niños y otra adaptada a posteriori.
Lucas G.
Fundador de Yoggi. Considera que la IA para niños debe abrirles el mundo, no exponerlos a él sin defensas. Esa certeza le llevó a crear Yoggi.
← Volver a los artículos · ¿Es ChatGPT seguro para niños? → · Las mejores apps de IA para niños →
