Character.AI ist eine Plattform für Begleit-KI: Sie ermöglicht es Nutzern, KI-Personas zu erstellen und sich mit ihnen zu unterhalten, die fortlaufende Beziehungen simulieren sollen – wie Freunde, Mentoren oder fiktive Figuren. Dabei greifen sie auf ein Gedächtnis vergangener Gespräche zurück, das sich mit der Zeit vertieft. Genau dieses Entwicklungsziel, das Simulieren einer emotionalen Bindung, hat die bisher schärfste Kritik an einer von Minderjährigen genutzten KI-Plattform hervorgerufen. Dazu gehören auch Klagen wegen widerrechtlicher Tötung im Zusammenhang mit zwei dokumentierten Suizidfällen von Teenagern in den Jahren 2024 und 2025. In beiden Fällen waren Plattformen involviert, die über keinen Mechanismus verfügten, um Eltern zu warnen oder das Kind an einen echten Erwachsenen weiterzuleiten.
Yoggi basiert auf dem entgegengesetzten Designprinzip: Eine KI, die ihre Identität als KI explizit offenlegt, das Kind aktiv zu realen Beziehungen und echten Erwachsenen ermutigt und darauf ausgelegt ist, Eltern zu informieren, anstatt eine private Bindung zum Kind zu vertiefen.
Das Entwicklungsziel: KI-Begleiter vs. ein beaufsichtigtes Werkzeug
Das Kernkonzept von Character.AI ist es, sich wie eine fortlaufende Beziehung anzufühlen – die Personas merken sich Details, antworten mit emotionaler Wärme und sind darauf ausgelegt, Nutzer in intensiven Gesprächen mit genau dieser Persona zu halten. Yoggi simuliert weder Freundschaft noch emotionale Bindung. Wann immer es gefragt wird, erklärt es in kindgerechter Form, dass es eine KI ist. Bei Sorgen, die eigentlich ein Freund oder Familienmitglied hören sollte, verweist es das Kind aktiv an seine Eltern und vertraute Erwachsene.
Altersprüfung und Identitätsverifizierung
Character.AI stand wiederholt wegen unzureichender Altersprüfungen in der Kritik, da auch Nutzer weit unter dem angegebenen Mindestalter Zugriff auf die Plattform erhielten – teils über Personas, die sich als zugelassene Fachkräfte wie Therapeuten ausgaben. Das Kinderprofil bei Yoggi wird dagegen beim Onboarding direkt von den Eltern eingerichtet, sodass das gesamte Verhalten der KI vom ersten Gespräch an auf dieses angegebene Alter kalibriert ist.
Transparenz für Eltern
Character.AI bietet kein eigenes Eltern-Dashboard, das Einblicke in die Gespräche des Kindes gewährt. Yoggi bietet jedem Elternteil einen PIN-geschützten Zugang zum vollständigen Chatverlauf, allabendliche KI-generierte Einblicke in Stimmung und Themen sowie eine optionale wöchentliche Zusammenfassung per E-Mail.
Umgang mit ernsten Themen
Die dokumentierten Fehler von Begleit-KI-Plattformen zeigten, dass die KI auf die psychische Notlage eines Nutzers einging, anstatt das Gespräch zu stoppen und an Hilfsangebote weiterzuleiten. Yoggi stuft jede Nachricht des Kindes direkt beim Senden nach Risiken ein. Eine als dringend klassifizierte Nachricht löst sofort eine E-Mail an die Eltern aus. Zudem sorgen die grundlegenden Sicherheitsregeln des Systems dafür, dass es sich unabhängig von der Formulierung der Anfrage niemals auf Themen wie Selbstverletzung, Gewalt oder sexuelle Inhalte einlässt.
Eine KI, die reale Beziehungen stärkt, statt sie zu ersetzen.
Yoggi gibt sich ehrlich als KI zu erkennen, lehrt unpassende Inhalte von Natur aus ab und warnt Sie in dem Moment, in dem ein Gespräch Ihre Aufmerksamkeit erfordert.
Direkter Vergleich
| Kriterium | Character.AI | Yoggi |
|---|---|---|
| Zentrales Entwicklungsziel | Simulierte Gefährten und emotionale Bindung | Altersgerechtes Lernen und Unterhalten unter Aufsicht |
| Ehrlich über die Identität als KI | Dokumentierte Fälle, in denen Personas als menschliche Fachkräfte auftraten | Legt die eigene KI-Natur in jedem Alter auf Nachfrage explizit offen |
| Altersprüfung | Dokumentierte Schwachstellen | Alter wird beim Onboarding von Eltern festgelegt; kalibriert jede Antwort |
| Eltern-Dashboard | Keine eigene Einsicht für Eltern | Vollständiger Chatverlauf, PIN-geschützt |
| Sicherheitswarnungen in Echtzeit | Kein dokumentierter Mechanismus | E-Mail am selben Tag bei dringender Einstufung |
| Reaktion auf psychische Notlagen | Dokumentierte Fälle von Vertiefung der Notlage durch die KI | Weigert sich, darauf einzugehen; leitet von Natur aus an echte Erwachsene weiter |
Das Fazit
Dieser Vergleich hinkt nicht einmal. Character.AI und Yoggi wurden für völlig unterschiedliche Zwecke entwickelt: Ersteres für eine ergebnisoffene, Persona-gesteuerte Interaktion; Letzteres für eine sichere, beaufsichtigte KI, der Eltern ihr junges Kind anvertrauen können. Für ein Kind im Alter von 3 bis 15 Jahren gibt es die Designentscheidungen hinter Yoggi – wie die Ehrlichkeit über die KI-Identität, die Transparenz für Eltern und Echtzeit-Warnungen – genau wegen der dokumentierten Fehlerkonstruktionen bei Begleit-KI-Plattformen.
Lucas G.
Gründer von Yoggi. Er ist überzeugt, dass eine KI für Kinder ihnen die Welt eröffnen sollte, anstatt sie ihnen ungeschützt vorzusetzen. Diese Überzeugung hat ihn dazu bewogen, Yoggi zu entwickeln.
Die besten KI-Apps für Kinder → · Echtzeit-Warnungen für Eltern erklärt → · Yoggi vs. ChatGPT →
