Hinter der Token-Grenze: Warum KI-Begleiter den Kontext verlieren
Die meisten KI-Begleiter starten messerscharf und werden dann vage. Nicht weil das Modell das Interesse verliert – sondern weil Teile des Gesprächs aus seinem Sichtfenster fallen.
Die Illusion von Erinnerung
Die erste Stunde mit einem typischen KI-Begleiter ist unheimlich. Er nimmt den Faden wieder auf, erinnert sich an den Namen deiner Schwester, kommt auf den Streit von vor zwei Szenen zurück. Es fühlt sich an, als würde man dich kennen.
Dann, irgendwo um die dreißigste Nachricht herum, beginnt er abzudriften. Er fragt etwas, das du längst beantwortet hast. Eine Figur, die den Raum verlassen hat, spricht plötzlich wieder. Die Wunde von gestern ist verheilt, ohne dass sie jemand versorgt hätte.
Nichts ist kaputtgegangen. Du hast nur den Rand dessen erreicht, was das Modell sehen kann.
Ein Sprachmodell hat zwischen einzelnen Aufrufen kein Gedächtnis. Jede Runde ist eine neue Anfrage, die den gesamten Gesprächsverlauf mit sich trägt – und diese Anfrage hat eine Größenbegrenzung: das Kontextfenster. Wird es überschritten, fällt das älteste Material heraus. Deine ersten Szenen rutschen hinten hinaus, und aus Sicht des Modells haben sie nie stattgefunden.
Wie Kontextverlust wirklich aussieht
In den meisten Begleiter-Apps ist das Scheitern selten dramatisch. Es ist ein schleichender Verlust an Genauigkeit – weshalb man dem Modell so leicht unterstellt, es sei „faul“.
- Namen verschwimmen. Zwei Nebenfiguren werden zu einer, oder ein Name wird für jemanden Neuen wiederverwendet.
- Versprechen verpuffen. Eine Figur, die geschworen hat, dich am Hafen zu treffen, weiß plötzlich nicht mehr, wovon du redest.
- Die Einsätze werden zurückgesetzt. Die Schuld, die Verletzung, das Geheimnis, das jemand bewahrt – die Handlung entspannt sich leise zurück in den Neutralzustand.
- Feststehende Fakten kippen. Eine Figur, die nicht schwimmen kann, geht schwimmen.
Jeder einzelne Fall ist vielleicht nur ein Achselzucken. Zusammen machen sie den Unterschied zwischen einer Geschichte und einer Reihe angenehmer, zusammenhangloser Szenen aus – und erklären, warum langes Rollenspiel so oft versandet, statt zu enden.
Vier Wege, die Vergangenheit festzuhalten
Vier Ansätze sind verbreitet, und jeder scheitert an einer anderen Stelle.
| Ansatz | Wie er die Vergangenheit hält | Wo er bricht |
|---|---|---|
| Gleitendes Fenster | Die letzten N Nachrichten, wortgetreu | Alles Ältere ist einfach weg. Perfekte Erinnerung innerhalb des Fensters, völlige Amnesie außerhalb. |
| Sehr großes Fenster | Zehntausende oder Hunderttausende Tokens, wortgetreu | Kosten und Latenz steigen mit jeder Runde, und die Aufmerksamkeit wird über die Mitte eines langen Kontexts hinweg dünn – das Modell kann ein Detail sehen und es dennoch nicht gewichten. |
| Vektorsuche (RAG) | Frühere Nachrichten werden eingebettet und nach Ähnlichkeit durchsucht | Liefert Text zurück, der ähnlich klingt. Sie kennt nicht, was gerade wahr ist; daher sehen ein Fakt und seine spätere Korrektur gleichermaßen passend aus. |
| Strukturierter Geschichtenstatus | Fakten, Figuren, Beziehungen und Ereignisse werden festgehalten, sobald sie geschehen | Erfordert echte Pflege und ist immer nur so gut wie das, was notiert wird – was nicht erfasst ist, geht verloren. |
Ich wollte eine Welt, die Dinge aufschreibt. Wenn sie sich an euren dritten gemeinsamen Abend erinnert, dann weil sie wirklich dabei war.
Gründer, projectDigo
Warum ein größeres Fenster keine Antwort ist
Die naheliegende Lösung ist ein riesiges Fenster. Sie ist zugleich die teuerste – und leistet nicht das, was man sich davon verspricht.
Der gesamte Kontext wird in jeder einzelnen Runde erneut gesendet und gelesen. Ein Gespräch mit hunderttausend Tokens Vorgeschichte zahlt also bei jeder Nachricht erneut dafür – und wartet länger auf jede Antwort. Schlimmer noch: Ein Modell liest einen sehr langen Kontext nicht gleichmäßig. Was deine Figur vor vierzig Szenen gesagt hat, kann technisch vorhanden und praktisch unsichtbar sein.
Ein großes Fenster verschafft Zeit. Es verändert die Form des Problems nicht, denn das Problem ist nicht die Kapazität – sondern dass nichts entscheidet, was wichtig ist.
Was wir stattdessen tun
projectDigo führt Buch über die Geschichte.
Was zählt – wer existiert, was zwischen den Figuren geschehen ist, was gerade wahr ist – bleibt als eigener Zustand der Geschichte erhalten, statt in einem Gespräch zu liegen, das irgendwann aus dem Blick scrollt. Spätere Szenen werden auf diesem Zustand aufgebaut. Szene vierhundert weiß, was Szene drei festgelegt hat, weil Szene drei erfasst wurde und nicht bloß gesagt.
Wie dieser Bestand entsteht, aktuell bleibt und wieder eingesetzt wird, daran haben wir am längsten gearbeitet – und diesen Teil behalten wir für uns. Was er ermöglicht, ist einfach genug: Kontinuität, die hält, egal wie lange du spielst.
Der ehrliche Kompromiss
Das gibt es nicht umsonst. Einen Bestand zu pflegen, bedeutet pro Szene mehr Arbeit, als ein Transkript weiterzureichen. Und eine Geschichte kann sich nur an erinnern, was das Festhalten wert war – was übersehen wurde, ist genauso verloren wie in einem gleitenden Fenster.
Dafür wächst die Geschichte mit. Nach zehn Stunden hat die Welt eine Vergangenheit, auf die du zeigen kannst, und die Figuren verhalten sich wie Menschen, die sie miterlebt haben.
Häufige Fragen
Warum nicht einfach ein Modell mit einem Kontextfenster von einer Million Tokens nutzen?
Weil du bei jeder Runde für den gesamten Kontext zahlst – mit Geld und Wartezeit – und weil die Aufmerksamkeit über die Mitte eines sehr langen Kontexts hinweg dünner wird. Ein Detail kann vorhanden sein und trotzdem faktisch ignoriert werden. Ein großes Fenster verschiebt den Kontextverlust, statt ihn zu beseitigen.
Ist das dasselbe wie RAG?
Verwandt, aber nicht dasselbe. Retrieval findet Passagen, die der Anfrage ähneln. Das ist nützlich zum Nachschlagen, aber unzuverlässig, wenn es darum geht, was gerade wahr ist: Ein Fakt und seine spätere Korrektur sehen beide nach guten Treffern aus. Ein Geschichtenverzeichnis hält den Zustand fest – was jetzt wahr ist – statt ähnlich klingenden Text.
Wie weit zurück kann sich eine Figur tatsächlich erinnern?
In projectDigo bis zum Beginn der Sitzung. Erhalten bleibt der Zustand der Geschichte, nicht die Formulierung jeder einzelnen Nachricht. Deshalb nimmt die Erinnerungsfähigkeit nicht ab, je länger die Sitzung dauert.
Widerspricht das Modell manchmal seiner eigenen Erinnerung?
Das kann passieren – deshalb prüft projectDigo die Konsistenz, bevor eine Szene dich erreicht. Meist wird ein Fehler korrigiert, ohne dass du ihn je siehst. Nichts fängt alles ab, doch aus stetigem Abdriften wird ein gelegentlicher Ausrutscher.
