Context Rot

Thariq, ein Ingenieur bei Anthropic, verortet den Einsatzpunkt bei etwa 300-400k Tokens beim 1M-Token-Modell, je nach Aufgabe. Ab diesem Punkt lässt die Leistung nach, weil sich die Aufmerksamkeit über zu viele Tokens verdünnt: Das ist die mechanische Definition von Context Rot. Chris Williams beschreibt dasselbe Phänomen auf der Ebene des Urteilsvermögens und führt es als F3 unter den acht Fehlermodi auf, gegen die sich ein agentischer Entwicklungszyklus wappnen muss. Das Urteilsvermögen des Modells verschlechtert sich, während sich das Fenster füllt, und es verankert sich an seinen eigenen früheren Ausgaben.

Der Grund, warum das Thema immer wieder auftaucht, ist, dass es die Prozessgestaltung einschränkt, nicht die Modellwahl. Vivek Trivedy von LangChain behandelt es als eine der Herausforderungen, für die der Agent-Harness existiert, mit Compaction, dem Auslagern umfangreicher Tool-Ergebnisse ins Dateisystem und Skills als progressiver Offenlegung. Williams baut eine ganze Phase darum herum: P2 (Decompose) zerlegt die Spezifikation in atomare Tickets, zugeschnitten auf frische Agenten, mit expliziten Verträgen an den Grenzen. Keines der beiden Mittel beseitigt die Verschlechterung; beide leiten die Arbeit lediglich um sie herum.

Thariqs praktische Antwort ist das Rewind. Anstatt innerhalb einer verunreinigten Sitzung zu korrigieren, kehrt man zu dem Punkt unmittelbar nach den Dateizugriffen zurück und prompted erneut mit dem, was man gelernt hat. Seine Warnung zur Compaction fällt schärfer aus: Sie ist verlustbehaftet, und das Modell ist genau dann am wenigsten intelligent, wenn es entscheidet, was es behält.

Thariq erwartet, dass «Claude Code» diese Mechanismen irgendwann selbst verwaltet. Bis dahin bleibt Sitzungsmanagement eine Fähigkeit, die der Nutzer beherrschen muss.