Token und Kontextfenster: Was sie sind und was ein LLM kostet

Ein Token ist ein Textstück, in das ein Sprachmodell jeden Satz unterteilt: ein kurzes Wort, ein Teil eines längeren Wortes oder ein Satzzeichen. Das Kontextfenster ist die maximale Anzahl von Token, die das Modell gleichzeitig sieht: Anweisungen, Konversation, Dokumente und seine eigene Antwort. Alles, was nicht hineinpasst, existiert für das Modell nicht.

Wie funktioniert das?

Das Modell liest keine Buchstaben oder Wörter, sondern Token. Häufige Wörter sind ein Token, seltene unterteilen sich in mehrere Teile.
Auf Polnisch belegt derselbe Text normalerweise mehr Token als auf Englisch, da die Modelle hauptsächlich auf Englisch trainiert wurden und polnische Wörter viele Endungen haben.
Anbieter berechnen den Preis pro Token: separat für das, was Sie senden (Eingabe), und für das, was das Modell schreibt (Ausgabe). Die Ausgabe ist meistens um ein Vielfaches teurer.
Das Kontextfenster ist der Arbeitsspeicher des Modell. Ein langes Gespräch passt irgendwann nicht mehr hinein, und die ältesten Nachrichten fallen weg oder müssen zusammengefasst werden.

Wie macht das unser Labor?

Chat-Frage: max. 500 Zeichen. Längere lehnt der Chat sofort ab, ohne das Modell aufzurufen. Das schützt vor Kosten und ist Teil der Abwehr gegen Angriffe.
Fragmente bis zu 1.200 Zeichen, an das Modell gehen 6. Das Modell erhält keine ganzen Artikel, sondern nur die am besten passenden Stücke. Weniger Token, geringere Kosten, weniger Rauschen.
Kosten der Chat-Antwort: ca. 0,08 gr. Zu diesem Preis kosten 1.000 Fragen weniger als 1 PLN.
Kostenlose Limits zählen auch Anfragen, nicht nur Token. Gemini hat im kostenlosen Tarif ein tägliches Anfragelimit, das das Labor auf mehrere Prozesse aufteilt. Wir planen die Arbeit so, dass wir innerhalb des Limits bleiben, und haben ein Backup-Modell, falls es aufgebraucht ist.

Häufige Fallen

Alles in den Kontext werfen. Ein großes Fenster verlockt dazu, aber das Modell findet Details in der Mitte eines langen Textes schlechter und jedes Token kostet.
Vergessen der Ausgabe. Die Bitte „schreibe ausführlich“ erhöht die Kosten stärker als eine lange Frage.
In Wörtern rechnen. Berechnen Sie das Budget in Token und überprüfen Sie es an Ihren eigenen Texten, insbesondere auf Polnisch.

Fragen und Antworten

Wie viel ist ein Token?

Auf Englisch im Durchschnitt ca. 3/4 eines Wortes. Auf Polnisch meistens weniger, daher hat derselbe Text mehr Token.

Was passiert, wenn die Konversation das Kontextfenster überschreitet?

Die ältesten Teile fallen weg oder die Anwendung fasst sie zusammen. Das Modell erinnert sich an nichts außer dem, was sich im Fenster befindet.

Ist ein größeres Kontextfenster immer besser?

Nein. Es bietet mehr Platz, erhöht jedoch die Kosten und die Antwortzeit, und das Modell nutzt die Mitte sehr lange Texte nicht immer gut.

Quellen

Liu et al.: Lost in the Middle: How Language Models Use Long Contexts, arXiv:2307.03172
Labor: Chat-Einstellungen (Fragenlimit, Fragmente), Antwortkosten (21.10.2026)

Token und Kontextfenster