Token
Ein Token ist die kleinste Recheneinheit, mit der ein Sprachmodell arbeitet — oft ein Wortteil, eine Zahl oder ein Satzzeichen.
Bei KI-Mitarbeitern bestimmt die Token-Anzahl mit, wie viel Text gleichzeitig verarbeitet werden kann und welche Kosten anfallen. Lange Dokumente oder Gespräche benötigen mehr Token.
Ein Token entspricht in der Regel etwa 0,75 Wörtern im Deutschen.
Worin es sich unterscheidet
Embedding: Token sind die Bausteine, in die Text zerlegt wird. Ein Embedding beschreibt die Bedeutung eines ganzen Abschnitts. Token betreffen Kosten und Länge, Embeddings betreffen das Finden.
ROI von KI: Token sind ein Kostenfaktor unter mehreren. Für die Wirtschaftlichkeit eines Projekts sind Einrichtung, Anbindung und Pflege meist bedeutsamer als der reine Verbrauch.
Was das für einen mittelständischen Betrieb bedeutet
Token sind die Abrechnungseinheit vieler Anbieter. Als Faustregel entspricht ein Token im Deutschen etwa 0,75 Wörtern, das ist eine Näherung und kein exakter Wert.
Praktisch bedeutet das: Lange Dokumente, lange Gesprächsverläufe und ausführliche Anweisungen kosten mehr. Sparsamkeit entsteht durch gezielte Auswahl der übergebenen Inhalte.
Genau hier wirkt eine saubere Dokumentensuche doppelt: Sie verbessert die Antwort und senkt die Kosten, weil nur die passenden Abschnitte übergeben werden.
Für die Planung reicht eine Schätzung über die typische Textmenge je Vorgang und die Zahl der Vorgänge im Monat.
Ein Beispiel aus dem Alltag
Ein Dienstleister lässt Ausschreibungsunterlagen auswerten, die häufig mehrere hundert Seiten umfassen. Der erste Aufbau übergibt jeweils das gesamte Dokument.
Nach der Umstellung werden zunächst die relevanten Abschnitte gesucht, etwa Leistungsbeschreibung und Fristen, und nur diese übergeben. Die Auswertung wird dadurch schneller, günstiger und zugleich genauer, weil weniger Nebenrauschen im Text steht.
Häufige Fragen
Wie kann ich die Kosten vorab abschätzen?
Über die typische Textlänge je Vorgang und die Zahl der Vorgänge im Monat. Ein Probelauf mit echten Unterlagen über zwei Wochen liefert eine belastbarere Zahl als jede Hochrechnung.
Warum kostet ein langes Gespräch mehr als eine einzelne Frage?
Weil der bisherige Verlauf bei jeder neuen Antwort mitgegeben wird. In automatisierten Prozessen wird deshalb meist nur der nötige Ausschnitt übergeben statt der gesamten Historie.
Sind teurere Modelle immer besser?
Nein. Für Einordnung und Zusammenfassung reichen kleinere Modelle oft aus, für schwierige Bewertungen lohnt das größere. Üblich ist eine Kombination je nach Arbeitsschritt.
Zahle ich auch für die Eingabe oder nur für die Antwort?
In der Regel für beides, meist zu unterschiedlichen Sätzen. Deshalb wirkt sich die Länge der übergebenen Dokumente unmittelbar auf die Rechnung aus.
Synonyme und verwandte Begriffe
Worteinheit · Modell-Einheit