Token und Credits verstehen
← Vorheriges Kapitel · Inhaltsverzeichnis · Nächstes Kapitel →
Kapitel 23 von 158
Token sind Texteinheiten: Wörter, Wortteile oder Satzzeichen. Ein Token ist nicht immer ein ganzes Wort.
Input-Token
Die Texteinheiten, die das Modell erhält: dein Auftrag, mitgegebene Dokumente und gegebenenfalls bisheriger Gesprächskontext.
Output-Token
Die Texteinheiten der erzeugten Antwort. Manche Angebote berücksichtigen zusätzliche interne Verarbeitung in ihren Nutzungsregeln.
Credits
Eine anbieterspezifische Einheit für Nutzung. Credits verschiedener Anbieter lassen sich nicht ohne Weiteres direkt vergleichen.
Wie beim Tanken
Die Menge und der Preis pro Einheit sind zwei verschiedene Dinge. Ein umfangreicher Auftrag und ein aufwendiges Modell können beide zu höherem Verbrauch oder höheren Kosten beitragen.
Bilder, Audio und Videos werden anders verarbeitet als einfacher Text. Maßgeblich sind die Abrechnungsregeln des konkreten Angebots; ein Chat-Abo ist nicht automatisch eine API-Flatrate.
Vertiefung: Token, Kontext und Credits verstehen · S. 164
← Vorheriges Kapitel · Inhaltsverzeichnis · Nächstes Kapitel →