Input, Output und der Tankstellenvergleich
← Vorheriges Kapitel · Inhaltsverzeichnis · Nächstes Kapitel →
Kapitel 96 von 158
| Begriff | Einfach erklärt |
|---|---|
| Input-Token | Textbausteine, die das Modell erhält: dein Auftrag, bereitgestellte Unterlagen, Regeln, Werkzeugantworten und gegebenenfalls frühere Chatteile. |
| Output-Token | Textbausteine, die das Modell erzeugt. Je nach Modell und Abrechnung können auch interne Reasoning-Token als Output berechnet werden. |
| Reasoning-Token | Zusätzlicher Rechenaufwand zum Bearbeiten einer schwierigen Aufgabe. Diese internen Schritte sind nicht einfach der sichtbare Antworttext. |
| Preis pro Token | Ein Tarif je Verbrauchseinheit, häufig pro einer Million Token. Input und Output können unterschiedliche Preise haben. |
Liter, Preis und Strecke sind verschiedene Dinge
Token sind im Vergleich die Liter; der Modelltarif ist der Preis pro Liter. Derselbe Verbrauch kostet an einer teureren Tankstelle mehr. Ein leistungsfähigeres Modell wie Astra oder ein anspruchsvolles Claude-Modell muss deshalb nicht automatisch mehr Token verwenden. Es kann jedoch einen anderen Preis haben. Höheres Reasoning ähnelt einer aufwendigeren Fahrt: Für die Aufgabe wird mehr gerechnet, was Zeit und Verbrauch erhöhen kann.
Der Vergleich mit Autobahntankstelle, Super Plus oder Diesel hilft bei der Trennung von Menge und Preis. Eine feste Zuordnung „Modell X =
Kraftstoff Y“ wäre irreführend: Fähigkeiten, Tarife und Verbrauch sind je nach Aufgabe verschieden.
Rechenbeispiel mit frei erfundenen API-Preisen
Ein Auftrag enthält 2.000 Input-Token und erzeugt 500 Output-Token. Bei angenommenen 1 € je Million Input-Token und 4 € je Million Output-Token kostet er 0,002 € + 0,002 € = 0,004 €. Bei fünfmal höheren Tarifen kostet dieselbe Tokenmenge 0,02 €. Ein ChatGPT-Abo wird dadurch nicht automatisch pro Nachricht abgerechnet.
Warum Bilder und Videos oft teurer sind
Ein kurzer Text enthält relativ wenig zu verarbeitende Information. Ein Bild kann je nach Auflösung in mehrere Bildbereiche zerlegt werden; bei Video kommen viele Einzelbilder, Dauer und gegebenenfalls Ton hinzu. Generieren erfordert weitere Rechenschritte. Anbieter rechnen deshalb je nach Dienst mit Token, Bildern, Sekunden oder Credits ab. Nicht jedes Bild ist teurer als jeder Text – ein sehr langes Dokument kann ebenfalls viel kosten. [37 – 39]
← Vorheriges Kapitel · Inhaltsverzeichnis · Nächstes Kapitel →