Token
Die kleinste Abrechnungs- und Verarbeitungseinheit eines Sprachmodells — grob ein Wortteil. Cloud-KI wird pro Token bezahlt.
Ein Token ist ein Textbaustein, den ein Sprachmodell verarbeitet — meist ein Wort, eine Silbe oder ein Satzzeichen. Als Faustregel entsprechen 1.000 Tokens etwa 750 Wörtern. Modelle rechnen und denken in Tokens, nicht in Wörtern.
Für die Wirtschaftlichkeit ist der Token die entscheidende Größe: Cloud-Anbieter rechnen nutzungsbasiert je 1 Mio. Tokens ab, getrennt nach Eingabe (Input) und Ausgabe (Output). Günstige Modelle liegen im Bereich weniger Cent, leistungsstarke ein Vielfaches darüber.
Diese Abrechnung macht Erfolg teuer: Je mehr ein Anwendungsfall genutzt wird, desto höher die Token-Rechnung. Im Eigenbetrieb entfällt diese nutzungsabhängige Kurve — dort zahlt man für Kapazität, nicht pro Token.