Tokenizer für LLMs - Text in Tokens umwandeln und analysieren

Tokenizer

Tokenisiert Text per Regex (einfach). Zeigt Tokenanzahl und Offsets an.

Eingaben

Ergebnis

Das Tokenisierungsergebnis wird hier angezeigt...

Entdecken Sie weitere nützliche Tools

Möchten Sie mehr über Zerlo und unsere Sammlung praktischer Online-Tools erfahren? Wir entwickeln ständig neue Helfer für den digitalen Alltag.

Mehr erfahren