Bdsh-live-token-stats
better-er/dsh-live-token-stats
Statistiques de tokens en direct sous le compositeur DSH Web : tokens/s en streaming, latence du token de sortie et du premier octet, plus rapprochement par étape estimé/réel via le tokenizer BPE officiel, pour distinguer un flux lent d'un flux bloqué.
4il y a 4 joursUtilisation et facturationMIT