Plugin

Statistiche live dei token sotto il composer DSH Web: token/s in streaming, latenza del token di output e del primo byte, più riconciliazione per fase tra stimato ed effettivo tramite il tokenizer BPE ufficiale, per distinguere un flusso lento da uno bloccato.