Adsh-model-manager
ansonfishing/dsh-model-manager
Panneau de contrôle des serveurs d’inférence LLM locaux dans la vue Web DSH : registre de services avec contrôles de santé/arrêt, profils nommés llama.cpp/SGLang/vLLM et validation KV/VRAM avant sauvegarde, détection GPU et benchmarks tok/s.
0il y a 2 moisModèles et fournisseursMIT