Adsh-model-manager
ansonfishing/dsh-model-manager
Panel de control de servidores locales de inferencia LLM en la vista web DSH: registro de servicios con comprobaciones de salud y controles de parada, perfiles con nombre para llama.cpp/SGLang/vLLM con validación KV/VRAM antes de guardar, detección de GPU y pruebas tok/s.
0hace 2 mesesModelos y proveedoresMIT