Adsh-model-manager
ansonfishing/dsh-model-manager
Steuerfeld für lokale LLM-Inferenzserver in der DSH-Webansicht: Dienstregister mit Healthchecks und Stoppschaltern, benannte Parameterprofile für llama.cpp/SGLang/vLLM mit KV-/VRAM-Prüfung vor dem Speichern, GPU-Erkennung und tok/s-Benchmarks.
0vor 2 MonatenModelle & AnbieterMIT