Models

Welche Sprach- und Bildmodelle bei mir laufen, wie sie quantisiert sind und womit sie starten.

Modelle im Betrieb
ModellFamilieQuantisierungKontextStatus
Qwen 3.8 MaxQwenNVFP4262ktesting
Runtimes llama.cppvLLM 0.25

Hier erscheinen in Kürze die ersten Beiträge zu diesem Bereich.