Große Sprachmodelle
GGUF-Format: Der komplette Guide zur lokalen LLM-Inferenz
GGUF bündelt Modellgewichte, Tokenizer-Daten und Metadaten in einer einzigen portablen Datei. Erfahre, wie du den passenden Quantisierungsgrad wählst und mit Ollama startest.
Austin Chia