Das lokale Ausführen von KI-Modellen eignet sich hervorragend zum Schutz der Privatsphäre und zum Experimentieren, aber jedes Modell ist groß. Probieren Sie ein paar Größen und Varianten mehrerer Modelle aus, und Sie können problemlos 50 GB oder mehr an Gewichten haben, die Sie vergessen haben.
Jedes Werkzeug verfügt über einen eigenen Speicher und jedes verfügt über eine geeignete Methode zum Entfernen von Modellen. Durch die Verwendung wird vermieden, dass Modelle beschädigt werden, die Sie behalten möchten.
Ollama
Ollama speichert Modelle in ~/.ollama/models. Modelldaten werden in gemeinsame Ebenen („Blobs“) aufgeteilt, sodass verschiedene Modelle Teile gemeinsam nutzen können. Aus diesem Grund sollten Sie Modelle über Ollama entfernen, anstatt Blob-Dateien direkt zu löschen.
Sehen Sie, was Sie haben:
ollama list
Hier wird jedes Modell mit seiner Größe und dem Zeitpunkt der letzten Änderung aufgeführt.
Modell entfernen:
ollama rm llama3:70b
Ersetzen Sie llama3:70b durch den von ollama list angezeigten Namen. Ollama entfernt Ebenen, die von keinem verbleibenden Modell mehr verwendet werden.
Gesamtgröße prüfen:
du -sh ~/.ollama/models
Hugging Face
Bibliotheken wie transformers und diffusers laden Modelle in den Hugging Face-Cache herunter, standardmäßig ~/.cache/huggingface/hub. Das Befehlszeilentool Hugging Face kann diesen Cache anzeigen und bereinigen:
huggingface-cli scan-cache
Hier werden alle zwischengespeicherten Modelle, Datensätze und Revisionen mit ihrer Größe aufgelistet. So wählen Sie interaktiv aus, was gelöscht werden soll:
huggingface-cli delete-cache
Neuere Versionen des Tools stellen diese Befehle auch unter dem Befehl hf bereit; Führen Sie zur Überprüfung hf --help aus. Wenn Sie mit den Umgebungsvariablen HF_HOME oder HF_HUB_CACHE einen benutzerdefinierten Speicherort festlegen, befindet sich der Cache stattdessen dort.
LM Studio
Öffnen Sie LM Studio und gehen Sie zu Meine Modelle. Jedes heruntergeladene Modell wird mit seiner Größe aufgelistet. Verwenden Sie das Menü neben einem Modell, um es zu löschen, oder zeigen Sie seinen Ordner im Finder an, um zu überprüfen, wo Ihre Modelle gespeichert sind.
Weitere Speicherorte für KI-Modelle
- Virtuelle Python-Umgebungen enthalten manchmal heruntergeladene Modelldateien in Projektordnern.
- Bildgenerierungs-Apps speichern Checkpoints und LoRAs häufig in ihren eigenen Ordnern innerhalb von
~/Library/Application Supportoder in einem Ordner, den Sie während der Einrichtung ausgewählt haben. - Docker-Container, auf denen Modellserver ausgeführt werden, können Modelle im Docker-Disk-Image behalten. Siehe Entwickler-Caches löschen.
Entscheiden Sie, was Sie behalten möchten
Überlegen Sie vor dem Löschen, wie lange das Herunterladen eines Modells gedauert hat, ob Sie eine bestimmte quantisierte Version verwenden und ob Sie diese angepasst haben (z. B. eine Ollama-Modelldatei). Das erneute Herunterladen eines großen Modells kann bei einer langsameren Verbindung lange dauern.
Häufige Fragen
Wo speichert Ollama Modelle auf einem Mac?
Standardmäßig in ~/.ollama/models, es sei denn, Sie haben die Umgebungsvariable OLLAMA_MODELS auf einen anderen Speicherort festgelegt.
Kann ich Dateien in ~/.ollama/models/blobs direkt löschen?
Es wird nicht empfohlen. Da Blobs von mehreren Modellen gemeinsam genutzt werden, kann das manuelle Löschen dazu führen, dass Modelle, die Sie behalten möchten, beschädigt werden. Verwenden Sie stattdessen ollama rm.
Wo ist der Hugging Face-Cache auf einem Mac?
Standardmäßig in ~/.cache/huggingface/hub. Verwenden Sie den CLI-Cache-Scan-Befehl Hugging Face, um zu sehen, was darin enthalten ist.
Soll das für dich erledigt werden?
spacerecover listet die Ollama- und Hugging Face-Modelle einzeln mit ihrer Größe auf, erklärt, dass sie erneut heruntergeladen werden müssen, und empfiehlt, sie über das Tool selbst zu entfernen, damit gemeinsame Ebenen niemals beschädigt werden.