L’exécution locale de modèles d’IA est idéale pour la confidentialité et l’expérimentation, mais chaque modèle est volumineux. Essayez quelques tailles et variantes de plusieurs modèles, et vous pourrez facilement avoir 50 Go ou plus de poids que vous avez oubliés.
Chaque outil conserve son propre stockage et chacun dispose d'une manière appropriée de supprimer des modèles. Son utilisation évite de casser les modèles que vous souhaitez conserver.
Ollama
Ollama stocke les modèles dans ~/.ollama/models. Les données du modèle sont divisées en couches partagées (« blobs »), afin que différents modèles puissent partager des éléments. C'est pourquoi vous devez supprimer les modèles via Ollama plutôt que de supprimer directement les fichiers blob.
Voyez ce que vous avez :
ollama list
Ceci répertorie chaque modèle avec sa taille et la date de sa dernière modification.
Supprimer un modèle :
ollama rm llama3:70b
Remplacez llama3:70b par le nom indiqué par ollama list. Ollama supprime les couches qui ne sont plus utilisés par aucun modèle restant.
Vérifiez la taille totale :
du -sh ~/.ollama/models
Hugging Face
Les bibliothèques telles que transformers et diffusers téléchargent les modèles dans le cache Hugging Face, par défaut ~/.cache/huggingface/hub. L'outil de ligne de commande Hugging Face peut afficher et nettoyer ce cache :
huggingface-cli scan-cache
Ceci répertorie chaque modèle, ensemble de données et révision mis en cache avec sa taille. Pour choisir les éléments à supprimer de manière interactive :
huggingface-cli delete-cache
Les versions plus récentes de l'outil fournissent également ces commandes sous la commande hf ; exécutez hf --help pour vérifier. Si vous définissez un emplacement personnalisé avec les variables d'environnement HF_HOME ou HF_HUB_CACHE, le cache sera là à la place.
LM Studio
Ouvrez LM Studio et accédez à Mes modèles. Chaque modèle téléchargé est répertorié avec sa taille. Utilisez le menu à côté d'un modèle pour le supprimer ou affichez son dossier dans le Finder pour vérifier où sont stockés vos modèles.
Autres endroits où les modèles se cachent
- Les environnements virtuels Python contiennent parfois des fichiers de modèle téléchargés dans les dossiers de projet.
- Les applications de génération d'images conservent souvent les points de contrôle et les LoRA dans leurs propres dossiers à l'intérieur de
~/Library/Application Supportou dans un dossier que vous avez choisi lors de la configuration. - Les conteneurs Docker exécutant des serveurs de modèles peuvent conserver les modèles dans l'image disque de Docker. Voir vider les caches des développeurs.
Décidez quoi conserver
Avant de supprimer, réfléchissez au temps de téléchargement d'un modèle, si vous utilisez une version quantifiée spécifique et si vous l'avez personnalisée (par exemple un fichier de modèle Ollama). Le téléchargement à nouveau d’un modèle volumineux peut prendre beaucoup de temps avec une connexion plus lente.
Questions fréquemment posées
Où Ollama stocke-t-il les modèles sur un Mac ?
Dans ~/.ollama/models par défaut, sauf si vous avez défini la variable d'environnement OLLAMA_MODELS sur un autre emplacement.
Puis-je supprimer directement des fichiers dans ~/.ollama/models/blobs ?
Ce n'est pas recommandé. Les blobs sont partagés entre les modèles, donc les supprimer manuellement peut casser les modèles que vous souhaitez conserver. Utilisez plutôt ollama rm.
Où se trouve le cache Hugging Face sur un Mac ?
Par défaut dans ~/.cache/huggingface/hub ; utilisez la commande d'analyse du cache Hugging Face CLI pour voir ce qu'il contient.
Voulez-vous que cela soit fait pour vous ?
spacerecover répertorie les modèles Ollama et Hugging Face un par un avec leur taille, explique qu'ils devront être téléchargés à nouveau et recommande de les supprimer via l'outil lui-même afin que les couches partagés ne soient jamais rompus.