Cómo encontrar y eliminar modelos de IA locales en una Mac (Ollama, Hugging Face, LM Studio)

Ejecutar modelos de IA localmente es excelente para la privacidad y la experimentación, pero cada modelo es grande. Pruebe algunos tamaños y variantes de varios modelos y fácilmente podrá tener 50 GB o más de pesos que haya olvidado.

Cada herramienta tiene su propio almacén y cada una tiene una forma adecuada de eliminar modelos. Usarlo evita romper los modelos que deseas conservar.

Ollama

Ollama almacena modelos en ~/.ollama/models. Los datos del modelo se dividen en capas compartidas ("blobs"), por lo que diferentes modelos pueden compartir piezas. Es por eso que debes eliminar modelos a través de Ollama en lugar de eliminar archivos blob directamente.

Mira lo que tienes:

ollama list

Esto enumera cada modelo con su tamaño y cuándo fue modificado por última vez.

Eliminar un modelo:

ollama rm llama3:70b

Reemplace llama3:70b con el nombre mostrado por ollama list. Ollama elimina las capas que ya no utiliza ningún modelo restante.

Comprueba el tamaño total:

du -sh ~/.ollama/models

Hugging Face

Bibliotecas como transformers y diffusers descargan modelos en la caché Hugging Face, de forma predeterminada ~/.cache/huggingface/hub. La herramienta de línea de comando Hugging Face puede mostrar y limpiar este caché:

huggingface-cli scan-cache

Esto enumera cada modelo, conjunto de datos y revisión almacenados en caché con su tamaño. Para elegir qué eliminar de forma interactiva:

huggingface-cli delete-cache

Las versiones más recientes de la herramienta también proporcionan estos comandos bajo el comando hf; ejecute hf --help para comprobarlo. Si configura una ubicación personalizada con las variables de entorno HF_HOME o HF_HUB_CACHE, el caché estará allí.

LM Studio

Abra LM Studio y vaya a Mis modelos. Cada modelo descargado aparece listado con su tamaño. Utilice el menú junto a un modelo para eliminarlo o revele su carpeta en Finder para comprobar dónde están almacenados sus modelos.

Otros lugares donde se esconden los modelos

• Los entornos virtuales Python a veces contienen archivos de modelo descargados en las carpetas del proyecto.
• Las aplicaciones de generación de imágenes a menudo mantienen puntos de control y LoRA en sus propias carpetas dentro de ~/Library/Application Support o en una carpeta que usted elija durante la configuración.
• Los contenedores Docker que ejecutan servidores de modelos pueden guardar los modelos dentro de la imagen de disco de Docker. Consulte borrar cachés de desarrollador.

Decide qué conservar

Antes de eliminarlo, considere cuánto tiempo tardó en descargarse un modelo, si utiliza una versión cuantizada concreta y si lo ha personalizado (por ejemplo, un Modelfile de Ollama). Descargar un modelo grande nuevamente puede llevar mucho tiempo con una conexión más lenta.