Skip to content

使用公共目录管理共享 AI 模型

公共目录是一个系统级共享空间,用于存储 AI 模型,使多个应用和多个用户可以同时访问相同的模型文件,从而节省存储空间并避免重复下载。

了解公共目录

公共目录的工作原理

要理解公共目录的作用,需要先了解 Olares 的文件存储机制。下表展示了文件管理器中不同位置的存储策略:

节点位置文件管理策略跨用户共享跨应用共享
存储按用户隔离
数据按应用隔离
公共跨用户、跨应用共享

存储数据都在一定程度上隔离了文件,但这在 AI 场景下会带来两个问题:

  • 应用间难以共享模型:多个 AI 应用可能需要同一套底层模型,例如 ComfyUI 和 Stable Diffusion 共用的图像模型文件,或 vLLM 和 llama.cpp 共用的 Hugging Face 缓存目录。但在隔离的存储机制下,这些文件无法跨应用直接复用。
  • 重复下载造成的空间浪费:若将模型文件分别存放在隔离的存储目录或应用目录中,不同应用或用户会重复下载同一模型,浪费时间和空间。

公共目录通过提供跨用户、跨应用的共享存储解决了上述问题,让不同应用和用户访问相同的模型文件,避免重复存储。

公共目录界面

公共目录的结构

公共目录默认包含以下三个子目录,分别遵循对应平台的官方存储结构:

子目录用途目录结构说明
huggingface存储通过 Hugging Face CLI 下载的缓存模型。
vLLM、transformers 和 llama.cpp 等应用都从
这个统一缓存中读取数据。
完全镜像官方的缓存结构。

详细了解文件组织方式,请参考 Hugging Face 官方缓存管理指南
comfyui存储在 ComfyUI 及相关应用之间共享的模型
(如 Checkpoint、LoRA 和 VAE)。
遵循标准的 ComfyUI models 文件夹结构。

详细了解文件组织方式,请参考 ComfyUI 官方模型文档
ollama存储由 Ollama 拉取和管理的模型。采用 Ollama 独特的 manifests 和 blobs 存储机制。

更多信息,请参考 Ollama 官方 FAQ

迁移模型到公共目录

Olares v1.12.6 默认提供公共目录。如果你使用的是旧版本 Olares,请按以下步骤迁移现有模型。

  1. 将 Olares 升级至 v1.12.6。

  2. 卸载现有的 AI 模型服务应用:

    • 预打包的单模型应用
    • Ollama(作为基础引擎安装,用来手动拉取模型)。卸载时请勿勾选同时删除所有本地数据
    • ComfyUI。卸载时请勿勾选同时删除所有本地数据
  3. 安装新版本并恢复模型:

查找和管理共享模型文件

在文件管理器中访问公共目录,并集中管理共享的 AI 模型文件。

访问公共目录

  1. 从启动台打开文件管理器。
  2. 选择左侧边栏中的 应用 > 公共
  3. 进入 huggingfaceollamacomfyui 子目录。
  4. 找到目标模型文件。

管理模型文件

你可以在公共目录中添加或删除模型文件,但必须保持各子目录的官方推荐结构,否则应用可能无法正确加载模型。

  • 添加模型:直接将模型文件拖放到对应的子目录中。
  • 删除模型:右键点击模型文件夹,选择删除以释放空间。删除后,相关应用将立即失去对该模型的访问权限,需要重新下载才能再次使用。