Skip to content

WARNING

本页面内容由 AI 翻译生成,仅供参考。如有疑问,请以英文原文为准。

将 Xinference 迁移到新架构

Xinference 是 Olares 上用于部署和提供模型服务的共享应用。Olares 1.12.6 更新了共享应用架构,因此无法直接原地升级 Xinference。本文介绍如何在升级到 Olares 1.12.6 后重新安装 Xinference 并重新下载模型。

开始之前

在 v2 应用中,Xinference 将所有模型以 local files 的形式存放在自己的 Cache 目录中。

Olares 1.12.6 引入了公共目录,用于跨应用管理共享的 AI 模型。在新架构中,Xinference 会根据模型的来源将其存放到不同位置:

  • 从 Hugging Face 下载的模型存放在 应用 > 公共 > huggingface 中,遵循 Hugging Face 官方缓存结构。
  • 从其他渠道下载的模型存放在 应用 > 数据 > xinferencesv3 中。

因此,已有模型无法自动迁移。你必须重新安装应用并重新下载模型。

重新安装 Xinference 并重新下载模型

  1. 卸载之前安装的 Xinference 应用。提示时,请勿勾选同时删除所有本地数据

  2. 安装新版 Xinference 应用。

    a. 打开应用市场,搜索 "Xinference"。

    b. 点击应用卡片进入详情页。

    c. 查看信息面板中的兼容性字段,新版应用显示为 Olares >=1.12.6-0

    d. 点击获取,然后点击安装,等待安装完成。

  3. 打开新版 Xinference 应用,然后重新下载你需要的所有模型。系统会自动将它们存放到正确的位置。

了解更多