Skip to content

管理加速器资源 10 min

WARNING

本页面由 AI 自动翻译,部分技术术语可能与中文习惯存在差异。如有疑问,请以英文原文为准。

INFO

只有 Olares 管理员可以更改 GPU 模式。这有助于避免冲突,并为每个人保持可预测的 GPU 性能。

Olares 允许你控制应用如何使用 GPU 资源,用于 AI、图像和视频生成以及游戏等工作负载。你可以根据应用应如何共享计算和内存来选择不同的 GPU 模式。

学习目标

完成本教程后,你将学会:

  • 为工作负载选择合适的 GPU 模式。
  • 在设置中切换 GPU 模式。
  • 在每个 GPU 模式中使用基本的应用控制。

选择合适的 GPU 模式

Olares 提供三种 GPU 模式,每种模式针对不同的使用模式设计。

GPU 模式定义最适合
时间切片(默认)多个应用通过轮流使用计算和显存来共享一个 GPU。运行多个轻量级应用的一般工作负载。
内存切片GPU 的显存被划分为固定配额,应用在限制内并发运行。在严格限制内存使用的情况下同时运行特定应用。
应用独占一个应用获得对单个 GPU 的计算和显存的完全、不间断的访问。需要最大稳定性的重负载工作负载,如 LLM 和高端游戏。

打开 GPU 设置

此页面显示你的 GPU 详情,并允许你更改其模式。

  1. 进入 设置 > GPUGPU 概览

  2. GPU 模式 下拉菜单中选择一个模式。

应用中断通知

更改 GPU 模式会重新分配硬件资源。根据你选择的模式,当前使用 GPU 的应用可能会自动暂停。

切换模式后,检查应用状态并根据需要手动恢复。

按模式管理应用访问

时间切片

时间切片 是 Olares 中的默认模式。使用此模式让多个应用共享 GPU 资源。 时间切片

添加应用

在大多数情况下,运行中的应用会在 GPU 调度完成后自动关联并显示在列表中。

如果目标应用未出现:

  1. 等待几秒钟。
  2. 固定应用 部分,点击 sync 刷新列表。
  3. 如果应用仍未自动关联,点击 关联应用,然后选择应用并点击 确认

移除 GPU 访问

  1. 停止应用。
    • 进入 Market > 我的 Olares,然后从下拉列表中选择 停止
    • 或进入 设置 > 应用,选择应用,然后点击 停止
  2. 返回 设置 > GPU
  3. 固定应用 部分,点击 link_off,然后点击 确认

内存切片

使用 内存切片 以严格的显存限制并发运行应用。

内存切片

调整显存分配

  1. 分配显存 部分,找到目标应用。
  2. 点击显存值旁边的 edit_square
  3. 编辑显存分配 对话框中,输入所需的显存大小(GB),然后点击 确认

WARNING

分配给所有应用的总显存不能超过 GPU 的总显存。

如果该值低于应用的最低要求,确认 将被禁用。

添加应用并分配显存

在大多数情况下,运行中的应用会在 GPU 调度完成后自动关联并显示在列表中。

如果目标应用未出现:

  1. 等待几秒钟。
  2. 分配显存 部分,点击 sync 刷新列表。
  3. 如果应用仍未自动关联,点击 关联应用,然后选择应用并分配显存。

移除显存分配

  1. 先停止应用。
    • 进入 Market > 我的 Olares,然后从下拉列表中选择 停止
    • 或进入 设置 > 应用,选择应用,然后点击 停止
  2. 返回 设置 > GPU
  3. 分配显存 部分,点击 link_off,然后点击 确认

应用独占

使用 应用独占 模式将整个 GPU 专用于一个高需求应用。

应用独占

更改独占应用

  1. 停止当前独占应用。
    • 进入 Market > 我的 Olares,然后从下拉列表中选择 停止
    • 或进入 设置 > 应用,选择应用,然后点击 停止
  2. 选择独占应用 部分,点击 link_off 取消关联当前应用。
  3. 恢复新的目标应用并确保它正在运行。
    • 进入 Market > 我的 Olares,然后从下拉列表中选择 恢复
    • 或进入 设置 > 应用,选择应用,然后点击 恢复
  4. 等待几秒钟。
  5. 选择独占应用 部分,点击 sync 刷新列表。
  6. 如果系统仍未自动选择新的独占应用,点击 关联应用 手动设置。

设置独占应用

在大多数情况下,Olares 会在 GPU 调度完成后自动选择一个运行中的应用进行独占访问。

如果没有应用出现:

  1. 等待几秒钟。
  2. 选择独占应用 部分,点击 sync 刷新列表。
  3. 如果系统仍未自动选择应用,点击 关联应用 手动设置。

移除独占访问

  1. 先停止应用。
    • 进入 Market > 我的 Olares,然后从下拉列表中选择 停止
    • 或进入 设置 > 应用,选择应用,然后点击 停止
  2. 返回 设置 > GPU
  3. 选择独占应用 部分,点击 link_off,然后点击 确认

资源