Skip to content

WARNING

本文档由 AI 自动翻译,仅供参考。涉及关键操作或信息时,请以英文原文为准。

设置 Open WebUI 与本地 AI 对话 — Olares 1.12.6 ​

Open WebUI 是一个自托管的聊天界面,让你在 Olares 设备上与本地模型进行私密对话。

本指南将带你完成安装 Open WebUI、连接本地模型并开始第一次对话。

学习目标 ​

在本指南中,你将学习如何:

  • 在 Olares 上安装 Open WebUI。
  • 创建管理员账号。
  • 将 Open WebUI 连接到本地模型。
  • 使用配置好的模型开始聊天会话。

前提条件 ​

开始前,你需要:

  • 具有足够磁盘空间和内存的 Olares 设备。

  • 以下模型:

    模型类型模型获取方式
    聊天Qwen3.6-27B (llama.cpp)从应用市场安装
可选:使用其他模型

你也可以选择不同大小的模型,或改用其他模型提供商:

  • 从应用市场安装其他模型应用。
  • 通过引擎基座应用创建模型实例,使用自己的模型。

如果 AI Agent 应用已安装 Olares CLI 和 Agent Skills,可以让它部署模型并跳过手动设置。例如:

plain
使用 Ollama 引擎基座在我的 Olares 上部署 qwen3.5:9b。

安装 Open WebUI ​

  1. 打开应用市场,搜索 "Open WebUI"。

    Open WebUI

  2. 点击获取,然后点击安装。等待安装完成。

创建管理员账号 ​

首次启动 Open WebUI 时,你需要创建一个本地管理员账号,用于管理模型和设置。

  1. 从启动台打开 Open WebUI。

  2. 在欢迎页面中,点击 Get started。

  3. 输入你的姓名、邮箱和密码,创建管理员账号。

    Create account

获取模型连接信息 ​

要将 Open WebUI 连接到模型,你需要先从模型控制台收集连接信息。

  1. 从启动台打开模型应用。其模型控制台会自动打开。

  2. 等待模型显示就绪,且引擎显示运行中。

    Qwen3.6-27B 模型控制台

  3. 在模型部分,按显示内容原样复制模型名称。

  4. 在引擎部分:

    a. 连接来源:选择 Olares 内应用。

    b. API 格式:选择 OpenAI-Compatible。

    c.按显示内容原样复制 Base URL 地址。

在 Open WebUI 中配置连接 ​

连接信息准备就绪后,在 Open WebUI 中将该模型添加为 OpenAI 兼容提供商。

  1. 在 Open WebUI 中,点击你的头像图标,选择 Admin Panel。

  2. 选择 Settings 标签页,然后从左侧边栏选择 Connections。

  3. 在 Manage OpenAI API Connections 右侧,点击 add 添加新连接。

  4. 在 API Base URL 字段中,输入你从 Model Console 复制的 Base URL。例如,https://e46e044d.laresprime.olares.com/v1。

    Connection established

  5. 点击 Save。Open WebUI 会自动验证连接。当看到 "OpenAI API settings updated" 消息时,表示连接已建立。

开始聊天 ​

模型连接完成后,你就可以使用聊天界面了。

  1. 在聊天区域,选择你配置好的模型。

    Select model

  2. 在文本框中输入提示词,然后按 Enter 键开始对话。

    Chat with LLM

了解更多 ​