WARNING

本文档由 AI 自动翻译，仅供参考。涉及关键操作或信息时，请以英文原文为准。

在 Open WebUI 中与文档和知识库聊天

Open WebUI 支持检索增强生成（RAG），可帮助本地 AI 模型基于你上传的文档或整理好的知识库回答问题。

本指南介绍如何在聊天会话中分析单个文档，以及如何构建可重复使用的持久知识集合。

学习目标

在本指南中，你将学习如何：

• 配置嵌入模型来处理文档文本。
• 在聊天会话中上传并分析单个文档。
• 构建和管理持久知识库。
• （可选）为复杂文档版式配置高级内容提取引擎。

前提条件

开始前，确保已满足以下条件：

• 已安装并配置 Open WebUI，且至少连接了一个本地模型。

• 拥有 Open WebUI 实例的管理员权限。

• 以下模型：

  模型类型	模型	获取方式
  Embedding	EmbeddingGemma	从应用市场安装

配置嵌入模型

文档理解需要嵌入模型将文本转换为向量数据。要配置 Open WebUI，需要先获取嵌入模型信息。

获取嵌入模型信息

1. 从启动台打开嵌入模型应用。其模型控制台会自动打开。

2. 等待模型显示就绪，且引擎显示运行中。

   

3. 在模型部分，按显示内容原样复制模型名称。

4. 在引擎部分：

   a. 连接来源：选择 Olares 内应用。

   b. API 格式：选择 OpenAI-Compatible。

   c. 按显示内容原样复制 Base URL 地址。

在 Open WebUI 中应用嵌入设置

1. 在 Open WebUI 中，选择你的头像图标，然后前往 Admin Panel > Settings。

2. 在左侧边栏中，找到 Tools 部分，然后选择 Documents。

3. 在 Embedding 区域中，指定以下设置：

   • Embedding Model Engine：选择 OpenAI。
   • API Base URL：输入你从 Model Console 复制的嵌入模型的 Base URL。
   • Embedding Model：输入你从 Model Console 复制的嵌入模型的 Model name。

4. 向下滚动到页面底部，然后点击右下角的 Reindex 以应用更改。

5. 选择 Save。

分析单个文档

将文档直接附加到聊天会话中，用于一次性的分析和总结。

1. 开始一个新聊天。

2. 选择模型。

3. 点击聊天输入框下方的 add_2，然后选择 Upload Files。

   

4. 上传 PDF 或文本文件。

5. 输入提示词，让模型分析文档。例如：

   Summarize the main points of this document.

6. 提交提示词。如果生成的回复包含文件引用，说明 Open WebUI 已成功将该文档加入上下文。

   

构建知识库

对于需要在多个聊天中重复使用的文档，需创建持久知识库。

1. 在 Open WebUI 中，点击你的头像图标，然后前往 Workspace > Knowledge。

2. 点击 Create。

3. 在 What are you working on 字段中，输入知识库名称。例如：Product FAQs。

4. 在 What are you trying to achieve 字段中，输入描述。例如：Frequently asked questions and support guides for Olares products。

   

5. 点击 Create Knowledge 保存集合。

6. 点击 add > Upload files，然后上传文件来填充知识库。

   

将知识库附加到聊天

创建知识库后，将其附加到聊天中，以便模型可以引用其内容。

1. 开始一个新聊天。

2. 选择模型。

3. 点击聊天输入框下方的 add_2，然后选择 Attach Knowledge。

4. 选择要使用的知识集合。

   

5. 询问与知识库内容相关的问题。模型会检索相关段落，并在回复中引用它们。

（可选）配置高级提取引擎

默认情况下，Open WebUI 使用简单的文本提取引擎。对于包含表格或复杂格式的文档版式，需切换到 PaddleOCR，以获得更好的准确性。

性能影响

PaddleOCR 需要更多 GPU VRAM，处理文档也比默认引擎更慢。仅在文档版式质量非常关键时使用该引擎。

1. 从应用市场安装 PaddleOCR 应用。

   

2. 获取 PaddleOCR 端点 URL：

   a. 打开 Olares 设置，然后前往应用 > PaddleOCR > 入口。

   b. 点击 PaddleOCR，然后复制端点 URL。例如：https://17b4c78a.laresprime.olares.com。

3. 在 Open WebUI 中，前往 Admin Panel > Settings。

4. 在左侧边栏中，找到 Tools 部分，然后选择 Documents。

5. 在 Content Extraction 区域中，按如下方式配置：

   a. Content Extraction Engine：在下拉列表中选择 PaddleOCR-vl。

   b. API Base URL：输入 PaddleOCR 端点 URL。

   c. API Token：输入任意文本，例如 local。不要留空。

   

6. 点击 Save。