RAG-MCP 服务器

一个通用的检索增强生成 (RAG) 服务器，使用模型控制协议 (MCP)，旨在与 RISC Zero 的 Bonsai 文档进行测试。

概述

本项目实现了一个 RAG 服务器，它：

• 使用 MCP (模型控制协议) 进行标准化通信
• 实现 RAG (检索增强生成) 工作流程，用于文档查询
• 可以与 RISC Zero 的 Bonsai 文档进行测试
• 支持通过 Ollama 进行本地 LLM 集成

特性

• 文档摄取和索引
• 语义搜索能力
• 本地 LLM 集成
• MCP 协议兼容性
• RISC Zero Bonsai 文档支持

前提条件

• Python 3.12+
• Ollama (用于本地 LLM 支持)
• Poetry (用于依赖管理)

安装

1. 安装 Python 依赖项：

poetry install

2. 安装并启动 Ollama：

# 安装 Ollama
brew install ollama  # for macOS
# 或
curl -fsSL https://ollama.com/install.sh | sh  # for Linux

# 启动 Ollama 服务
ollama serve

3. 拉取所需的模型：

ollama pull llama2

用法

1. 启动 MCP 服务器：

poetry run python mcp_server.py

2. 服务器将：

   • 初始化 LLM 和嵌入模型
   • 从 data 目录摄取文档
   • 使用 RAG 工作流程处理查询

3. 使用 RISC Zero Bonsai 文档进行测试：

   • 将 RISC Zero Bonsai 文档放置在 data/ 目录中
   • 查询服务器关于 Bonsai 的特性和实现

项目结构

• mcp_server.py: 主要服务器实现
• rag.py: RAG 工作流程实现
• data/: 用于文档摄取的目录
• storage/: 向量存储和文档存储
• start_ollama.sh: 启动 Ollama 服务的脚本

使用 RISC Zero Bonsai 进行测试

该服务器配置为与 RISC Zero 的 Bonsai 文档一起使用。 您可以：

1. 将 Bonsai 文档添加到 data/ 目录
2. 查询关于 Bonsai 的特性、实现细节和用法
3. 使用 Bonsai 特定的问题测试 RAG 工作流程

由 ❤️ proofofsid 制作