Ollama Pydantic 项目

本项目演示了如何将本地 Ollama 模型与 Pydantic agent 框架结合使用，以创建一个智能代理。该代理连接到 MCP 服务器以利用工具，并使用 Streamlit 提供用户友好的界面。

概述

本项目的主要目标是展示：

• 本地 Ollama 模型集成: 使用本地托管的 Ollama 模型生成响应。
• Pydantic Agent 框架: 使用 Pydantic 创建代理，用于数据验证和交互。
• MCP 服务器连接: 使代理能够通过 MCP 服务器使用工具。
• Streamlit UI: 提供基于 Web 的聊天机器人界面，用于用户交互。

前提条件

在设置项目之前，请确保以下事项：

1. Python: 安装 Python 3.8 或更高版本。您可以从 python.org 下载。
2. Ollama 模型: 在本地安装并运行 Ollama 服务器：
   • 从 Ollama 官方网站 下载 Ollama CLI。
   • 按照其网站上提供的说明安装 CLI。
   • 启动 Ollama 服务器：

     ollama serve
     

   • 确保服务器在 http://localhost:11434/v1 上运行。
3. MCP 服务器: 设置 MCP 服务器以启用代理工具。有关更多详细信息，请参阅 MCP Server Sample。

设置说明

按照以下步骤设置项目：

1. 克隆存储库:

   git clone <repository-url>
   cd ollama-pydantic-project
   

2. 创建虚拟环境:

   python3 -m venv venv
   

3. 激活虚拟环境:

   • 在 macOS/Linux 上：

     source venv/bin/activate
     

   • 在 Windows 上：

     venv\Scripts\activate
     

4. 安装依赖项:

   pip install -r requirements.txt
   

5. 确保 Ollama 服务器正在运行: 按照前提条件中的描述启动 Ollama 服务器。

6. 运行应用程序: 启动 Streamlit 应用程序：

   streamlit run src/streamlit_app.py
   

用法

应用程序运行后，在浏览器中打开提供的 URL（通常是 http://localhost:8501）。您可以通过在输入框中键入查询来与聊天机器人交互。代理将使用 Ollama 模型和 MCP 服务器提供的工具处理您的查询。

交互示例

以下是与代理交互时聊天机器人界面的外观示例：

项目结构

该项目的组织结构如下：

ollama-pydantic-project/
├── src/
│   ├── streamlit_app.py        # 主要的 Streamlit 应用程序
│   ├── agents/
│   │   ├── base_agent.py       # 代理的抽象基类
│   │   ├── ollama_agent.py     # Ollama 代理的实现
│   ├── utils/
│       ├── config.py           # 配置设置
│       ├── logger.py           # 日志记录实用程序
├── requirements.txt            # Python 依赖项
├── README.md                   # 项目文档
├── assets/
│   ├── ollama_agent_mcp_example.png  # 交互示例图像
├── .gitignore                  # Git 忽略文件

特性

• Streamlit 聊天机器人: 用户友好的聊天机器人界面。
• Ollama 模型集成: 使用本地 Ollama 模型生成响应。
• MCP 服务器工具: 连接到 MCP 服务器以增强代理功能。
• Pydantic 框架: 确保数据验证和类型安全。

故障排除

• 如果您遇到 Ollama 服务器的问题，请确保它在 http://localhost:11434/v1 上运行。
• 如果依赖项安装失败，请确保您使用的是 Python 3.8 或更高版本，并且您的虚拟环境已激活。
• 对于 MCP 服务器相关的问题，请参阅 MCP Server Sample。

许可证

本项目根据 MIT 许可证获得许可。有关详细信息，请参阅 LICENSE 文件。

贡献

欢迎贡献！请随时提出问题或提交拉取请求。