MCP 服务器

Ollama MCP Server

一个桥梁，能够将 Ollama 的本地 LLM 功能无缝集成到 MCP 驱动的应用程序中，允许用户在本地管理和运行 AI 模型，并提供完整的 API 覆盖。

虚拟化

操作系统自动化

开发者工具

访问服务器

Tools

push

Push a model to a registry

list

List models

Copy a model

Remove a model

serve

Start Ollama server

create

Create a model from a Modelfile

show

Show information for a model

run

Run a model

pull

Pull a model from a registry

chat_completion

OpenAI-compatible chat completion API

README

Ollama MCP 服务器

🚀 一个强大的 Ollama 和模型上下文协议 (MCP) 之间的桥梁，能够将 Ollama 的本地 LLM 功能无缝集成到您的 MCP 驱动的应用程序中。

🌟 特性

完整的 Ollama 集成

完整的 API 覆盖: 通过简洁的 MCP 接口访问所有必要的 Ollama 功能
OpenAI 兼容的聊天: 即插即用的 OpenAI 聊天完成 API 替代方案
本地 LLM 强大功能: 在本地运行 AI 模型，具有完全的控制和隐私

核心功能

🔄 模型管理
- 从注册表拉取模型
- 将模型推送到注册表
- 列出可用模型
- 从 Modelfile 创建自定义模型
- 复制和删除模型
🤖 模型执行
- 使用可自定义的提示运行模型
- 具有系统/用户/助手角色的聊天完成 API
- 可配置的参数（温度、超时）
- 支持直接响应的原始模式
🛠 服务器控制
- 启动和管理 Ollama 服务器
- 查看详细的模型信息
- 错误处理和超时管理

🚀 快速开始

前提条件

您的系统上已安装 Ollama
Node.js 和 npm/pnpm

安装

安装依赖项：

pnpm install

构建服务器：

pnpm run build

配置

将服务器添加到您的 MCP 配置：

对于 Claude Desktop：

MacOS: ~/Library/Application Support/Claude/claude_desktop_config.json Windows: %APPDATA%/Claude/claude_desktop_config.json

{
  "mcpServers": {
    "ollama": {
      "command": "node",
      "args": ["/path/to/ollama-server/build/index.js"],
      "env": {
        "OLLAMA_HOST": "http://127.0.0.1:11434"  // 可选：自定义 Ollama API 端点
      }
    }
  }
}

🛠 使用示例

拉取并运行模型

// 拉取模型
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "pull",
  arguments: {
    name: "llama2"
  }
});

// 运行模型
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "run",
  arguments: {
    name: "llama2",
    prompt: "用简单的术语解释量子计算"
  }
});

聊天完成 (OpenAI 兼容)

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "chat_completion",
  arguments: {
    model: "llama2",
    messages: [
      {
        role: "system",
        content: "你是一个乐于助人的助手。"
      },
      {
        role: "user",
        content: "人生的意义是什么？"
      }
    ],
    temperature: 0.7
  }
});

创建自定义模型

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "create",
  arguments: {
    name: "custom-model",
    modelfile: "./path/to/Modelfile"
  }
});