LMStudio-MCP

一个模型控制协议 (MCP) 服务器，允许 Claude 通过 LM Studio 与本地运行的 LLM 模型进行通信。

<img width="1881" alt="Screenshot 2025-03-22 at 16 50 53" src="https://github.com/user-attachments/assets/c203513b-28db-4be5-8c61-ebb8a24404ce" />

概述

LMStudio-MCP 在 Claude (具有 MCP 功能) 和您本地运行的 LM Studio 实例之间创建了一个桥梁。 这允许 Claude：

• 检查您的 LM Studio API 的健康状况
• 列出可用的模型
• 获取当前加载的模型
• 使用您的本地模型生成补全

这使您能够通过 Claude 的界面利用您自己的本地运行模型，将 Claude 的功能与您的私有模型相结合。

前提条件

• Python 3.7+
• 已安装并本地运行且已加载模型的 LM Studio
• 具有 MCP 访问权限的 Claude
• 必需的 Python 包（请参阅安装）

安装

1. 克隆此存储库：

   git clone https://github.com/infinitimeless/LMStudio-MCP.git
   cd LMStudio-MCP
   

2. 安装所需的包：

   pip install requests "mcp[cli]" openai
   

MCP 配置

为了让 Claude 连接到此桥梁，您需要正确配置 MCP 设置。 您可以：

1. 直接从 GitHub 使用:

   {
     "lmstudio-mcp": {
       "command": "uvx",
       "args": [
         "https://github.com/infinitimeless/LMStudio-MCP"
       ]
     }
   }
   

2. 使用本地安装:

   {
     "lmstudio-mcp": {
       "command": "/bin/bash",
       "args": [
         "-c",
         "cd /path/to/LMStudio-MCP && source venv/bin/activate && python lmstudio_bridge.py"
       ]
     }
   }
   

有关详细的 MCP 配置说明，请参阅 MCP_CONFIGURATION.md。

用法

1. 启动您的 LM Studio 应用程序，并确保它在端口 1234（默认端口）上运行

2. 在 LM Studio 中加载一个模型

3. 如果在本地运行（不使用 uvx），请运行 LMStudio-MCP 服务器：

   python lmstudio_bridge.py
   

4. 在 Claude 中，当提示时通过选择 "lmstudio-mcp" 连接到 MCP 服务器

可用功能

该桥梁提供以下功能：

• health_check(): 验证 LM Studio API 是否可访问
• list_models(): 获取 LM Studio 中所有可用模型的列表
• get_current_model(): 确定当前加载的模型
• chat_completion(prompt, system_prompt, temperature, max_tokens): 从您的本地模型生成文本

已知限制

• 某些模型（例如，phi-3.5-mini-instruct_uncensored）可能存在兼容性问题
• 该桥梁目前仅使用 LM Studio 的 OpenAI 兼容 API 端点
• 模型响应将受到您本地加载模型的功能限制

故障排除

API 连接问题

如果 Claude 在尝试连接到 LM Studio 时报告 404 错误：

• 确保 LM Studio 正在运行并且已加载模型
• 检查 LM Studio 的服务器是否在端口 1234 上运行
• 验证您的防火墙是否未阻止连接
• 如果问题仍然存在，请尝试在 API URL 中使用 "127.0.0.1" 而不是 "localhost"

模型兼容性

如果某些模型无法正常工作：

• 某些模型可能不完全支持 OpenAI 聊天补全 API 格式
• 尝试为有问题的模型使用不同的参数值（temperature、max_tokens）
• 如果问题仍然存在，请考虑切换到更兼容的模型

有关更详细的故障排除帮助，请参阅 TROUBLESHOOTING.md。

许可证

MIT

致谢

该项目最初开发为 "Claude-LMStudio-Bridge_V2"，并已重命名并开源为 "LMStudio-MCP"。