LLM 响应 MCP 服务器

一个模型上下文协议 (MCP) 服务器，允许多个 AI 代理共享和读取彼此对同一提示的响应。

概述

本项目实现了一个 MCP 服务器，包含两个主要工具调用：

1. submit-response：允许 LLM 提交其对提示的响应
2. get-responses：允许 LLM 检索来自其他 LLM 的、针对特定提示的所有响应

这使得可以实现这样的场景：用户可以向多个 AI 代理提出相同的问题，然后这些代理可以使用这些工具来阅读和反思其他 LLM 对同一问题的回答。

安装

# 安装依赖
bun install

开发

# 构建 TypeScript 代码
bun run build

# 以开发模式启动服务器
bun run dev

使用 MCP Inspector 进行测试

本项目支持 MCP Inspector，它是一个用于测试和调试 MCP 服务器的工具。

# 使用 MCP Inspector 运行服务器
bun run inspect

inspect 脚本使用 npx 运行 MCP Inspector，它将在您的浏览器中启动一个 Web 界面，用于与您的 MCP 服务器交互。

这将允许您：

• 探索可用的工具和资源
• 使用不同的参数测试工具调用
• 查看服务器的响应
• 调试您的 MCP 服务器实现

用法

服务器公开两个端点：

• /sse - 用于 MCP 客户端连接的服务器发送事件 (Server-Sent Events) 端点
• /messages - 用于 MCP 客户端发送消息的 HTTP 端点

MCP 工具

submit-response

提交 LLM 对提示的响应：

// 工具调用示例
const result = await client.callTool({
  name: 'submit-response',
  arguments: {
    llmId: 'claude-3-opus',
    prompt: '生命的意义是什么？',
    response: '生命的意义是...'
  }
});

get-responses

检索所有 LLM 响应，可以选择按提示进行过滤：

// 工具调用示例
const result = await client.callTool({
  name: 'get-responses',
  arguments: {
    prompt: '生命的意义是什么？' // 可选
  }
});

许可证

MIT

部署到 EC2

本项目包含 Docker 配置，以便轻松部署到 EC2 或任何其他服务器环境。

前提条件

• 运行 Amazon Linux 2 或 Ubuntu 的 EC2 实例
• 安全组配置为允许端口 62886 上的入站流量
• 对实例的 SSH 访问

部署步骤

1. 将存储库克隆到您的 EC2 实例：

   git clone <your-repository-url>
   cd <repository-directory>
   

2. 使部署脚本可执行：

   chmod +x deploy.sh
   

3. 运行部署脚本：

   ./deploy.sh
   

该脚本将：

• 安装 Docker 和 Docker Compose（如果尚未安装）
• 构建 Docker 镜像
• 以分离模式启动容器
• 显示您的 MCP 服务器可访问的公共 URL

手动部署

如果您更喜欢手动部署：

1. 构建 Docker 镜像：

   docker-compose build
   

2. 启动容器：

   docker-compose up -d
   

3. 验证容器是否正在运行：

   docker-compose ps
   

访问服务器

部署完成后，您的 MCP 服务器将可以通过以下地址访问：

• http://<ec2-public-ip>:62886/sse - SSE 端点
• http://<ec2-public-ip>:62886/messages - Messages 端点

请确保端口 62886 在您的 EC2 安全组中已打开！