Garak LLM 漏洞扫描器的 MCP 服务器

一个轻量级的 Garak MCP (模型上下文协议) 服务器。

示例:

https://github.com/user-attachments/assets/f6095d26-2b79-4ef7-a889-fd6be27bbbda

---

功能

• 列出攻击: 列出 Garak 上所有可用的攻击。
• 运行攻击: 在给定的模型上运行攻击。

---

前提条件

1. Python 3.11 或更高版本: 此项目需要 Python 3.11 或更高版本。

   # 检查您的 Python 版本
   python --version
   

2. 安装 uv: 一个快速的 Python 包安装器和解析器。

   pip install uv
   

   或者使用 Homebrew:

   brew install uv
   

3. 可选: Ollama: 如果您想在 ollama 模型上运行攻击，请确保 ollama 服务器正在运行。

ollama serve

---

安装

克隆此仓库:

git clone https://github.com/BIGdeadLock/Garak-MCP.git
cd src

---

配置

对于 Cursor 用户:

{
  "mcpServers": {
    "garak-mcp": {
      "command": "uv",
      "args": ["--directory", "path-to/Garak-MCP", "run", "garak-server"],
      "env": {}
    }
  }
}

---

提供的工具

概述

名称	描述
list_model_types	列出所有可用的模型类型 (ollama, openai, huggingface, ggml)
list_models	列出给定模型类型的所有可用模型
list_garak_probes	列出所有可用的 Garak 攻击/探针
get_report	获取上次运行的报告
run_attack	使用给定的模型和探针运行攻击

详细描述

• list_model_types

  • 列出所有可用于攻击的模型类型
  • 返回支持的模型类型列表 (ollama, openai, huggingface, ggml)

• list_models

  • 列出给定模型类型的所有可用模型
  • 输入参数:
    • model_type (string, required): 要列出的模型类型 (ollama, openai, huggingface, ggml)
  • 返回指定类型的可用模型列表

• list_garak_probes

  • 列出所有可用的 Garak 攻击/探针
  • 返回可以运行的可用探针/攻击列表

• get_report

  • 获取上次运行的报告
  • 返回报告文件的路径

• run_attack

  • 使用给定的模型和探针运行攻击
  • 输入参数:
    • model_type (string, required): 要使用的模型类型
    • model_name (string, required): 要使用的模型名称
    • probe_name (string, required): 要使用的攻击/探针名称
  • 返回发现的漏洞列表

---

未来步骤

• [ ] 添加对 Smithery AI 的支持: Docker 和配置
• [ ] 改进报告
• [ ] 测试和验证 OpenAI 模型 (GPT-3.5, GPT-4)
• [ ] 测试和验证 HuggingFace 模型
• [ ] 测试和验证本地 GGML 模型