MCP 服务器

mcp-mistral-queue

An MCP server that coordinates Mistral API calls across multiple processes/clients using a shared SQLite queue, enforcing automatic rate limiting and priority-based queuing.

README

mcp-mistral-queue

English

Mistral API の無料枠（約 1 リクエスト/30 秒）向けに、ローカルや複数プロセス・MCP クライアントからの呼び出しを共有 SQLite キューで調停する MCP (Model Context Protocol) サーバー兼 CLI ツールです。 WAL モードの SQLite と非同期キューで開始間隔を協調し、単一 in-flight で順番に処理します（ベストエフォートの交通整理であり、公式の SLA 保証ではありません）。

主な特徴

自動レート制限調停: 共有の約 31 秒間隔で開始を協調し、429 時は共有バックオフ後にゲートを再通過。成功時は既定間隔へ復帰。
マルチプロセス&優先度制御: 複数プロセス・タスクからの同時呼び出しに対応。優先度 (1–3) と単一 in-flight でキューを整理。
柔軟なモデル&メッセージ指定: mistral-small-latest のほか、mistral-large-latest や codestral-latest への切り替え、会話履歴（messages 配列）の投入に対応。
ストリーミング&キャンセル: レスポンスの逐次処理と、クライアント側キャンセル（CancelledError）時の DB 状態更新。
ローカル制御 DB: テンポラリ DB はユーザー専用ディレクトリ（パーミッション 0700）配下に配置。
uv 対応: PEP 723 (Inline Script Metadata)。uv run で依存を解決。
Mistral Vibe 連携: MCP サーバー（--mcp）として Vibe / Claude Desktop 等に登録可能。CLI 直実行は uv run を使用（vibe mmq.py では動かない）。

前提条件

Python 3.10+
uv がインストールされていること (0.1.0 以上を推奨)
Mistral API の API キー (MISTRAL_API_KEY)

export MISTRAL_API_KEY="your-mistral-api-key"

使い方

CLI モード (直接実行)

スクリプト実行は uv run を使います。
（vibe コマンドは Mistral Vibe のエージェント CLI であり、vibe mmq.py "..." のようには動きません。）

# 基本実行 (デフォルトモデル: mistral-small-latest)
uv run mmq.py "Pythonのリスト内包表記について短く解説して"

# モデルを指定して実行 (例: mistral-large-latest, codestral-latest)
uv run mmq.py -m mistral-large-latest "複雑なアルゴリズムの解説をお願い"

# システムプロンプトを指定
uv run mmq.py -s "あなたは関西弁で話すAIです。" "今日の天気を教えて"

# 優先度 (1: 高, 2: 通常, 3: 低) を指定して割り込み処理
uv run mmq.py --priority 1 "緊急度が高い質問"

# 対話コンテキスト (messages 配列) を直接渡す
uv run mmq.py --messages '[{"role":"system","content":"厳格なプログラマー"},{"role":"user","content":"Rustの所有権とは？"}]'

MCP サーバーモード (Mistral Vibe / 他クライアント連携)

Vibe、Claude Desktop、OpenCode、Goose などから MCP ツール ask_mistral として呼びます。
CLI の uv run mmq.py "..." とは別経路です。

Vibe 設定例（詳細は docs/SMOKE_VIBE.md）:

{
  "mcpServers": {
    "mistral-queue": {
      "command": "uv",
      "args": [
        "run",
        "--with", "mcp[cli]>=1.0.0,<2",
        "--with", "mistralai>=1.0.0,<2",
        "--no-project",
        "/absolute/path/to/mmq.py",
        "--mcp"
      ],
      "env": {
        "MISTRAL_API_KEY": "your-mistral-api-key"
      }
    }
  }
}

設定後、Vibe を再起動し、エージェントに tool ask_mistral を使わせます（モデルは tool 引数 model で指定、例: mistral-large-latest）。

Claude Desktop 設定例 (claude_desktop_config.json):

{
  "mcpServers": {
    "mistral-queue": {
      "command": "uv",
      "args": [
        "run",
        "--with", "mcp[cli]>=1.0.0,<2",
        "--with", "mistralai>=1.0.0,<2",
        "--no-project",
        "/absolute/path/to/mmq.py",
        "--mcp"
      ],
      "env": {
        "MISTRAL_API_KEY": "your-mistral-api-key"
      }
    }
  }
}

MCP ツール仕様 (ask_mistral)

MCP サーバーモード起動時、クライアント側からは ask_mistral ツールとしてアクセスできます。

引数名	型	デフォルト値	説明
prompt	string	null	単発の入力プロンプトテキスト
messages	array	null	会話履歴オブジェクトの配列 ([{"role": "...", "content": "..."}])
model	string	"mistral-small-latest"	利用する Mistral モデル名
system_prompt	string	null	カスタムシステムプロンプト (prompt 指定時のみ有効)
priority	number	2	タスク優先度 (1: 高, 2: 通常, 3: 低)

管理データの保存先

排他制御用のテンポラリ DB は、ユーザーごとにパーミッション 0700 で作成された専用ディレクトリに保存されます。

キュー管理 DB: /tmp/mcp_mistral_queue_<USER>/mcp_mistral_flow_control.db

テスト

# 単体 + e2e（Fake API、ネットワーク不要）
uv run --with 'mcp[cli]>=1.0.0,<2' --with 'mistralai>=1.0.0,<2' \
  --with pytest --with pytest-asyncio --no-project \
  python -m pytest tests/ -v -m "not live"

# e2e のみ
uv run --with 'mcp[cli]>=1.0.0,<2' --with 'mistralai>=1.0.0,<2' \
  --with pytest --with pytest-asyncio --no-project \
  python -m pytest tests/e2e -v -m "not live"

# 本物 API（任意・無料枠を消費）
export MISTRAL_API_KEY=...
uv run --with 'mcp[cli]>=1.0.0,<2' --with 'mistralai>=1.0.0,<2' \
  --with pytest --with pytest-asyncio --no-project \
  python -m pytest tests/e2e/test_live_api.py -v -m live