🧠 MCP - Titan 内存服务器实现

由 @jasonkneen 和 @ExpressionsBot 合作开发

在 X 上关注我们

• jasonkneen
• megaprompt

该实现灵感来源于 Google Research 的论文 "Generative AI for Programming: A Common Task Framework"。该服务器提供了一个神经记忆系统，可以学习和预测序列，同时通过记忆向量保持状态，遵循研究中概述的原则，以改进代码生成和理解。

📚 研究背景

该实现借鉴了 Google Research 论文 (Muennighoff et al., 2024) 中提出的概念，该论文介绍了一个用于评估和改进代码生成模型的框架。Titan 内存服务器实现了论文中的关键概念：

• 记忆增强序列学习
• 用于新颖性检测的 Surprise 指标
• 用于稳定学习的流形优化
• 通过记忆向量维护状态

这些特性与论文的目标一致，即通过更好的内存和状态管理来改进代码理解和生成。

🚀 特性

• 具有可配置维度的神经记忆模型
• 序列学习和预测
• Surprise 指标计算
• 模型持久化（保存/加载）
• 内存状态管理
• 完整的 MCP 工具集成

📦 安装

# 安装依赖
npm install

# 构建项目
npm run build

# 运行测试
npm test

🛠️ 可用的 MCP 工具

1. 🎯 init_model

使用自定义配置初始化 Titan 内存模型。

{
  inputDim?: number;  // 输入维度 (默认: 64)
  outputDim?: number; // 输出/内存维度 (默认: 64)
}

2. 📚 train_step

使用当前和下一个状态向量执行单个训练步骤。

{
  x_t: number[];    // 当前状态向量
  x_next: number[]; // 下一个状态向量
}

3. 🔄 forward_pass

使用输入向量运行模型的前向传递。

{
  x: number[]; // 输入向量
}

4. 💾 save_model

将模型保存到指定路径。

{
  path: string; // 保存模型的路径
}

5. 📂 load_model

从指定路径加载模型。

{
  path: string; // 从中加载模型的路径
}

6. ℹ️ get_status

获取当前模型状态和配置。

{} // 不需要参数

7. 🔄 train_sequence

在向量序列上训练模型。

{
  sequence: number[][]; // 要训练的向量数组
}

🌟 使用示例

// 初始化模型
await callTool('init_model', { inputDim: 64, outputDim: 64 });

// 在序列上训练
const sequence = [
  [1, 0, 0, /* ... */],
  [0, 1, 0, /* ... */],
  [0, 0, 1, /* ... */]
];
await callTool('train_sequence', { sequence });

// 运行前向传递
const result = await callTool('forward_pass', {
  x: [1, 0, 0, /* ... */]
});

🔧 技术细节

• 使用 TensorFlow.js 构建，实现高效的张量运算
• 使用流形优化实现稳定学习
• 实现 Surprise 指标用于新颖性检测
• 使用适当的张量清理进行内存管理
• 使用 TypeScript 进行类型安全实现
• 完善的错误处理

🧪 测试

该项目包括涵盖以下方面的全面测试：

• 模型初始化和配置
• 训练和前向传递操作
• 内存状态管理
• 模型持久化
• 边缘情况和错误处理
• 张量清理和内存管理

使用以下命令运行测试：

npm test

🔍 实现说明

• 所有张量运算都封装在 tf.tidy() 中，以实现适当的内存管理
• 使用详细的错误消息实现适当的错误处理
• 使用类型安全的 MCP 工具定义
• 在操作之间维护内存状态
• 使用 epsilon 容差处理浮点精度问题

📝 许可证

MIT 许可证 - 随意使用和修改！