Redis Token Manager

Author: lightc
Version: 0.1.0
Type: tool

描述

Redis Token Manager 是一个基于 Redis 实现令牌池控制并发的 Dify 插件，可用于大模型与机翻服务的请求限流。此插件提供简单高效的 Redis 列表操作接口，便于进行令牌的存取和管理。

主要功能

1. 添加令牌 (redis-list-set)

   • 将单个或多个令牌添加到 Redis 列表
   • 支持批量添加模式，提高效率

2. 获取令牌 (redis-list-get)

   • 从 Redis 列表中获取并移除一个或多个令牌
   • 支持批量获取，减少网络开销

3. 查询列表长度 (redis-list-len)

   • 快速获取列表中剩余令牌数量
   • 用于监控令牌池状态

使用场景

• 大模型 API Token 管理：管理多个 API Key，均衡使用各个账号额度
• 请求限流控制：实现分布式系统的请求节流
• 任务队列管理：简易的任务分发与处理

连接参数说明

• Host: Redis 服务器地址 (默认: 127.0.0.1)
• Port: Redis 端口 (默认: 6379)
• Password: Redis 密码 (可选)
• DB: Redis 数据库编号 (默认: 0)
• Max Connections: 连接池最大连接数 (默认: 100)
• Timeout: 连接超时时间，秒 (默认: 5)

性能优化

• 使用连接池管理 Redis 连接，减少连接建立开销
• 支持批量操作，提高吞吐量
• 定期健康检查，确保连接可用性
• 错误重试机制，提高系统稳定性