Akash LLM API 代理服务

这是一个设计用于 Cloudflare Workers 环境的代理服务，允许开发者使用标准的 OpenAI API 格式来调用 Akash 网络上的大型语言模型服务。

功能特点

• 与 OpenAI API 格式完全兼容
• 支持 Akash 网络上的多种 LLM 模型
• 支持流式输出（SSE 格式）
• API 密钥验证机制
• 跨域请求支持
• 浏览器友好的管理界面

快速开始

部署前准备

1. 拥有 Cloudflare 账号并登入 Cloudflare Dashboard

2. 创建 KV 命名空间：

   • 进入 Cloudflare Dashboard 的 储存空间和数据库 页面
   • 点击 "KV" 选项卡
   • 点击 "建立" 按钮
   • 命名为 Akash_API_KEY

部署步骤

1. 在 Cloudflare Dashboard 中创建新的 Worker：

   • 进入 Workers & Pages 页面
   • 点击 "创建应用程序" 按钮
   • 选择 "创建 Worker"
   • 为 Worker 命名，例如 akash-deepseek-proxy
   • 在代码编辑器中，删除示例代码

2. 复制 worker.js 中的全部代码并贴到编辑器中

3. 设置环境变量（在 "设定" 标签中）：

   • 点击 "变量和秘密" 部分
   • 添加环境变量：
     • AKASH_TOKEN: 设置为您的 Akash 网络访问令牌
     • ADMIN_KEY: 设置为一个安全的管理员密钥（您自己定义）
   • 注意：这两个变量都包含敏感信息，必须选择 "机密" 类型而非普通文本类型，以确保安全

4. 绑定 KV 命名空间（在 "设定" 标签中）：

   • 点击 "变量和秘密" 部分
   • 点击 "绑定" 按钮
   • 变量名称设置为 Akash_API_KEY
   • KV 命名空间选择前面创建的 Akash_API_KEY
   • 点击 "保存" 按钮

5. 保存并部署：

   • 点击 "保存并部署" 按钮

New API设置样式

降智判断测试

API 密钥管理

部署完成后，您可以通过以下 API 来管理 API 密钥：

列出所有 API 密钥

https://your-worker.workers.dev/admin/keys/list?admin_key=your-admin-key

创建新 API 密钥

https://your-worker.workers.dev/admin/keys/create?admin_key=your-admin-key&description=测试密钥&expires_at=2024-12-31T23:59:59Z

可选参数：

• description: 密钥描述
• expires_at: 过期时间（ISO 格式）
• rate_limit: 每分钟请求限制数

撤销 API 密钥

https://your-worker.workers.dev/admin/keys/revoke?admin_key=your-admin-key&key=ak-xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx

使用 API

获取模型列表

curl -X GET "https://your-worker.workers.dev/v1/models" \
  -H "Authorization: Bearer your-api-key"

发送聊天请求

curl -X POST "https://your-worker.workers.dev/v1/chat/completions" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer your-api-key" \
  -d '{
    "model": "Meta-Llama-3-3-70B-Instruct",
    "messages": [
      {
        "role": "user",
        "content": "你好，请介绍一下自己"
      }
    ],
    "stream": true
  }'

安全注意事项

• 请妥善保管 ADMIN_KEY 和 AKASH_TOKEN，不要在客户端代码中泄露
• 定期更换管理员密钥以提高安全性
• 建议为 API 密钥设置合理的过期时间
• 通过 URL 参数传递 admin_key 虽然方便，但在生产环境中应增加更多安全措施

参考文档

原作者版本