项目简介

Octopus(章鱼)是一款面向个人的开源 LLM-API 聚合网关。它把 DeepSeek、硅基流动、Kimi 等多家大模型服务商接口统一封装成一套 兼容 OpenAI 标准的 API,集中管理多厂商密钥,支持路由转发、负载均衡、协议转换与计费统计。手上有多个模型服务商账号(尤其有免费额度)的玩家,堪称「羊毛党神器」。

  • 多渠道聚合 — 支持接入多个 LLM 供应商渠道,统一管理

  • 多 Key 支持 — 单渠道支持配置多个 Key,余额用完自动切换

  • 智能优选 — 单渠道多端点,自动选择延迟最小的端点请求

  • 负载均衡 — 自动分配请求,确保服务稳定高效

  • 协议互转 — OpenAI Chat / Responses / Anthropic 三种格式互相转换

  • 价格同步 — 自动更新模型价格

  • 模型同步 — 自动与渠道同步可用模型列表,省心省力

  • 数据统计 — 全面的请求统计、Token 消耗、费用追踪

  • 优雅界面 — 简洁美观的 Web 管理面板

  • 多数据库 — 支持 SQLite、MySQL、PostgreSQL

版本建议:固定使用 v0.9.28
从 v0.10.0 开始,章鱼删除了部分实用功能,包括 embed 协议支持、自动负载均衡、日志持久化到数据库、单渠道多 KEY / 多 URL。虽然 v0.10.0 重点优化了协议转换、日志与可视化请求流程,但如需保留上述功能,建议继续使用 v0.9.28。
查看 v0.9.28 Release

新建 docker-compose.yml,内容如下:

services:
  octopus-api:
    # API汇聚的章鱼镜像(核心)
    image: bestrui/octopus:v0.9.28
    container_name: zhangyu-api-octopus
    # 端口映射:宿主机6199 -> 容器80端口(API汇聚章鱼默认端口)
    ports:
      - "6199:8080"
    # 持久化目录(适配你的NAS路径,保存API配置/数据)
    volumes:
      - /vol3/1000/docker/octopus/data:/app/data
      - /vol3/1000/docker/octopus/config:/app/config
    # 环境变量(国内时区适配)
    environment:
      - TZ=Asia/Shanghai
    # 重启策略:容器异常退出自动重启
    restart: unless-stopped

说明:使用相对路径 ./data、./config,数据会保存在 compose 项目文件所在目录下,部署后自动生成。参数说明:8080(端口)设置访问端口;/app/data(路径)存放配置文件。更多参数建议查看官方文档。

在飞牛 NAS 部署:桌面打开 Docker 应用 → 左侧 Compose → 新建,把上面的内容复制粘贴进去,项目名称填 octopus,选择一个存储位置,点击部署即可(会自动拉取镜像并启动容器)。

部署完成后,浏览器输入 http://你的NAS_IP:6199 即可访问(容器内部 8080,宿主机映射 6199)。


一、登录与安全

01 打开登录面板

浏览器访问 NAS 上的 Octopus 面板:

http://<NAS的IP>:8080

本教程示例中,外网端口映射为 6199,实际请以你映射的端口为准。

02 使用默认账号登录

首次进入使用默认账号:

  • 用户名:admin

  • 密码:admin

默认口令仅用于首次进入,请尽快修改,不要长期暴露在公网。

03 熟悉面板布局

登录后主页通常会直接展示:

  • 总数据统计

  • 每日使用情况

  • Token 消耗、请求次数、消费金额

  • 趋势图表

界面比较简洁,先整体扫一眼各入口,后面配置时会更顺。

04 修改默认密码

进入设置,第一时间修改 admin / admin。这是整套流程里优先级最高的一步。


二、添加渠道(AI 服务提供商)

渠道对应上游 AI 服务商。可以同时挂多个站点、多把 Key,为后面的分组与故障转移做准备。

05 创建新渠道

在渠道页面点击「创建新渠道」,按服务商信息填写:

字段

说明

渠道名称

自定义,便于识别

渠道类型

例如 OpenAI Chat

Base URL

服务商接口地址

API Key

该服务商的密钥

06 多 Key 随时切换

同一服务商可以添加多把 Key。某个账号余额用完或被限流时,直接切到其他账号,不用改下游编程工具的配置。

07 刷新获取可用模型

渠道信息填好后,点击「刷新」,面板会向该渠道拉取可用模型列表。

08 开启自动同步模型

建议打开「自动同步模型」,勾选需要的模型后点击「创建」。

09 渠道创建完成

渠道添加成功后,列表中可以看到已配置的服务商。可以额外添加「硅基流动」等作为第二渠道,方便后续做分组与备份。


三、创建分组与切换策略

分组是这套玩法的核心:把不同渠道的同类模型收成一个逻辑名,下游只认分组名,上游可以随时换、随时补。

10 创建分组

进入分组配置,新建分组。分组名称会直接作为模型名称对外展示,命名时尽量清晰(例如 DeepSeek、免费)。

11 调整首字超时与会话保持

按网络与使用场景微调,示例参数:

  • 首字超时:约 3s

  • 会话保持:约 10s

数值不是固定答案,弱网或上游较慢时可适当放宽。

12 选择切换策略:推荐故障转移

切换方式建议选「故障转移」:当前站点异常时,请求会自动落到分组内的备用渠道,减少中断。

13 勾选跨渠道模型加入分组

同一分组可以同时挂不同站点的同类模型。例如 DeepSeek 分组里同时放入「硅基流动」与「TokenRhythm」的 DeepSeek 模型。

14 分组创建完成

分组就绪后,上游站点故障时会自动切换,下游无需改配置。

15 技巧:免费分组玩法

可以把多个免费模型放进一个名为「免费」的分组。薅羊毛时只需在这个分组里切换,编程工具的模型名不用反复改。


四、创建密钥并接入编程工具

16 创建 API 密钥

进入设置 → API 密钥,点击创建新密钥。

17 填写密钥信息

  • 备注 / 名称:标明用途,例如「笔记本 Chatbox」

  • 可用模型:勾选刚创建的分组

18 复制生成的密钥

创建成功后立刻复制密钥,后面配置工具时要用。

密钥如果只显示一次,务必先保存到密码管理器,避免丢失后只能重建。

19 配置编程工具

在 Chatbox、Hermes 等客户端中填写:

配置项

示例值

Base URL

http://192.168.31.90:8080/v1

API Key

上一步复制的密钥

模型

选择对应的分组名

请把地址替换成你自己的 NAS 地址与端口。


五、监控与排查

20 查看调用数据

回到面板主页,可以观察 Token 消耗、费用与请求趋势,方便判断哪个分组更划算、哪个渠道更稳定。

21 用日志排查问题

请求失败时,到日志页查看:

  • 失败原因

  • 耗时

  • Token 用量

结合时间线可以快速定位是 Key 失效、上游超时,还是模型名不匹配。


小结

整条链路可以压缩成四句:

  1. 登录改密 — 先安全,再干活。

  2. 加渠道、刷模型 — 把上游服务商和 Key 挂进来。

  3. 建分组、开故障转移 — 下游只认分组名,上游可轮换。

  4. 发密钥、接工具 — 编程工具只连 Octopus 一个地址。

配好之后,调用统计和日志会持续反馈运行状态。渠道增减、Key 轮换、模型下线,都可以在面板里完成,不必反复改客户端。