AI智能
改变未来

octopus | 为个人打造的美观优雅的 LLM API 聚合服务 支持 自动分组 自动同步上游模型 热重载 负载均衡 协议互转 用量统计

octopus | 为个人打造的美观优雅的 LLM API 聚合服务 支持 自动分组 自动同步上游模型 热重载 负载均衡 协议互转 用量统计

🖥️桌面端首页仪表盘渠道管理分组管理模型管理日志设置📱移动端首页渠道分组模型日志设置功能OpenAIChat/OpenAIResponses/Anthropic三种协议互转一套配置适应不同客户端,不需要反复更新BASEURL和MODEL_NAME多渠道负载均衡用量统计功能亮点统一的模型名称,cli客户端无需重启

详情链接:
https://www.nodeseek.com/post-547950-1

来源: NODESEEK, 消息ID: 544829

赞(0) 打赏
未经允许不得转载:爱站程序员基地 » octopus | 为个人打造的美观优雅的 LLM API 聚合服务 支持 自动分组 自动同步上游模型 热重载 负载均衡 协议互转 用量统计