V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  tbphp  ›  全部回复第 2 页 / 共 6 页
回复总数  112
1  2  3  4  5  6  
❮ ❯
9 月 21 日
回复了 tbphp 创建的主题 › 程序员 › GPT-Load 接入 Jev:模型及思考强度的自动挡功能
@yh7gdiaYW 他那是直接降智,不是根据输入自动路由。
9 月 21 日
回复了 tbphp 创建的主题 › 程序员 › GPT-Load 接入 Jev:模型及思考强度的自动挡功能
@musi 是的,不同厂商的模型策略不同。是否需要自动挡,还是要看自己的工作流、上游情况来尝试。
9 月 21 日
回复了 tbphp 创建的主题 › 程序员 › GPT-Load 接入 Jev:模型及思考强度的自动挡功能
@sampeng 但实际上会话中不同的指令需要不同的模型,也是很高的需求。
嗯,目前实验性功能就是希望搜集下大家的反馈,看下后续如何优化和调整吧,或者考虑给一些控制选项。
9 月 21 日
回复了 tbphp 创建的主题 › 程序员 › GPT-Load 接入 Jev:模型及思考强度的自动挡功能
@sampeng 是存在这个问题,我也考虑过。

同一个任务(非会话)会自动沿用,避免多次请求都判断,但是不同的任务(主动发送消息)会触发判断。
使用的场景也有这种情况,同一个会话,但是在处理不同阶段也会切模型思考。
9 月 16 日
回复了 tbphp 创建的主题 › 程序员 › 🔥 GPT-Load 2.0 发布!轻量易用的自托管 AI 网关
这周重点是 Codex 、WebSocket 、协议兼容和调度稳定性上,新增了一些能力和修复了不少实际问题。

## GPT-Load 2.0 近一周更新(截至 v2.0.0-rc.18 )

- **WebSocket:** 原生 Responses WebSocket ,连接复用、连续会话、预热、多轮请求及逐轮治理。
- **Codex 额度实时更新增强:** 完善被动额度刷新,以及修复各种更新事件机制问题。
- **故障转移:** ws 首轮异常时支持自动切换凭据,并完善 ws 客户端重连恢复机制。
- **调度优化:** 统一全局重试预算,支持按模型独立冷却,并扩大部分 4xx / 5xx 场景下的安全重试与换组能力。
- **缓存亲和:** 支持 `prompt_cache_key` 参与请求亲和,补齐 Codex 稳定缓存分组,改善连续请求缓存命中表现。
- **协议兼容:** 加强等协议转换,完善 DeepSeek 、Codex 、Grok 的系统指令、工具调用及原生消息兼容。
- **用量统计:** 修正流式输入 token 及费用统计错误。
- **功能扩展:** Responses 状态续接、Rerank 、Gemini / Antigravity 生图转换 `Ultrafast` 模式支持。
- **账号管理:** 支持更多格式的订阅凭据导入、自定义上游地址,并修复 Codex / Claude 多账号身份判重问题。
- **管理优化:** 分组密钥测试支持自选协议和模型,Access Key 支持自定义生成,同时优化日志时间筛选及相关管理交互。
- 其他若干兼容性、稳定性和性能优化。
9 月 11 日
回复了 tbphp 创建的主题 › 程序员 › 🔥 GPT-Load 2.0 发布!轻量易用的自托管 AI 网关
@deqiying 最新版已经支持了,可以体验一下。
这一周还是更新的很频繁的,解决了很多佬友反馈的问题,以及新增了不少功能还有各种优化。

### [GPT-Load 2.0]( https://github.com/tbphp/gpt-load) 近一周更新(截止 v2.0.0-rc.10 )

- **参数覆盖**:按协议、模型匹配规则,统一修改或删除请求参数。
- **调度升级**:全局加权轮询、连续分配限制,支持原生优先或混合权重策略。
- **价格倍率**:分组和 AccessKey 可分别设置费用倍率。
- **密钥与用量**:支持复制配置发放新密钥、按密钥查看用量及日志、自定义统计时间。
- **批量管理**:单次最多导入 **5,000 条 API Key**,支持全量下载、启停和恢复。
- **渠道扩展**:新增 **Sub2API** 专用上游渠道。
- **跨域配置**:支持后台配置 **CORS** 和自定义响应头。
- **管理优化**:重构设置页,补齐订阅账号权重、分组快速启停及日志路由展示。
- 其他若干修复和优化。
这 2 天又更新了好几个小版本,修复了这段时间用户使用的一些反馈问题。
@TopMuse 这也没有办法能保证,个人设备环境、网络 ip 质量等等都会影响。

单从我个人使用来说,chatgpt 的订阅接入个人使用一直没出现过问题,claude code 的不太行,风控要更严格一点。
@TopMuse 嗯,这是上游的风控,特别是分发比较容易被探测。
@0d 可以查看订阅账号明细。分组页面,进入分组详情,就能看到这个分组所有的账号。
账号卡片默认是没有显示额度,需要手动点击刷新就会更新额度信息。
参考帖子第二张截图
@nativeBoy 是的,有编译好的二进制可以直接使用
@safilar 目前只有开源版本,暂无商业版。
@deqiying 目前 rc 版本还没有,有这个计划,之后会加入。
2025 年 8 月 25 日
回复了 tbphp 创建的主题 › 程序员 › 人生第一个开源项目 4K star,感谢支持!
提醒一下大家,如果有使用 GPT-Load 项目的用户,一定要修改 AUTH_KEY 为你自己的强密码,不要使用默认的。

注意服务和网络安全!
2025 年 8 月 23 日
回复了 tbphp 创建的主题 › 程序员 › 人生第一个开源项目 4K star,感谢支持!
@xingheng
说得太直白了。
要合理合规的使用哦。
😁
2025 年 8 月 23 日
回复了 tbphp 创建的主题 › 程序员 › 人生第一个开源项目 4K star,感谢支持!
@Tose
感谢支持!
2025 年 8 月 22 日
回复了 tbphp 创建的主题 › 程序员 › 人生第一个开源项目 4K star,感谢支持!
@bojue
大佬分享一下链接啊,一起学习。
2025 年 8 月 22 日
回复了 tbphp 创建的主题 › 程序员 › 人生第一个开源项目 4K star,感谢支持!
@wangqi060934
感谢支持
2025 年 8 月 22 日
回复了 tbphp 创建的主题 › 程序员 › 人生第一个开源项目 4K star,感谢支持!
@urlpha
欢迎体验、反馈。
1  2  3  4  5  6  
❮ ❯
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2886 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 18ms · UTC 15:18 · PVG 23:18 · LAX 08:18 · JFK 11:18
♥ Do have faith in what you're doing.