• 请不要在回答技术问题时复制粘贴 AI 生成的内容
fightff
V2EX  ›  程序员

探讨一下比较节省 token 的 coding agent

  •  
  •   fightff · 21h 2m ago · 2322 views

    背景是这样的,公司给每个人开了 copilot 订阅。目前使用的方法是我自己搓了个中转的 gateway ,本地构造一个 openai 格式的 API ,然后接入 opencode/codex CLI/claude code 里面使用。但是最近 5.6-sol 上来之后感觉用起来太快了,token 紧张。可能是我使用习惯不好,不管大小任务都是直接开 xhigh 。

    我平时比较多用 gpt 模型,因为公司说由于政策原因,不开放 Claude 模型给中国区员工。

    自己搜索了一下发现 pi-coding-agent 似乎是一个比较流行的解决方案,想问下大家的使用感受。

    如果有其他解决方法的话也欢迎分享。

    24 replies    2026-07-29 19:00:35 +08:00
    ericguo
        1
    ericguo  
       20h 14m ago
    不用省,订阅 OpenAI Plus 就是最佳选择,天天 reset ,用出 Plus 的效果

    Codex 作为第一方 coding agent ,多少人维护,OpenAI 能进去的都也不是凡人,不会差的。

    使用习惯的确应该改一下,通常任务开 Medium 就够了,当然你所有任务都直接开 xhigh 的使用习惯和我一样,没啥对错,但是前提是你知道怎么写程序,而且既然开了,就要旁边盯一下,Sol 想多了,让祂跳过即可。
    ericguo
        2
    ericguo  
       20h 9m ago   ❤️ 4
    pi-coding-agent 就是垃圾,没错,我就是直接称为垃圾,试想一下,如果你是程序员,你会只带 read ,write ,grep ,bash 四个工具上班吗?既然你都不愿意只用这 4 个工具,为啥会你会让大模型只带这 4 个工具上班呢?行为艺术?跑分优化?

    pi 的**理念**就是错的,正确的是 opencode ,codex ,claude code ,正常的工具数量在 20 左右,可以有 tool search ,可以有 code mode ,反正作为用户,这些其实也不用太关心。

    但是基本的判断还是要有的,就是:pi-coding-agent ,就是垃圾,如果攻击性有点太强了,那充其量就是玩具。
    clemente
        3
    clemente  
       19h 34m ago
    1.cache 命中率是第一
    2.尽量一次性 prompt 给够 给精准 能用术语不用废话 减少对话次数
    techmale
        4
    techmale  
       18h 57m ago
    最聪明的 model (GPT 5.6 Sol)
    + 差不多最好的 harness (Codex CLI/Desktop)
    + 用脑子写的完备 context 和验收标准的 prompt
    ryd994
        5
    ryd994  
       14h 19m ago via Android
    真没必要 xhigh 。xhigh 容易“想太多”,做你没要它做的事情。high 都有点多了。适合全自动独立工作,不适合辅助人工作。
    我更喜欢让他做什么就做什么的的听话都 AI 。
    fang2hou
        6
    fang2hou  
       11h 20m ago via iPhone
    都是用 pi 的人了,不至于无插件裸奔吧。
    根据模型能力调整需要的 skill ,prompt 能在一定减少 token 用量。
    woctordho
        7
    woctordho  
       11h 18m ago via Android
    用 Pi 就行了

    程序员有一句古话叫做 keep it simple stupid ,带 read write edit bash 四个工具上班就够了,还要什么工具就让它自己写

    别的都是奇技淫巧,比如直接在 bash 里 rg 然后让 AI 分析结果基本上比在 LSP 里搜一个符号还要快,如果项目真的大到需要 LSP ,AI 花几秒钟就能用 Clang 的 Python 接口写一个分析脚本
    woctordho
        8
    woctordho  
       11h 14m ago via Android
    不过有一个例外,如果你用的是 GPT ,你会发现它经常本能地想要调用 Codex CLI 里的 apply_patch ,这时候你可以把 apply_patch 从 Codex CLI 里编译成一个单独的 binary 给它用
    Goalonez
        9
    Goalonez  
       11h 11m ago via iPhone
    @ericguo pi 给你的是手和脚,你爱带啥带啥,而不是非给你带个被子,说你午休得用
    zh3256
        10
    zh3256  
       10h 57m ago via Android
    能用专用配套的 agent 就不用通用的 agent ,直接用 codex 搭配 openai 的 coding plan
    1. 自家的模型出来,肯定在自家 agent 上测试的多,有 bug 先修复
    2. 看似只要兼容官方协议就可以在他的 agent 上使用,其实有很多边角场景有很多魔法。更不要说通过协议转换为 chat/completions
    bronyakaka
        11
    bronyakaka  
       10h 23m ago
    可以试试我写的 agent https://github.com/Bronya0/ally-agent
    节省 token 思路:
    1 、保持前缀缓存
    2 、工具并行,一次干完该干的事,直接把请求轮次降低为几分之一,大幅度减少 token
    3 、系统提示词优化
    4 、封装许多工具,干活输出的 token 上 更稳定
    cobiao
        12
    cobiao  
       10h 16m ago
    主要还是看你怎么使用. 我的做法是尽可能将任务归类, 分为大任务和小任务, 大任务单独, 小任务归类. 即大任务单独使用一个 session 来完成, 同类型的小任务(比如优化 UI)也尽可能使用一个 session 来完成. 这样做的目的是尽可能利用缓存, 并节约每次任务开始时 agent 先要 explore repo 的时间. 特别是对于一些小任务来讲可能只需要改几行代码, 如何开新的 session 读 repo 就要不少时间和 tokens, 而且是没有缓存的. 所以尽可能同类型小任务安排到一起, 可以复用 context 和缓存. 一般情况下, 如果超过了 300k 我会考虑/clear 或/compact 一下. 这取决于你对任务的理解. 如果是 max plan 就无所谓了.
    wujunchuan2008
        13
    wujunchuan2008  
       10h 15m ago
    我个人是感觉用了 pi 之后 Token 节约了很多,codex plus 订阅一个周期可以蹬更久
    skuuhui
        14
    skuuhui  
       9h 50m ago
    觉得是个悖论,你想省 token ,你的 agent 必须具备强大的工程设计,你想省 token 你的大模型必须具备强大准确的推理能力来减少返工。所以我觉得你是想说怎么省额度,怎么让额度的使用最具性价比。
    tao1991123
        15
    tao1991123  
       9h 48m ago
    reasonix 不省 token ,但是省钱。
    imruiming
        16
    imruiming  
       9h 44m ago
    我最近换到 pi ,体感就是缓存率很高 token 好像消耗也少了,唯一满足的是 tui 没那么好看了,目前只装了 context-mode ,pi-lens ,pi-mcp-adapter ,pi-web-access ,@tintinweb/pi-subagents ,pi-claude-code-tui
    EliteOtaku
        17
    EliteOtaku  
       9h 18m ago
    @ericguo pi 是一个基座而已,如果你需要用来工作,那么确实不够,要自己加不少东西,但如果只是用它作为流水线的一部分,其实是合格的,而且减少不必要的工具注入,可以节约 token
    v24radiant
        18
    v24radiant  
       5h 44m ago
    @ericguo #2 但是你纯敲代码其实也只用到两个操作而已:操作鼠标键盘和看屏幕。同样的思路,pi 只有四个工具难道还不够吗?
    HeStudy
        19
    HeStudy  
       5h 30m ago
    单纯从 token 来说,codex 和 cursor 的 20 刀都有很充足的用量,吊打其他家的同价位的订阅。至于编程工具的话,我还是推荐使用 codex ,毕竟是自家人基于 gpt 模型深度优化的 harness ,使用体验终究是别的工具比不上的,现在的模型基座其实都很强大了,缺的是后训练和深度匹配的 harness 。
    kouyaruten
        20
    kouyaruten  
       5h 18m ago
    @ericguo pi 的理念是让你基于业务定制,而不是开箱急用,「垃圾」这个描述有点 too much 了吧…
    menfrexu
        21
    menfrexu  
       4h 25m ago
    pi 给了你一个 min harness ,更适合去自定义一些东西或者二开需要动手能力。想一上来就好用,还是需要一个全功能的 harness ,一般来说你用什么模型最后用它们家的 harness ,一般会更好用一些。比如用 gpt 就用 codex 会更好。关于节省 token 就是另外一个问题,你用的是订阅不是 token plan 的话感觉节省 token 可以考虑少用点 skill 或比较重的插件。prompt 细节给到位,别让 llm 自己探索或者猜,一旦 llm 疑惑就会自行进行大面积上下文检索 token 就会上去了。另外节省 token 和自动化执行长任务是矛盾的。只能多自己充当思考的组建了。human as a service 。
    weixiangzhe
        22
    weixiangzhe  
       1h 1m ago
    pi 只是默认少呀,我刚看了下,我 pi 下的 tools 现在有 35 了都
    hanbaoji
        23
    hanbaoji  
       38 mins ago
    为了省 token ,加了 ponytail 和 caveman 两个 skill ,其实没啥用,会影响开发,一返工,多的 token 都消耗了

    ai 用这么多 token 是有道理的
    wu00
        24
    wu00  
       35 mins ago
    copilot 中转出来会不会被封
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3151 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 67ms · UTC 11:36 · PVG 19:36 · LAX 04:36 · JFK 07:36
    ♥ Do have faith in what you're doing.