节点赞助商

tommyZZM

使用同一个本地部署的模型,在不同的上下文环境使用差别非常大,有没有办法取得一致性

  •  
  •   tommyZZM · Sep 20 · 760 views
    This topic created in 47 days ago, the information mentioned may be changed or developed.

    使用同一个本地部署的模型,Qwen3.8-27b-q4_K_M

    在 Vscode 分别使用 Github Copliot 和 Continue 插件,对同一个问题的解析和处理差别非常大

    感觉 Github Copliot 的处理方式更加“聪明”“合意”

    有没有办法尽可能取得一致性?发挥模型的最大效能

    感觉这里是一个可探索的区间

    4 replies  •  2026-09-20 18:54:28 +08:00
    kimhooo
    kimhooo
    Sep 20
    1
    如果你没办法量化定义什么是更加“聪明”“合意”,那就没必要折腾这个问题,等模型能力变强就好
    tommyZZM
    tommyZZM
    OP
    Sep 20
    2
    @kimhooo 模型能力再好,输出结果,也会受上下文的干扰。这是一个互相作用的动力系统。
    wanganjun
    wanganjun
    Sep 20
    3
    应该是 Github Copliot 加了什么提示词,还内建了一些什么功能,所以表现好一点。

    Continue 很原始,不适合用来做快速上手的 agent ,需要定制。

    想要探索的话,我觉得可以找一个查看 agent 历史 session 文件的软件,对比一下,Copliot 和 Continue 都给 Qwen3.8 发了什么提示词
    SilencerL
    SilencerL
    Sep 20
    4
    harness 的问题不是模型的问题,很难让所有 agent 在同一个模型下的表现接近
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2126 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 40ms · UTC 02:47 · PVG 10:47 · LAX 18:47 · JFK 21:47
    ♥ Do have faith in what you're doing.