autumncry
V2EX  ›  问与答

如何判断各个 coding plan 里的模型是全量还是量化版本?

  •  
  •   autumncry · Jun 22 · 541 views
    This topic created in 34 days ago, the information mentioned may be changed or developed.

    想体验 glm5.2 ,原厂的抢不到,火山 coding plan 和 opencode go 都包括,但是各家都没有提及部署的模型是 BF16 还是 FP8 量化版本,这两个版本官方都直接提供,作为使用者应该如何区分呢?

    另外,这两个版本参数量差一半,实际体验差异到底如何呢?有没有什么 benchmark 能给出来不同量化版本模型效果差异的?

    No Comments Yet
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   842 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 21:07 · PVG 05:07 · LAX 14:07 · JFK 17:07
    ♥ Do have faith in what you're doing.