zhq566

本地部署的开源 AI 是不是都不咋能用

  •  
  •   zhq566 · 17h 36m ago · 537 views

    5060ti 16g ,只能部署量化后 qwen3.8 coder Q3 ,感觉慢还傻傻的。 升级显卡需要花的钱是不是该直接买商用付费版本就好了。

    3 replies  •  2026-10-26 11:00:04 +08:00
    skallz
        1
    skallz  
       17h 33m ago
    真想本地部署可以买个那种两三万的小主机,虽然慢,但是好歹能部署能用的,不过折腾半天发现算上硬件和电费还不如直接用 deepseek ,更别说那些更强的模型了
    penisulaS
        2
    penisulaS  
       16h 53m ago
    现在连老矿卡都大幅涨价了,更别说为了跑什么 strata 买更大的 ddr5 内存。硬件成本实在太高了,买大肥鱼 api 搞搞得了
    Nasdaq
        3
    Nasdaq  
       16h 49m ago
    跑跑 Decisions 类的可以,其他通用的真的拉胯,不如用小梁的。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1429 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 19:49 · PVG 03:49 · LAX 12:49 · JFK 15:49
    ♥ Do have faith in what you're doing.