5060ti 16g ,只能部署量化后 qwen3.8 coder Q3 ,感觉慢还傻傻的。 升级显卡需要花的钱是不是该直接买商用付费版本就好了。
5060ti 16g ,只能部署量化后 qwen3.8 coder Q3 ,感觉慢还傻傻的。 升级显卡需要花的钱是不是该直接买商用付费版本就好了。
1
skallz 17h 33m ago
真想本地部署可以买个那种两三万的小主机,虽然慢,但是好歹能部署能用的,不过折腾半天发现算上硬件和电费还不如直接用 deepseek ,更别说那些更强的模型了
|
2
penisulaS 16h 53m ago
现在连老矿卡都大幅涨价了,更别说为了跑什么 strata 买更大的 ddr5 内存。硬件成本实在太高了,买大肥鱼 api 搞搞得了
|
3
Nasdaq 16h 49m ago
跑跑 Decisions 类的可以,其他通用的真的拉胯,不如用小梁的。
|