wwhc's recent timeline updates
wwhc

wwhc

V2EX member #145809, joined on 2015-11-05 06:54:06 +08:00
Today's activity rank 4925
wwhc's recent replies
@shintendo 部署成本过高,基本不考虑,企业本地产品服务部署当前最好的就是 Qwen 那几个中小模型,稳定性最好,成本够低,不少已经有超过 1 年的开发实践,迭代升级已经挺熟手了
@zhanying Qwen 早就占领了本地部署的阵地,那些闭源的前沿 AI 用于产品服务风险过高,竞争不过本地部署的 Qwen 模型。不是所有服务都需要那些前沿 AI 产品的卖点,再说那几个前沿闭源 AI 的稳定性就是一大痛点,谁也不想自己的产品服务说不准什么时候就被降智成白痴
Anthropic 上市当天 Qwen4 FN/27B 正式开源,谁还理会 Anthropic 这破玩意
6 days ago
Replied to a topic by erwin985211 › 生活 › 倒霉呀,买官翻扫地机器人翻车了
都这时候了,追觅已经不会石头有竞争压力了吧,怎么网战还在追打?石头最让我看不惯的就是营销了手法,哪家公司接的单?
三块/四块 3060 12gb 就够跑 Qwen3.8 27B Q5/Q6 200k+上下文了。但你需要能找到支持 3/4 个至少 pci-e x8 的主板
Oct 13
Replied to a topic by linzhai › 问与答 › 求推荐扫地机
追觅看起来真的不行了,石头的主攻对象已经对准科沃斯了,几个月前看到的类似推广帖还是追着追觅打的,可怜的科沃斯,难道真的没钱养网军?
大家可以再等等,过几个星期,等补丁全落地(MTP/ GPU LRU 缓存的补丁已经 merged),llama.cpp 的性能就追的差不多了,最重要的 llama.cpp 是全量化支持,输出质量远胜 Strata 。如果显存不是太紧缺(多于 16GB),现在 llama.cpp 的速度已经不比 Strata 差太多,而输出质量更好
Oct 11
Replied to a topic by xgq89757 › 问与答 › 还有人折腾双路主机吗?
x79 开虚拟机还有点意义,DDR3 内存虽然也大涨,但仍然算是很便宜。x99 就别想了,前段时间 DDR4 内存比低峰期贵了近 10 倍
建议 llama.cpp 上 Qwen3.8 27B Q4 。建议暂时不要尝试 Strata ,这个东西似乎买了推广,作为一个开源推理系统,推广力度如此之大,原因不明,等情况明朗后再尝试,上 Qwen3.8 flash next 用 llama.cpp 也没有问题
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2099 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 16ms · UTC 09:24 · PVG 17:24 · LAX 01:24 · JFK 04:24
♥ Do have faith in what you're doing.