wombat

wombat

V2EX member #136802, joined on 2015-09-04 20:45:32 +08:00
Today's activity rank 3851
Per wombat's settings, the topics list is hidden
Deals info, including closed deals, is not hidden
wombat's recent replies
Aug 30
Replied to a topic by Jinmu24 程序员 关于大模型的过度设计
我也觉得很保守。gpt 5.6 sol ,比之前的 gpt 模型更保守。特别是一些发散性的问题,保守到感觉是一个裹了脑的老人。 最近我都切到别的工具开发了。。。
@niubilewodev 真有,曾经接触过。 某家算力不足,签署外采协议,甲方给模型,乙方负责计算资源+部署,要满足性能指标。
@wombat 我们另一个团队是 AI 写 AI review ,全靠 AI 。 看过他们的代码,写的越多,架构方面问题越多。 哈哈哈哈哈。但能跑,有些隐藏的 bug 。
公司的项目,必然 review ;个人玩具、无所谓。公司的项目长期运营,定制化会很多,当前的模型有时候处理不了那么多的业务分支。

公司有个项目跑在 k8s ,关联很多系统和客户,业务分支很多。 有次需求写的很详细的 spec 文档,包括需求+Task+验收标准。 用 5.6Sol+Opus5+Grok4.5 ,反复审计 review ,都没发现一个严重的 bug (业务分支太多,某分支处理逻辑,AI 产生的是错的)。 现在的模型普遍存在的问题就是,上下文过长压缩后信息丢失,或者在上下文多重点情况下不知道哪些是重点。
飞牛 nfs 存在 bug 的。到现在都没修复
Jul 25
Replied to a topic by SoulSleep 问与答 公司私有化部署大模型
@wombat B300 ,1300W 左右。 经费够,采购这个。
Jul 25
Replied to a topic by SoulSleep 问与答 公司私有化部署大模型
从模型参数看,和 K3 相比,GLM5.2 私有化部署性价比更高,已经满足日常使用的需求。K3 ,看公开的使用体验,并没有高出很多。 tool call 的问题,GLM5.2 应该少了很多。问题不大。
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   882 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 13ms · UTC 20:44 · PVG 04:44 · LAX 13:44 · JFK 16:44
♥ Do have faith in what you're doing.