restkhz's recent timeline updates
restkhz

restkhz

V2EX member #435565, joined on 2019-08-13 09:09:56 +08:00
restkhz's recent replies
4 days ago
Replied to a topic by andie 程序员 我就喜欢听人夸 PostgreSQL
我第一个想到的也是原子能那个哥...
Aug 26
Replied to a topic by Flynn2018 NAS 最适合小白的 NAS 系统就是 飞牛 fnOS
来,复习一下......年初当时那个漏洞 web 程序用最高权限跑的,又有路径穿越,整体权限设计也有问题,后台又有命令注入,自己闭门造车设计的一套认证密码学。这不只是那种教科书级别的低级问题,他们从设计的时候就没有安全概念。年初出事时是几个漏洞连环利用。最后因为 FNconnect 官方的内网映射,设计又可以可穷举,影响范围更大了。
这种系统应该重新设计一下推翻重做了。

官方安全响应更灾难。一月中旬从大规模在野利用到一月底官方根本不说这事,不是隐瞒就是甩锅,一口咬定是用户没开 HTTPS 。实际上官方 22 号发布了一个堵住路径穿越的版本,堵住了漏洞利用的入口,但是还是,不公布在野利用。
拖到社区都炸锅了,poc 满天飞了,用户发脚本自测自救,最后官方到了二月勉为其难地公布:
“部分公网设备存在非授权访问隐患”“外部异常流量影响运行稳定性”,对旧版本关闭 FNconnect 然后再发新版本。
(新版本是发布了,但是被感染的 fnOS 的 OTA 被攻击者破坏了,用户你自己动手重装吧)

顺便,漏洞貌似到今天连 CVE 编号都没有,假装没发生过。

“大公司也出过事故”,sure ,漏洞谁都有,可以修。积极响应发个 patch 发个 update 就好。
但是这个安全事故暴露的好像不只是安全问题,是这家公司态度和专业性的问题...
@ETiV 你说的那个是不是什么洛洛历险记...XD
Aug 18
Replied to a topic by 1258 程序员 qwen3.8 27B 被低估了
从 Qwen3.6-27B 开始“正确的废话”已经少了很多了...尤其是 3.6-27B ,答案质量比 Qwen3.5-122B-A10B 和 Qwen3.6-35B-A3B 好得多。很多时候未必需要搜索。
已经不能拿着看 Gemma4,Qwen3 的眼光看这些小模型了。Gemma4-31B 就哪怕和 Qwen3.6-35B-A3B 比能力上都完全都不是一代的,虽然发布时间接近。


3.8 不能说就是 opus4.6 的等级,有些指标差一些,有些指标超过。它知识量上和 3.6 比没很大提升,但是 Agent ,coding ,指令遵循能力已经很不错了。

我这个实验室组周六就已经玩上 Qwen3.8-27B ,FP8 。有人跑 Agent 花了 40 分钟做了 3 个网页街机游戏。我也用它问了一些现代 EDR 和 shellcode loader 有关的问题,没开搜索,回答质量也非常好。能具体说出一些现代技术而且能解释为什么要这么做,具体原理,还能给出具体 API 。体验接近 DeepSeek V4 Flash 0731 。

感觉这个东西已经到了可以当生产力工具的水平了。

至于过度推理,3.6 就有这个问题了。27B 知识不足的情况下为了更好的质量只能靠时间换空间。不过对于自己本地部署来说我认为这是值得的。这就是那个不可能三角:好,便宜,快。你不能要求你只有 32GB vram 的情况下跑出 opus 的质量,还要求它快吧...

不过确实热度不如 DeepSeek 0731.
作为一个 27B 的 dense,推理成本应该比 0731 的激活 13B 高,应该会更贵。
对于买 token 用的,和 0731 比 3.8 可能就又贵又慢了。

---------

刚刚看了一下,artificialanalysis 给出了 52 分。
超过了 opus 4.6.直接和 DeepSeek v4 flash 0731 一个分数了。
Aug 14
Replied to a topic by majuzhang Local LLM 公司本地部署开源模型
取决于预算。
勉强能跑起来交差的,五位数不到,跑个 Qwen3.6-35B-A3B 还是够的,文档处理,简单编程能做。不过搞好了没几个人想用。
5 位数算力带宽都好点的可以考虑比如还有几个小时就要发布的 Qwen3.8-27B ,能用。跑 Dense 要注意带宽。

好用点的,能长期用的准备差不多 6 位数了。准备将近 200G 的显存吧。

我这有用 H100+vLLM ,4K 上下文并发几十也没毛病。不过跑 Agent 上下文到 100K+明显卡 prefilling 。仅供参考。
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   4944 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 15ms · UTC 01:08 · PVG 09:08 · LAX 18:08 · JFK 21:08
♥ Do have faith in what you're doing.