sentinelKV2EX member #631792, joined on 2023-05-30 20:41:02 +08:00Today's activity rank 4404 |
| 你好 NVFP4: strata-0.1.44.1, qwen3.8-flash-next, rtx pro 5000 48GB + 64GB RAM, decode 130t/s, prefill2600 t/s Local LLM • sentinelK • Oct 22 • Lastly replied by panghu960 | 8 |
| strata 极致优化指南(参数篇)64GB RAM + RTX pro 5000 48GB, IQ3_XXS 量化, prefill 4500t/s, decode 180t/s 同时缓存 5 个 262k 会话不重新 prefill Local LLM • sentinelK • Oct 19 • Lastly replied by Ken1028 | 15 |
| “马鞍税”,一篇非常有意思的 harness 横比文章 程序员 • sentinelK • Sep 18 • Lastly replied by greentim | 9 |
| 很好奇小米开放的这个实时训练监控器,其中成本(cost)的组成: https://mimo.xiaomi.com/rl/#overview 程序员 • sentinelK • Sep 17 • Lastly replied by lwep | 8 |
| deepseek-flash 的第三方跑分趣闻 DeepSeek • sentinelK • Sep 11 • Lastly replied by sentinelK | 3 |
| Hermes Agent 9 月更新纪实: bot 机制补全了 hermes 的最后一块基石,产品功能设计逐渐向 GUI 倾斜。 Hermes Agent • sentinelK • Oct 19 • Lastly replied by peacekang | 1 |
| mac m5 ultra 上线中国官网。1.2T 显存带宽, 256GB 版本 8.6 万 Local LLM • sentinelK • Aug 28 • Lastly replied by sadan9 | 51 |
| RTX PRO 5000(或其他 48GB 显存)的 Qwen3.8-27B-FP8 配置交流(prefill 5000+t/s, decode 60+t/s)
1 Local LLM • sentinelK • Aug 26 • Lastly replied by tgfbeta
|
55 |
| OpenCode go 订阅开始区分模型提供额度, kimi-k3、deepseek-v4-pro 等只有 15$的额度,请各位注意用量。 程序员 • sentinelK • Jul 20 • Lastly replied by shuck | 49 |
17h 2m ago Replied to a topic by vverr › Local LLM › 有没有可以笔记本部署比较不错的代码模型 |
1 day ago Replied to a topic by yang0327519 › 程序员 › 大模型“涌现”出能力,到底什么是“涌现” |
1 day ago Replied to a topic by irvinglove › 程序员 › 对于 agent 而言,常规的图形验证码已经没有意义了吧?试了几个 agent 处理都挺快的,以后都要上 2fa 了 |
1 day ago Replied to a topic by coderMonkey › 问与答 › 刚去接水,发现领导在用洗洁精洗眼镜,搜了下好像说是可以,不过长期用会有什么问题吗 |
2 days ago Replied to a topic by mlxy123123 › 程序员 › 一些人对 AI 的观点 be like |
2 days ago Replied to a topic by mlxy123123 › 程序员 › 一些人对 AI 的观点 be like |
2 days ago Replied to a topic by tcper › OpenAI › AI 普及之后,应该把所有 Electron 重写为 native |
3 days ago Replied to a topic by liubangjie › 职场话题 › AI 时代下程序员的出路在哪里? |