yjhatfdu2's recent timeline updates yjhatfdu2's recent timeline updates |
yjhatfdu2V2EX member #457268, joined on 2019-12-04 10:30:20 +08:00Today's activity rank 1074 |
| Jev 基本上就是个纯噱头，本科生课后作业水平 分享发现 • yjhatfdu2 • 1h 21m ago • Lastly replied by yulon | 16 |
| 27 寸 4k 办公屏连 mac 有什么好选择呢？ Apple • yjhatfdu2 • Nov 14, 2024 • Lastly replied by allinschroe | 9 |
| mac mini m4 默认风扇策略很离谱 Apple • yjhatfdu2 • Nov 19, 2024 • Lastly replied by willyeon99 | 23 |
| 现在 Apple store 线下还能买新机旧机折抵吗？ Apple • yjhatfdu2 • Nov 7, 2024 • Lastly replied by lqcc | 4 |
| 最近自己造了个数据库 数据库 • yjhatfdu2 • May 23, 2024 • Lastly replied by baidu2022 | 5 |
| 浏览器性能测试 speedometer3.0 发布，分数计算被重构 程序员 • yjhatfdu2 • Jun 16, 2024 • Lastly replied by UchihaJay | 17 |
yjhatfdu2's recent replies
14h 59m ago Replied to a topic by yjhatfdu2 › 分享发现 › Jev 基本上就是个纯噱头，本科生课后作业水平 |
@EchoDeveloper 取所有的选项的概率做个 softmax 或者简单的按比例算个权重就可以了
17h 41m ago Replied to a topic by yjhatfdu2 › 分享发现 › Jev 基本上就是个纯噱头，本科生课后作业水平 |
@wsseo 有很多懂的，但更多的不懂在尬吹，和之前吹龙虾的差不多同一批人
19h 24m ago Replied to a topic by yjhatfdu2 › 分享发现 › Jev 基本上就是个纯噱头，本科生课后作业水平 |
其实主要还是大部分人用 llm 只会输出一长串 json 不会使用原始 logprobs 而已
19h 25m ago Replied to a topic by yjhatfdu2 › 分享发现 › Jev 基本上就是个纯噱头，本科生课后作业水平 |
@heganj 实际测试不做这些直接用 LLM 已经可以达到足够理想的结果，你还可以很容易的微调小模型适合自己的场景
8 days ago Replied to a topic by andie › 程序员 › 我就喜欢听人夸 PostgreSQL |
@woodfizky 是 gauss 垃圾，华为的软件能用？你用正版 pg+那几个新的全文索引/向量索引试试
19 days ago Replied to a topic by gtanyin › OpenAI › 可稳定的 ChatGPT 的梯子求助~ |
买的最便宜的梯子，挂了两个 pro 号，半年了一直稳定
21 days ago Replied to a topic by Need4more › Local LLM › mac 本地部署 llm 不是最佳选择 |
当然我遇到一个有趣的点，我本地部署一些模型测试（因为客户有私有化需要），和云 API 对比，会发现云 API 有不会通知你的降智现象，表现为有些 agent 场景本地基本上稳定能完成，云端需要看时段，高峰时段可能就完不成
Aug 31 Replied to a topic by guin › Apple › 是不是现在买大内存的 m4pro 或 max 性价比最高？ |
M5 才有 tensor core 支持 AI 算力，M4 没有哦
Aug 19 Replied to a topic by sentinelK › Local LLM › RTX PRO 5000（或其他 48GB 显存）的 Qwen3.8-27B-FP8 配置交流（prefill 5000+t/s， decode 60+t/s） |
@sentinelK 我现在用的是最新的 vllm ，改了一下 jinja ，基本上没有遇到这些问题，但是有个偶现的 GPU 报 Xid 31 导致奔溃的问题，可是 flashinfer 的 B12x 内核在长上下文、高并发、MTP 下的 bug ，就先凑合着用吧，codex 跑几个小时可能会遇到一次
Select Language