ReinXD's recent timeline updates ReinXD's recent timeline updates |
ReinXDV2EX member #641437, joined on 2023-08-02 03:50:33 +08:00Today's activity rank 6296 |
ReinXD's recent replies
6h 37m ago Replied to a topic by wktline › 程序员 › GLM5.3 来了，有真实订阅智谱官网的小伙伴吗，速度怎么样 |
@NizumaEiji 基本大厂内部编程代码 agent 都是 glm ，用户会用脚投票的
15h 45m ago Replied to a topic by Rorysky › 程序员 › 不明白为什么很多人用「缓存命中率」作为 agent 的性能评估参数 |
@Retas 这里有个关键问题是如果模型 sft 的训练数据没有针对性优化，这样的操作是会下降模型性能的
17h 34m ago Replied to a topic by Rorysky › 程序员 › 不明白为什么很多人用「缓存命中率」作为 agent 的性能评估参数 |
dpsk 应该是把 system prompt 直接放到每次请求的开头了，这样每次增长的计算实际上只有用户新发的请求，剩下全部可以 prefix cache hit ，导致最后命中率 99%，其实没那么多魔法，不过 dpsk 应该这次在训练 sft 的阶段就对这种 prompt 方式进行优化了
Select Language