V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  rogerer  ›  全部回复第 4 页 / 共 7 页
回复总数  122
1  2  3  4  5  6  7  
❮ ❯
2025 年 5 月 16 日
回复了 AlghaPorthos 创建的主题 › 问与答 › RAG 有什么比较有前景的工程运用嘛?
@AlghaPorthos 幻觉问题可以通过 Knowledge Edit 解决。我并不太同意 RAG 可以解决幻觉,RAG 能做的只是给 LLM 添加一些提示信息,一方面 RAG 本身可能会引入错误信息,另一方面,提示信息并不能避免幻觉的出现,比如在长程推理场景下,RAG 输入的提示信息会被稀释。

另一个 RAG 目前试图解决上下文长度不够的问题。

我认为我们对上下文的需求是有极限的,比如 context window 已经能装下一整个 codebase 了,追求更长的上下文的意义就没那么大。

此外我们还有一些特别的技术比如 context compression 我认为这是比 RAG 解决 context length 更好的方案。
2025 年 5 月 15 日
回复了 AlghaPorthos 创建的主题 › 问与答 › RAG 有什么比较有前景的工程运用嘛?
我始终觉得这是一个中间形态,只是因为现在 LLM 还不够强
即使是同一个基座,工具链的好坏,RAG 的好坏也会很影响使用效果的。
2025 年 4 月 21 日
回复了 soleils 创建的主题 › 机器学习 › 学习 AI, 跑下模型, 应该用什么 N 卡?
不如买 m 芯片,显存够大
2025 年 4 月 20 日
回复了 st2026 创建的主题 › 问与答 › 在用 langgraph 在做一个应用始终觉得不够丝滑
我怎么觉得你需要的其实是 text2sql
2025 年 4 月 17 日
回复了 marklu 创建的主题 › 机器学习 › 使用大语言模型进行文本分类任务需要微调吗?
如果只是单独做分类的话,用 LLM 不一定比 BERT 更好,都得做了实验才知道。
2025 年 4 月 9 日
回复了 wencan 创建的主题 › 浏览器 › 哪款浏览器跑 js 最快??
几百行根本到不了性能瓶颈,问题还是在实现上。我的 Google Docs 日常能处理 300w 单元格,还不带任何卡顿的,纯前端计算。
@yushi17 没有这么语义化的分化,但是专家之间还是会有分化吧
@sujin190 表示能力和统计意义上容易学到是两件事,LLM 到目前为止对四则运算还是有问题的。
2025 年 3 月 26 日
回复了 monosolo1on1 创建的主题 › 程序员 › 感觉 Cursor 解决复杂一点的编程问题还很弱
Let us verify step by step, 过程监督虽然被训练推理模型抛弃了,但是对使用 copilot/cursor 还是很好用。在开始的时候和 cursor 聊清楚需求,中间及时介入防止它走偏,以及尽可能短的上下文,往往能很好提升产出质量。
现在的辅助编程还是从手动挡切换到自动挡,还没到自动驾驶的阶段。
就是得拆,太长的上下文严重影响 token 使用量以及准确率。
LLM 有 exposure bias ,意思是序列越长出错的概率越高,是指数增长的。
2025 年 3 月 22 日
回复了 zhanggang807 创建的主题 › Chrome › Edge 家的标签页内分屏视图太好用了, Chrome 快跟上啊
不过 edge 为什么不去做拖拽标签页自动触发这个功能,Microsoft 家的产品经理总是怪怪的
2025 年 3 月 22 日
回复了 woniuppp 创建的主题 › 职场话题 › 今天一句话让我体验到国内外文化差异
@billzhuang 虽然也累不过比国内还是好一些,至少能正常下班
二分,发生在每次定位哪个 commit 改坏了的时候
2025 年 3 月 21 日
回复了 wgfire 创建的主题 › 程序员 › windsurf 买了 pro ,每天也有调用上限吗
@NGGTI 是的,我 cursor 500 次 3 天用光,现在每次 agent use 的时候还能去上个厕所
2025 年 3 月 21 日
回复了 wgfire 创建的主题 › 程序员 › windsurf 买了 pro ,每天也有调用上限吗
@NGGTI 没有 用完就没了
因为存储不值钱
2025 年 3 月 17 日
回复了 sky1909 创建的主题 › Apple › Studio M4max 128G 是否合适跑大模型
为了考虑要不要在本地跑 LLM 买设备,不如考虑一下这个钱拿去买 token 会不会更好。开源的模型,deepseek qwen llama ,它们的 api 也都不算贵。
2025 年 3 月 1 日
回复了 mogutouer 创建的主题 › 职场话题 › 用 AI 编程,半夜的我放声大笑
@wyntalgeer 这和轮子没关系,你只需要有足够多的代码就行了,也不分你前后端还是深度学习。后端比较容易的一点是,现在就能做到 function call 去感知服务的变化,前端还没做好和 dev tools 的通信。
2025 年 3 月 1 日
回复了 wangyzj 创建的主题 › 程序员 › 为什么现在 AI 场景落地专门盯着代码辅助干?
因为能明显盈利,LLM 的能力能得到发挥的就是这个领域。ChatBot 的盈利能力一般,不是生产力工具。
1  2  3  4  5  6  7  
❮ ❯
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1475 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 35ms · UTC 16:43 · PVG 00:43 · LAX 08:43 · JFK 11:43
♥ Do have faith in what you're doing.