wszzh
V2EX  ›  Local LLM

谷歌的 Gemma 4 怎么样,有必须要本地弄一下吗

  •  
  •   wszzh · Apr 5 · 4353 views
    This topic created in 217 days ago, the information mentioned may be changed or developed.

    如题,看到好多文章都在说 Gemma 4 。或许私人 AI 助手,是不是要成为标配了?

    19 replies  •  2026-04-27 11:06:39 +08:00
    herozzm
    herozzm
    Apr 5 via iPhone
    1
    你有显卡吗?
    wszzh
    wszzh
    OP
    Apr 5
    2
    没有。只有 mac mini
    @herozzm
    luoyide2010
    3
    32B 参数的吃内存,小参数的作用有限,可能在翻译,OCR ,归类排序之类的比较实用
    zenfsharp
    zenfsharp
    Apr 5 via iPhone
    4
    没必要,不如云端的强大且方便。两个大参数的大概是去年的水平,小参数的是前年的水平。
    wszzh
    wszzh
    OP
    Apr 5
    5
    看了一下,感觉没必要尝试了🤦
    sickoo
    sickoo
    Apr 5
    6
    OPENROUTER 的 free Qwen3.6 够用了
    levn
    levn
    Apr 5
    7
    haiku 的水平
    letsgogogo
    8
    @levn +1
    skankhunt42
    skankhunt42
    Apr 5 via iPhone
    9
    必须要的,不然开除你地球籍
    joynvda
    joynvda
    Apr 5
    10
    @wszzh 感觉比 qwen3.5:9b 好

    本人没 mac, intel lunar lake 内置 gpu ,32g ,gemma4:26b 能跑 18tps
    chengtx
    chengtx
    Apr 5 via iPhone
    11
    手机跑了小的本地模型
    洗车难题过关了
    MrMissBlack
    12
    @joynvda 兄弟你是安装在 openvino 后端上的吗?我也是 lunarlake ,想试试
    Seck
    Seck
    Apr 6 via Android
    13
    需求?
    nachr
    nachr
    Apr 7
    14
    24GB macbook 跑不起来
    mingtdlb
    15
    没有数据安全的需求,还是云比较好

    @sickoo #6 感觉 openrouter 很容易 429
    takpap
    takpap
    Apr 7
    16
    @nachr 假的吧 我手机都能跑。。。
    azraelrabbit
    17
    我的 macmini m4 32G 跑 26b 可以, 20-24 token 每秒.

    32b 的跑不起来, 内存不够.
    longxinglink
    18
    ollama 有免费 Gemma 4 的还能用,nvidia 的不能调用不知道咋回事
    liangyuan1985
    19
    Qwen3.6-27B 效果还可以。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   3503 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 77ms · UTC 03:55 · PVG 11:55 · LAX 19:55 · JFK 22:55
    ♥ Do have faith in what you're doing.