Rorysky
7.1D
V2EX  ›  Apple

Apple 发布新的机器学习框架 MLX

  •  
  •   Rorysky · Dec 6, 2023 · 4930 views
    This topic created in 1065 days ago, the information mentioned may be changed or developed.

    https://github.com/ml-explore/mlx

    是一起维护 pytorch 不方便?

    自主知识产权,旨在打破 Facebook pytorch 卡脖子的现状?

    大家还知道其他信息么?

    20 replies  •  2023-12-07 08:54:15 +08:00
    nomagick
    nomagick
    Dec 6, 2023❤️5
    1
    Torch 卡没卡 Apple 脖子我不知道,但 Apple 可卡的是用户的脖子
    idealhs
    idealhs
    Dec 6, 2023❤️5
    2
    @nomagick 😅我寻思没人逼谁买苹果吧
    zealotxxxx
    zealotxxxx
    Dec 6, 2023
    3
    这里面的东西,与其说是跟 pytorch 冲突,还不如说是跟 sklearn 重复
    AA5DE3F034ACCB9E
    AA5DE3F034ACCB9E
    Dec 6, 2023
    4
    @nomagick 你要是这么想,百度、vivo 啥的,也都在卡用户脖子?
    565656
    565656
    Dec 6, 2023
    5
    别惦记你那逼生产力,谁特么用 4060 跑机器学习,直接扔点钱给 R 星,让 GTA6 上 m3max 首发,带动的销量妥妥的
    aeli
    aeli
    Dec 6, 2023
    6
    卡脖子的是 nv 吧,反正几个大厂里,就 Apple 没有批量买 NV 家的显卡,以前的仇恨带到 ai 时代了。
    Glauben
    Glauben
    Dec 6, 2023
    7
    @565656 #5 GTA6 25 年出,都 m5 了,我觉得有戏。不上 PC 的情况来看,上 mac 可能都 27 年了,m7 了。可以一上
    SkywalkerJi
    SkywalkerJi
    Dec 6, 2023
    8
    apple 那芯片性能真的跑得动训练吗
    cwyalpha
    cwyalpha
    Dec 6, 2023
    9
    Transformer language model training.
    Large-scale text generation with LLaMA and finetuning with LoRA.
    Generating images with Stable Diffusion.
    Speech recognition with OpenAI's Whisper.

    大模型、SD 、语音都支持了,个人玩家是差不多够用了把
    ShadowPower
    ShadowPower
    Dec 6, 2023
    10
    PyTorch 卡 Apple 脖子?
    目前的问题还是苹果硬件性能、硬件支持的特性问题吧。
    把 PyTorch MPS 后端做得更完善一些,比重新开发一个框架有用多了。

    用这个框架,写的在 Mac 上跑通了,但是性能不太够,想部署到 NVIDIA 显卡上训练,要重新写一遍?
    有多卡/多机支持吗?
    ShadowPower
    ShadowPower
    Dec 6, 2023❤️2
    11
    目前的问题还是苹果硬件性能、硬件支持的特性问题吧。
    把 PyTorch MPS 后端做得更完善一些,比重新开发一个框架有用多了。

    用这个框架,写的在 Mac 上跑通了,但是性能不太够,想部署到 NVIDIA 显卡上训练,要重新写一遍?
    有多卡/多机支持吗?

    PyTorch 并不会卡 Apple 脖子。如果自身没有优势,兼容已有的生态才能活下来。
    ShadowPower
    ShadowPower
    Dec 6, 2023
    12
    突然发现发重复了,补了一句
    wateryessence
    wateryessence
    Dec 6, 2023
    13
    MLX is a NumPy-like array framework designed for efficient and flexible machine learning on Apple silicon, brought to you by Apple machine learning research.
    Pierson
    Pierson
    Dec 6, 2023
    14
    感觉像明年 AI 相关更新的副产品。如果是真的可以期待明年的新系统有:LLM Siri ,Generaating Image (相册?新 app ?) Speech recognition (更好的听写?自动字幕?)
    deemoe
    deemoe
    Dec 6, 2023 via iPhone
    15
    我感觉这个项目大概率是 Apple 内部项目用的框架,开源出来也只是为了方便开源社区借鉴里面的细节(比方说完善 MPS 后端)
    APEC
    APEC
    Dec 6, 2023
    16
    厨子怕是还有啥大招要出吧
    neopenx
    neopenx
    Dec 6, 2023
    17
    看起来目前只是一个跑一些简单的 metal compute kernels 的练习作品,连 MPS routines 都没 dispatch
    Python API 山寨 PyTorch 不说,还相当简陋。
    LeonParker
    LeonParker
    Dec 6, 2023
    18
    pytorch 是什么情况不太清楚
    但现在 tensorflow 的 metal 支持显然就只是勉强够调试,离能用还差很大一截😅
    qweruiop
    qweruiop
    Dec 7, 2023
    19
    问题是,他 mac 又没有服务端的产品。。。开发者把这个框架调通了。。。然后呢?
    总不可能买一堆 ultra 或者笔记本丢机房的嘛。。。
    bailitusu
    bailitusu
    Dec 7, 2023❤️2
    20
    `import mlx as torch`
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1889 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 56ms · UTC 16:53 · PVG 00:53 · LAX 08:53 · JFK 11:53
    ♥ Do have faith in what you're doing.