mmtromsb456
V2EX  ›  Apple

TensorFlow 2 现已支持使用 macOS 上可用的 GPU 进行模型加速(包括 Apple Silicon M1)

  •  3
     
  •   mmtromsb456 · Nov 19, 2020 · 5813 views
    This topic created in 2181 days ago, the information mentioned may be changed or developed.
    19 replies  •  2020-11-19 15:16:39 +08:00
    mmtromsb456
    mmtromsb456
    OP
    Nov 19, 2020
    1
    简单来说 apple fork 了一份 TensorFlow 并将 ML Compute 框架用作其中,M1 性能大概相当于 1080 ~ 1080Ti 之间
    ltltfuture
    ltltfuture
    Nov 19, 2020 via Android
    2
    接下来就看 pytorch 如何了
    xfrgux
    xfrgux
    Nov 19, 2020
    3
    @mmtromsb456 请问这个相当于 1080 ~ 1080Ti 有数据来源吗 怎么比的呢
    mmtromsb456
    mmtromsb456
    OP
    Nov 19, 2020 via iPhone❤️2
    4
    zhusimaji
    zhusimaji
    Nov 19, 2020
    5
    apple 不讲武德啊!
    tzm41
    tzm41
    Nov 19, 2020 via iPhone
    6
    爽,今晚试试 resnet 。
    uxstone
    uxstone
    Nov 19, 2020❤️1
    7
    Apple 杀疯了
    lollxxox
    lollxxox
    Nov 19, 2020
    8
    希望 I 家 A 家和 N 家耗子尾汁,不要再挤牙膏.......
    chich14
    chich14
    Nov 19, 2020
    9
    炼丹,风扇转了吗?
    CommandZi
    CommandZi
    Nov 19, 2020
    10
    专用芯片,不能反映真实性能,下一个
    agagega
    agagega
    Nov 19, 2020
    11
    能支持 NPU 吗?利用起来感觉会更猛啊
    unneeded
    unneeded
    Nov 19, 2020 via iPhone
    12
    用自己机器都是玩票性质,现在 m1 的玩票性能起来了,对于初学者来说 n 卡笔记本似乎已经不是必须了
    nnqijiu
    nnqijiu
    Nov 19, 2020
    13
    TensorFlow 不是已经放弃 mac 支持了吗?
    coolmenu
    coolmenu
    Nov 19, 2020
    14
    以后能不能大量购买 M1 芯片,组一个并发网络。10w 的 cpu,比 1080ti 可是省电多啦!!
    lqf96
    lqf96
    Nov 19, 2020❤️2
    15
    @ltltfuture 好希望早日支持 pytorch,不过 pytorch 似乎也已经在用 Metal Performance Shaders 加速训练和运行了( https://github.com/pytorch/pytorch/pull/46112 )...
    @agagega 目前 ML Compute 只支持 CPU 和 GPU,但是 ML Compute 里面有 ANE 相关的 symbol,所以不排除是目前 Neural Engine 的加速不成熟(因为 MLC 是 macOS 11 和 iOS 14 刚加进来的),以后可能就会支持...

    ```
    00007fff2a15aae2 t +[MLCDeviceANE hasANE]
    00007fff2a22b934 t +[MLCDeviceANE hasANE].cold.1
    00007fff2a15b672 t -[MLCDeviceANE .cxx_destruct]
    00007fff2a15ad57 t -[MLCDeviceANE allocateDeviceMemoryForTensor:]
    00007fff2a22bcad t -[MLCDeviceANE allocateDeviceMemoryForTensor:].cold.1
    00007fff2a15b05c t -[MLCDeviceANE broadcastTensor:]
    00007fff2a22c124 t -[MLCDeviceANE broadcastTensor:].cold.1
    00007fff2a15b0b1 t -[MLCDeviceANE broadcastTensor:batchSize:]
    00007fff2a22c1a3 t -[MLCDeviceANE broadcastTensor:batchSize:].cold.1
    00007fff2a15b309 t -[MLCDeviceANE commitAndWaitForCompletion:]
    00007fff2a22c51c t -[MLCDeviceANE commitAndWaitForCompletion:].cold.1
    00007fff2a15b35e t -[MLCDeviceANE commitAndWaitForCompletion:enableProfiling:graphExecutionTime:graphResultTensor:]
    00007fff2a22c59b t -[MLCDeviceANE commitAndWaitForCompletion:enableProfiling:graphExecutionTime:graphResultTensor:].cold.1

    ...
    ```
    sharpy
    sharpy
    Nov 19, 2020
    16
    有问题,我安装了 mac 提供的 tf 包,运行 mnist demo 时,提示在 eager 模式下 gpu 速度慢。
    用 cpu 时耗时 2s,用 gpu 时耗时 9s 。
    wwqgtxx
    wwqgtxx
    Nov 19, 2020 via iPhone
    17
    @sharpy 做性能测试本来就不该用 eager 模式,而且一般要多运行几个循环来去掉 gpu 初始化的时间
    tzm41
    tzm41
    Nov 19, 2020
    18
    测了一下简单的 CNN,不知为何在我的 MBP 16 上 batch 之间会卡住。
    volvo007
    volvo007
    Nov 19, 2020 via iPhone
    19
    Metal 的话,能外接 a 卡提速吗
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2431 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 96ms · UTC 12:18 · PVG 20:18 · LAX 04:18 · JFK 07:18
    ♥ Do have faith in what you're doing.