GPU和神经网络引擎,以及正在使用它们的App。
一个GPU标签页和一个神经网络引擎标签页:各自有多忙、哪些App在使用、过去几分钟的图表,窗口、菜单栏和“概览”中都有。在Apple silicon上,神经网络引擎一直是个谜。在这里,它是一个数字。
这些数字是模拟的:网页读取不了你的Mac,也不应该读取。
GPU有多忙,是哪个App让它忙。
GPU标签页显示GPU有多忙、它的内存、平均值和峰值、过去几分钟的图表,以及正在使用它的App,最重的排在前面,所以渲染、游戏或浏览器标签页都会如实显示出来。
- 使用率、内存、平均值和峰值
- 正在使用它的App,最重的排在前面
- 过去5、15或30分钟的图表
- GPU温度和其他传感器一起显示
1.69 GB内存平均32%
峰值95%
神经网络引擎终于有了一个数字。
在Apple silicon上,Vitals根据神经网络引擎搬运的内存量,对比这台Mac搬运过的最大量,算出它有多忙,并说出打开了它的App,所以“照片”在夜里为你的图库建立索引,也不再无从察觉。
- 它有多忙
- 打开了它的App
- 过去几分钟的图表
- 某个App让它持续忙碌二十分钟时发出提醒
16个内核
你的本地模型跑在GPU上,而不是神经网络引擎上。
用PyTorch或MLX运行的模型使用GPU,所以一次Ollama会话看起来就是GPU很忙、神经网络引擎很闲。这是对的,只是第一次看到会觉得意外。Ollama的内存显示在Ollama名下,就在你会去找的地方。
- PyTorch和MLX在GPU上运行
- Ollama的内存在Ollama名下
- GPU在菜单栏中达到90%时变红
- GPU也会记入历史记录,所以一小时前的渲染依然看得到
每个都有一个菜单栏项,“概览”中还有一张卡片。
两者都可以作为菜单栏项,显示数值、曲线图或两者,顺序由你定,而且都会在“概览”中有一张卡片,所以长时间渲染时,什么都不用打开就能盯着。
- 一个GPU项和一个神经网络引擎项
- 数值、曲线图或两者
- “概览”中的卡片
- 和其他内容一起在下拉面板中
GPU与神经网络引擎:之前与之后
活动监视器给GPU一列“% GPU”和一个“GPU历史记录”窗口,给神经网络引擎的则什么都没有。在Apple silicon上,神经网络引擎做着实实在在的工作,为“照片”、“聚焦”、听写和设备端模型服务,而一直没有办法看到它什么时候在工作、在为哪个App工作。
与此同时,本地模型真正跑在GPU上。PyTorch和MLX使用GPU,而不是神经网络引擎,所以一次Ollama会话看起来就是GPU很忙、神经网络引擎很闲,这是对的,只是令人意外。
Vitals给两者各自一个标签页:有多忙、GPU的内存、平均值和峰值、正在使用它的App(最重的排在前面),以及过去5、15或30分钟的图表。神经网络引擎的数字,是根据它搬运的内存量对比这台Mac搬运过的最大量算出来的,打开了它的App也会被点名。两者都可以作为菜单栏项和“概览”卡片,而且当某个App让神经网络引擎持续忙碌二十分钟时,Vitals会告诉你。
在Vitals中的位置
标签页、菜单栏项和设置,按你会用到的顺序排列。
- 01
打开GPU标签页
GPU有多忙、它的内存、平均值和峰值、过去几分钟的图表,以及正在使用它的App,最重的排在前面。
- 02
打开神经网络引擎标签页
在搭载Apple silicon的Mac上:神经网络引擎有多忙、打开了它的App,以及过去几分钟的图表。
- 03
把它们放到菜单栏
“设置”→“布局”→“菜单栏”:一个GPU项、一个神经网络引擎项,显示为数值或曲线图。两者在“概览”中都有一张卡片。
- 04
让Vitals替你盯着
GPU读数在90%时变红;当某个App让神经网络引擎持续忙碌二十分钟时,会发出提醒。GPU也在历史记录中,所以一小时前的渲染依然看得到。
背后的术语
这些数字是什么意思,摘自活动监视器术语表。
问题
购买前,大家关于GPU与神经网络引擎最常问的问题。
Vitals会显示神经网络引擎的使用情况吗?
会,在搭载Apple silicon的Mac上:它有多忙、哪些App在使用它,以及过去几分钟的图表,窗口、菜单栏和“概览”中都有。
为什么我的本地模型没有显示在神经网络引擎上?
用PyTorch或MLX运行的模型使用的是GPU,而不是神经网络引擎。它们会显示在GPU标签页上。
它会显示GPU内存吗?
会,同时显示GPU的使用率、平均值和峰值,以及正在使用它的App。
活动监视器会显示这些吗?
活动监视器有一个GPU列和一个“GPU历史记录”窗口,神经网络引擎则什么都没有。
Vitals怎么测量神经网络引擎?
根据它搬运的内存量,对比这台Mac有史以来搬运的最大量。macOS不会说是哪个App在用它,只说哪些App打开了它,Vitals点名的就是这些App。
哪些Mac有神经网络引擎标签页?
搭载Apple silicon的Mac。Intel Mac没有神经网络引擎,也就没有这个标签页。
为什么我运行Ollama时GPU很忙?
因为用PyTorch或MLX运行的模型使用的是GPU,而不是神经网络引擎。它们会显示在GPU标签页上,Ollama的内存则显示在Ollama名下。
它会显示GPU的温度吗?
会,和其他传感器一起显示;如果是GPU让风扇转起来的,还会显示风扇。
继续阅读
用到它的指南,以及Vitals与大家为此购买的App相比如何。