GPU和神經網路引擎,以及正在使用它們的App。
一個GPU標籤頁和一個神經網路引擎標籤頁:各自有多忙、哪些App在使用、過去幾分鐘的圖表,視窗、選單列和「概覽」中都有。在Apple晶片上,神經網路引擎一直是個謎。在這裡,它是一個數字。
這些數字是模擬的:網頁讀不到你的Mac,也不應該讀到。
GPU有多忙,是哪個App讓它忙。
GPU標籤頁會顯示GPU有多忙、它的記憶體、平均值和峰值、過去幾分鐘的圖表,以及正在使用它的App,用量最重的排前面,所以算圖、遊戲或瀏覽器標籤頁都會如實顯示出來。
- 使用率、記憶體、平均值和峰值
- 正在使用它的App,用量最重的排前面
- 過去5、15或30分鐘的圖表
- GPU溫度和其他感測器一起顯示
1.69 GB記憶體平均32%
峰值95%
神經網路引擎終於有了一個數字。
在Apple晶片上,Vitals會根據神經網路引擎搬移的記憶體量,對照這台Mac搬移過的最大量,算出它有多忙,並指出開啟了它的App,所以「照片」在夜裡為你的圖庫建立索引時,也不再無從察覺。
- 它有多忙
- 開啟了它的App
- 過去幾分鐘的圖表
- 某個App讓它持續忙碌二十分鐘時發出通知
16個核心
你的本機模型在GPU上執行,而不是神經網路引擎。
用PyTorch或MLX執行的模型使用GPU,所以一次Ollama工作階段看起來就是GPU很忙、神經網路引擎很閒。這是正確的,只是第一次看到會很意外。Ollama的記憶體顯示在Ollama名下,正是你會去找的地方。
- PyTorch和MLX在GPU上執行
- Ollama的記憶體在Ollama名下
- GPU在選單列中達到90%時變紅
- GPU也會記入歷史記錄,所以一小時前的算圖依然看得到
每個都有選單列項目,「概覽」中還有一張卡片。
兩者都可以作為選單列項目,顯示數值、曲線圖或兩者,順序由你決定,而且都會在「概覽」中有一張卡片,所以長時間算圖時,什麼都不用打開就能掌握狀況。
- 一個GPU項目和一個神經網路引擎項目
- 數值、曲線圖或兩者
- 「概覽」中的卡片
- 和其他內容一起在下拉式面板中
GPU與神經網路引擎:之前與之後
「活動監視器」給GPU一個「% GPU」欄位和一個「GPU歷史記錄」視窗,給神經網路引擎的則什麼都沒有。在Apple晶片上,神經網路引擎做著實實在在的工作,為「照片」、Spotlight、聽寫和裝置端模型服務,卻一直沒有辦法看到它什麼時候在工作、在為哪個App工作。
與此同時,本機模型真正執行的地方是GPU。PyTorch和MLX使用GPU,而不是神經網路引擎,所以一次Ollama工作階段看起來就是GPU很忙、神經網路引擎很閒,這是正確的,只是令人意外。
Vitals給兩者各自一個標籤頁:有多忙、GPU的記憶體、平均值和峰值、正在使用它的App(用量最重的排前面),以及過去5、15或30分鐘的圖表。神經網路引擎的數字,是根據它搬移的記憶體量對照這台Mac搬移過的最大量算出來的,開啟了它的App也會被點名。兩者都可以作為選單列項目和「概覽」卡片,而且當某個App讓神經網路引擎持續忙碌二十分鐘時,Vitals會通知你。
在Vitals中的位置
標籤頁、選單列項目和設定,依你會用到的順序排列。
- 01
打開GPU標籤頁
GPU有多忙、它的記憶體、平均值和峰值、過去幾分鐘的圖表,以及正在使用它的App,用量最重的排前面。
- 02
打開神經網路引擎標籤頁
在搭載Apple晶片的Mac上:神經網路引擎有多忙、開啟了它的App,以及過去幾分鐘的圖表。
- 03
把它們放到選單列
「設定」→「佈局」→「選單列」:一個GPU項目、一個神經網路引擎項目,顯示為數值或曲線圖。兩者在「概覽」中都有一張卡片。
- 04
讓Vitals幫你留意
GPU讀數在90%時變紅;當某個App讓神經網路引擎持續忙碌二十分鐘時,會發出通知。GPU也會記入歷史記錄,所以一小時前的算圖依然看得到。
背後的詞彙
這些數字代表什麼,摘自活動監視器詞彙表。
問題
購買前,大家對GPU與神經網路引擎最常問的問題。
Vitals會顯示神經網路引擎的使用狀況嗎?
會,在搭載Apple晶片的Mac上:它有多忙、哪些App在使用它,以及過去幾分鐘的圖表,視窗、選單列和「概覽」中都有。
為什麼我的本機模型沒有顯示在神經網路引擎上?
用PyTorch或MLX執行的模型使用的是GPU,而不是神經網路引擎。它們會顯示在GPU標籤頁上。
它會顯示GPU記憶體嗎?
會,同時顯示GPU的使用率、平均值和峰值,以及正在使用它的App。
「活動監視器」會顯示這些嗎?
「活動監視器」有一個GPU欄位和一個「GPU歷史記錄」視窗,神經網路引擎則什麼都沒有。
Vitals怎麼測量神經網路引擎?
根據它搬移的記憶體量,對照這台Mac有史以來搬移過的最大量。macOS不會告訴你是哪個App在使用它,只會說哪些App開啟了它,Vitals點名的就是這些App。
哪些Mac有神經網路引擎標籤頁?
搭載Apple晶片的Mac。Intel Mac沒有神經網路引擎,也就沒有這個標籤頁。
為什麼我執行Ollama時GPU很忙?
因為用PyTorch或MLX執行的模型使用的是GPU,而不是神經網路引擎。它們會顯示在GPU標籤頁上,Ollama的記憶體則顯示在Ollama名下。
它會顯示GPU的溫度嗎?
會,和其他感測器一起顯示;如果是GPU讓風扇轉起來的,也會顯示風扇。
繼續閱讀
用到它的指南,以及Vitals和大家為此購買的App比起來如何。