隨著 AI 應用越來越多,能為工作和生活提升不少使用效率,因此現在買新電腦、組裝電腦時,也都會考量到 AI 效能好不好,最近就有國外網友使用 OpenAI Whisper 的語音轉文字,來測試 Apple M 系列與目前最強顯卡、也是消費型 AI 算力最強的 RTX 4090 相比,哪一個速度最快,實測顯示,M2 Ultra、M3 Max 速度比 RTX 4090 未優化前還快。
OpenAI Whisper 實測顯示,Apple M3 Max/M2 Ultra 比 RTX 4090 還要快
OpenAI Whisper 可說是目前最強的語音轉文字模型之一,先前我們也介紹過網頁版,以及如何在 Windows 10/11 電腦本地安裝和使用 Whisper 模型,無論是中文、英文、日文、還是其他國家語言,幾乎都能準確將影片或聲音中的語音轉成文字,而且完全免費使用。
而最近 Apple 推出一款 MLX 的開源框架,這是專為 M 系列晶片開發的,讓開發者可以利用這框架來進行項目設計、測試和優化,為了了解 Apple M 系列與 RTX 4090 的差距,幾天前國外就有一位 Oliver Wehrens 網友分享 OpenAI Whisper 的測試數據。
他將 M1 Pro 和 RTX 4090 進行比對,使用一個 10 分鐘的聲音檔案,M1 Pro 為 0:03:36.296329 完成,也就是 216 秒轉完,跟 RTX 4090 的 0:03:06.707770(186 秒相比),慢了 30 秒,約 16%,Oliver Wehrens 表示測試過程中,所有 GPU 核心都有充分利用,並且關閉所有程式和禁用桌布等相關背景運行:
隨後一位 Ivan Filoravanti 網友也幫忙測試 M2 Ultra 和 Max 的結果,這兩顆測試出來就比 RTX 4090 還要快。
https://twitter.com/ivanfioravanti/status/1734644638357573679
M3 Max(40 核心 GPU)用了 100 秒就完成,M2 Ultra(76 核心 GPU)更只要 95 秒,比起 RTX 的 186 秒快上不少:
只不過隨後使用 NVIDIA 優化模型(insanely-fast-whisper)後,RTX 4090 就完全超前了,這 10 分鐘的聲音檔只需 8 秒就能轉完全部,速度非常驚人。Oliver Wehrens 也有實測在 macOS 運行這模型,但都比 MLX 框架還要慢。
由此可見,在不考量其他因素的環境中,RTX 4090 還是最強王者。而 Apple M 系列雖然輸,但有一個明顯優勢,就是「功耗」,遠低於 RTX 4090。Oliver Wehrens 也補充這結果不是科學測量,只是為了展現 Apple MLX 框架。
以下是 Oliver Wehrens 的測試環境
MacBook 規格:
- M1 Pro 的 14 吋 MacBook,8 個(6 個效能和 2 個效率)核心(2021 年型號)
- 32GB 記憶體
- 16 核心 GPU
PC 規格:
- Intel Core I7-12700KF 8x 3.60GHz
- 64GB 記憶體
- GeForce RTX 4090, 24GB GDDR6X / Palit RTX 4090 GameRock OmniBlack