跳轉到主要內容

GPU 加速

Echophrase 使用 ONNX Runtime 的自動裝置選擇功能,在執行時選擇最快的可用硬體 進行轉錄。您無需進行任何設定 — 應用程式會在首次啟動時偵測您的 GPU 並 自動使用它。

支援的硬體

平台預設加速器所需條件
WindowsDirectML任何 DirectX 12 GPU(NVIDIA、AMD、Intel)— 無需安裝
Windows(Copilot+ PC)NPUSnapdragon X 或 Intel Core Ultra — 自動選擇
macOS (測試中)CoreML(Metal)Apple Silicon(M1+),macOS 13.3+
Linux / WSLCPUGPU 加速已列入規劃

為什麼不再支援 CUDA?

我們以 DirectML 取代了 CUDA 支援。簡單來說:要讓 NVIDIA 驅動程式、CUDA Toolkit 與 cuDNN 三者版本同步,是一場沒完沒了的戰爭,使用者支援工單因此 不斷出現。DirectML 已內建於 Windows,可在所有現代 GPU 上執行(不分品牌), 並能在我們執行的語音模型上提供相當的效能。對於 CUDA 仍占優勢的少數工作負載, 正確的途徑應該是直接使用底層的 ONNX Runtime — 而非 Echophrase。

驗證 GPU 使用

  1. 開啟 Echophrase 設定
  2. 查看 GPU 加速 — 最上方會顯示目前使用的裝置 (例如:「目前使用:Using DirectML (NVIDIA GeForce RTX 3080)」)
  3. 轉錄一個片段並確認轉錄速度很快
如果目前使用的裝置顯示「Using CPU」但您有安裝 DirectX 12 GPU,請查看 GPU 疑難排解

疑難排解

如果 GPU 加速無法運作:
  • 將顯示卡驅動程式更新至供應商提供的最新版本(NVIDIA / AMD / Intel)
  • 確認您的 GPU 支援 DirectX 12(大多數 2015 年後推出的顯示卡都支援)
  • 查看 GPU 疑難排解 以獲得特定平台的協助