【Windows 開發環境設定——NVIDIA 篇】CUDA、cuDNN、TensorRT 三件套安裝

2023-11-14 06:00:57

CUDA

CUDA Toolkit Archive下載相應版本的離線安裝包,這裡以11.7為例。

開啟安裝包,在安裝選項選擇自定義模式,點選下一步

自定義安裝選項中,僅選擇CUDA元件(其中Nsight相關元件用於程式碼偵錯與效能分析),若未安裝顯示卡驅動,選擇NVIDIA GeForce Experience components並點選下一步

可能會出現如下圖提示,警告你未安裝Visual Studio (可參考【Windows 開發環境設定——C++ 篇】VSCode+MSVC/MinGW/Clangd/LLDB+Xmake 安裝),這裡打勾點選下一步即可。

安裝完成後會自動新增到系統的PATH環境變數,無需手動新增。

cuDNN

cuDNN Archive下載相應版本的安裝包,這裡以8.4.1.50為例。

下載完成後,將解壓縮包中的檔案複製到C:\Program Files\NVIDIA GPU Computing Toolkit\cuDNN\v8.4.1.50目錄下。

C:\Program Files\NVIDIA GPU Computing Toolkit\cuDNN\v8.4.1.50\bin新增到系統的PATH環境變數。

Zlib

Zlib是cuDNN所需的資料壓縮軟體庫。在ZLib網站下載32bit64bitzlib123dll.zip(一般為64bit)。

下載完成後,將解壓縮包中的zlibwapi.dll檔案複製到C:\Program Files\NVIDIA GPU Computing Toolkit\cuDNN\v8.4.1.50\bin目錄下,zlibwapi.lib檔案複製到C:\Program Files\NVIDIA GPU Computing Toolkit\cuDNN\v8.4.1.50\lib目錄下。

TensorRT

NVIDIA TensorRT 8.x Download下載相應版本的安裝包,這裡以8.4.2.4為例。

下載完成後,將解壓縮包中的檔案複製到C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4.2.4目錄下。

C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4.2.4\bin新增到系統的PATH環境變數。

TensorRT Python 包安裝

在終端開啟C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4.2.4\python目錄,以python 3.10為例,輸入pip install tensorrt-8.4.2.4-cp310-none-win_amd64.whl即可安裝。

ONNX GraphSurgeon 包安裝

在終端開啟C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4.2.4\onnx_graphsurgeon目錄,輸入pip install onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl即可安裝。